最早的璦琿，建於明朝永樂年間。永樂皇帝為適應對元朝殘餘勢力鬥爭的需要，在黑龍江左岸，精奇里江與黑龍江匯合處的下游，即今天的俄羅斯境內維笑勒伊村一帶，建起了個璦琿城。
璦琿的名字源於附近的璦琿河。璦琿又有“艾輝”、“愛乎”、“艾虎”、“艾滸”等多種稱謂，皆為達斡爾語音譯。翻譯成漢語，就是“可畏”的意思。
到了清朝，璦琿成為第一任黑龍江將軍薩布素的駐地。因地處江東，與內地的交往頗為不便。1685年，清政府同意將黑龍江將軍駐地由江左岸遷往江右岸，即今天的璦琿城的位置，重新建築城寨，名字仍為璦琿。這就是現在的璦琿古城。
璦琿城，內環崇嶺，外襟大江，為當時黑龍江沿岸最大的城鎮。據《盛京通志》記載，新建的璦琿城的內外建築情況是這樣：內城植松木為牆，中實以土，高一丈八尺，周圍一千三十步，門四；西南北三面，植木為廓，南一門，西北各二門，東南臨江，周圍十里。”
貫穿外城的南北大街是璦琿新城的商業區。對於這條大街，俄國人馬克在《黑龍江遊記》中有過生動的描述。他說：“我們走出要塞大門後，一條相當長而又寬闊的大街立刻展現在眼前，這條街與河岸平行延伸著，大街兩旁有許多小巷和另外一些街道，幾乎每棟房子臨街的一面都是店鋪，每個店鋪都寫有花花綠綠的漢文和滿文招牌，而在木桿上還飄揚著用紙剪成的各種各樣的圖形，三角旗和龍，所有這些，都使市街顯得十分奇特。”
新建的璦琿城還同時建起了許多廟宇，如城隍廟、龍王廟、文廟、真武廟、關帝廟、大佛寺、魁星閣等。
璦琿城人傑地靈，先後出過9位將軍。關於這9位將軍，還有一個動人的傳說。相傳建璦琿城時，有一位風水先生來到這裡。看到這裡山清水秀，江面筆直，艷陽下猶如寶鏡熠熠放光，便告訴人們，璦琿是塊寶地，十里大江要出十位將軍。但是，要鎮住這裡的風水必須修座塔。人們照風水先生的意見辦了。不料，在挖塔基時，突然從地下飛出一隻蝴蝶。風水先生聞訊後，便連聲感嘆：風水破了，出不了十位將軍了，只能出9位將軍。
9位將軍的石碑就豎在城南的松林里，每座石碑的碑文都用漢、滿兩種文字刻成。遺憾的是，這些極有價值的文物，都在動亂年月人為地毀掉了，沒有留下太多痕跡。
然而，最終毀壞璦琿風水的不是那隻蝴蝶，而是沙俄侵略者。
據專家學者們考證，璦琿魁星閣大約建於清朝光緒十八至二十六年間，即公元1892年~1900年。民國璦琿縣公署檔案中的《中國地理大詞典縣邑調查表》對魁星閣是這樣記述的：“城內東隅有魁星樓一座，高約三丈余，均為磚木砌成，上塑魁星像，登樓俯瞰城郭，歷歷在目。庚子之亂，全城盡被焚毀，惟此樓巍然獨存，實可為古蹟之一也。”
魁
魁星閣也曾有過不準遊人登高觀賞的歷史。1933~1939年年間，偽滿混成15旅步兵18團1944年偽滿璦琿守備隊將魁星閣作為崗樓時，成為軍事要地，遊人當然是要避而遠之的。
璦琿魁星閣從始建至今，百餘年間，歷盡滄桑，命運多舛。1900年，沙俄侵略者將古城璦琿付之一炬，整個城市變為廢墟，魁星閣卻奇蹟般的得以倖存。45年後，即1945年8月，蘇聯紅軍的炮火又正正噹噹的擊中了它，致使閣頂塌陷。1950年，當地居民又將傷痕累累的魁星閣拆毀，只剩下了長條基石
鑒於魁星閣是中華民族珍貴的文化古蹟，它不僅目睹了中華民族恥辱的一頁，也記載了我國軍民可歌可泣的英雄事跡。為此，原璦琿縣委、縣政府於1980年作出復建魁星閣的決定，並得到黑龍江省委、省政府的積極支持。同年7月，復建工程正式動工。施工圖紙是根據當時任嫩江縣人民武裝部部長的陶茂璞同志珍藏的一副璦琿魁星閣的老照片繪製的。
復建工程歷時3載。1983年7月16日，中共黑河市委、市政府為落成的魁星閣舉行典禮儀式。原黑龍江省省長陳雷同志為魁星閣題寫了“魁星閣”三字匾額。一年之後，來自遜克的個體雕塑家王衛德為魁星閣雕塑了栩栩如生的魁星像，為魁星閣復建工程劃上了一個句號。
1906年春，黑龍江將軍程德全派遣副都統姚富升接收璦琿。姚富升到任後，遍訪村民，賑濟百姓，又赴海蘭泡（今俄布拉戈維申斯克）與沙俄交涉，終於迫使俄軍於1907年5月撤出璦琿。
璦琿收復後，姚富升親率善後司旗各員進行勘查，在一片瓦礫上，重建璦琿新城。
璦琿新城東南西北各有城門一座，南門外建一城隍廟，城內十字街中間建起鐘樓一座，城內除衙署公所、城隍廟、文廟的學堂外，其餘均為居民住宅。城東臨江留馬路街基，南北門外大街兩旁均做交易區。
璦琿古城的變遷史在時時警示後人：落後必然挨打，富強才能保國。
