西漢元封五年(前106年)置臨沂縣治。對此,《水經注》、《太平寰宇記》等書都有明確記載。隋大業初年(605年),臨沂、開陽、即邱3縣合併為臨沂縣,治於開陽(今臨沂城),臨沂故城曾因“諸葛亮來居於此,亦名為諸葛城。”遺址系高出地表2至3米的平台,周長約4.5公里。東西兩面存有護城河遺址,東南角存有一段城牆,上有明顯的夯土層及棒洞。遺址中採集到東周時期的鬲、豆及漢代磚、瓦等碎片,並發現清嘉慶二十一年(1816年)立鴻福寺碑,上書“沂郡東北中邱城動有鴻福寺院,創建於唐……”等語。
諸葛城舊有“武侯祠”,碑文記載諸葛家族來此“避兵”等事,可惜在“文化大革命”中被毀。歷代文人墨客將諸葛城當作諸葛故里,留下諸多詩文。明代大臣陳玉《諸葛武侯祠》詩云:“鹿走人間漢鼎移,南陽山色草廬低。臥龍不起扶江表,瞞賊長驅到隴西。渭水古川春雨滑,丈原壘高陣雲迷。年來獨有祠前柏,歲照籠蔥越鳥啼。”明萬曆進士周京《諸葛城》詩云:“三分籌策已茫茫,魚腹千秋戰壘黃。馬上欲尋臥龍處,空城斜日下牛羊。”