南京市立圖書館即今金陵圖書館前身，創立於1927年（民國十六年）6月9日，最初名為南京特別市立（第一）通俗圖書館，借原平江府布道所為館址。1928年7月改稱為南京市立第一圖書館。1930年4月易名為南京特別市立民眾圖書館，館址遷入泮宮。1932年6月，與民眾科學館合併。1933年9月，改稱南京市立圖書館。1937年（民國二十六年）12月13日，日軍占領南京 後，放火（一說遭炮火）將泮宮連同市立圖書館燒毀，圖書大多焚毀殆盡，其中包括搜購齊全自原始至晚清革命的所有縉紳錄，這類書對於考證歷代官制的變遷、人物經歷等很有參考價值。目前金圖仍珍藏有南京市立圖書館的藏書，極有寶貴的歷史意義，也對今後開展南京市公立圖書館史研究提供了有價值的實證。
1952年南京市從中央特別市降為江蘇省省會，1958年南京市政府決定籌建新的市圖書館，中經困難時期和文革干擾，1980年10月建成開放，初名南京市人民圖書館，1984年10月改名為“金陵圖書館”。館址位於長江路262號，館舍面積7300平方。米新館2005年開工建設，2009年交付使用，2010年10月18日舉行開放儀式，館址位於建鄴區樂山路158號，占地面積38641平方米，總建築面積25125平方米，內設閱覽座位1375個，並有報告廳、多功能廳、展覽廳、視聽室、培訓、餐廳、茶室、停車場等配套服務設施。
2009年，作為副省級城市圖書館，榮獲國家文化部授予的“一級圖書館”稱號。“金圖講壇”數十年來孜孜以求的面向市民大眾開展公益性知識講座，拓展了圖書館延伸服務的領域，2010年榮獲國家文化部頒發的“群星獎”這一文化服務領域政府最高獎。2010年6月，被國務院授予第三批“全國古籍重點保護單位”。
參閱“金陵圖書館”詞條。
