1927年4月,南京國民政府成立,5月,交通部成立。暫設於慈悲社。1932年,朱家驊接任交通部長,為改善辦公條件,在中山北路以建築郵電部大廈的名義,興建交通部大樓。大樓由俄國人耶朗設計,建築平面為“日”字形,主樓與兩翼附樓之間各設計了一個天井。鋼筋混凝土結構,樓高三層,屋頂設計採用中國傳統宮殿式的重檐歇山頂,琉璃瓦屋面,頗為富麗堂皇。庭院布置了園林綠化(院落占地達到19500平方米)。大門前則模仿北京故宮前金水河與金水橋的設計。至1934年大樓竣工。交通部大樓總建築面積18933平方米,與鐵道部大樓(中山北路252、254號)隔馬路對峙。
1937年12月,日軍進攻南京,炮火擊中交通部辦公樓,大屋頂被焚毀。
1949年以後,解放軍占用這座建築。1953年,修復了辦公大樓,但是改為鐵皮平屋頂,其它部分大體保持原樣。
1992年,國民政府交通部舊址被列為南京市文物保護單位,2001年列為全國重點文物保護單位。