1933年3月，江南鐵路開工，1934年11月25日，南京中華門到宣城孫家埠通車。江南鐵路繼續延伸接通浙贛鐵路形成了京贛鐵路的規劃。
1936年5月，京贛鐵路工程局成立，開始全線勘測設計。此次將皖境鐵路與贛境鐵路分為兩段，分別於1936年9月和1937年2月先後開工，1937年7月和10月相繼鋪軌。1937年11月，南京、宣城相繼淪陷，即將建成的皖贛鐵路被迫停工。淪陷時全線路基橋涵已基本完成，南北兩端已部分鋪軌。1938年夏，日軍逼進中原，國民黨政府命令當地駐軍破壞路基橋涵、隧道，拆除軌道，此後，初具規模的皖贛鐵路只留下了一條殘缺不全的路基。
新中國成立後，國務院即把重新修建皖贛鐵路列入國民經濟發展規劃。1958年9月至1961年7月，先後兩次開建，時間不長即停止修建。1971年至1973年，南昌鐵路局管段自建通車。安徽境內則由安徽省組建皖贛鐵路建設總指揮部，各地縣成立指揮部，組織民兵團和部分專業隊伍施工。不久，由於國家壓縮基建投資規模，省指撤銷，民兵返鄉，皖贛線再次停建。
1973年，交通部（當時鐵道部與交通部已合併）決定，蕪湖至景德鎮的修建任務交給四局完成（註：1970年底，第四工程局和第四設計院合併為交通部第四鐵路工程局，原鐵道部基建總局局長閻海青任局長，由武漢軍區軍管，局機關設在武漢四院原址）。為了保證皖贛線及時開工，經軍管會和局領導研究決定，全線施工隊伍由三個工程處組成，並成立以副局長劉漢東為指揮長、政治部副主任王志進為政委的皖贛鐵路建設指揮部。三個處分別為第五工程處和1973年5月與1974年7月分別從昆明鐵路局歸建的第四、第六工程處。
1974年7月1日，皖贛線正式開工。萬萬沒有想到，這條歷盡滄桑的鐵路又會遇到新的挫折和嚴重干擾。開工不到一年，由於國家壓縮投資規模，而建路需要的鋼鐵水泥木材等供應不足，只好削減施工隊伍，停止隧道橋樑等重大工程項目，留下部分人員肩負起路基土石方的施工任務。1975年，負責皖贛北段施工任務的第四工程處調往河北靜海，參加津浦鐵路北段的改造，留下的任務則由第六工程處承擔。從此，皖贛線打破了線、橋、隧齊頭並進的常規，放慢了施工速度。這是鐵四局進駐皖贛線後遇到的第一次挫折。
1975年10月，正當全國人民開始扭轉十年動亂造成的社會動盪、經濟停滯的局面，各項事業出現新氣象的時刻， “四人幫”打著批林批孔的旗號，掀起“反擊右傾翻案風”高潮。此時的六處造反派也活躍起來，使全處管段的施工生產基本處在於停工狀態。
1976年10月，隨著“四人幫”的垮台，六處的造反派也垂頭喪氣地沉默下來。為了使一度癱瘓的六處重新振作起來，安徽省委聯絡組和局工作組以舉辦學習班的形式，把近200名造反骨幹集中起來，用三個月時間進行學習，分清是非，開展批評與自我批評。與此同時，對處段領導班子再次做了調整，對個別造反派骨幹給予適當處分，將參加學習班的部分人員調離六處，到其它工程處另行分配工作。動亂了十年的六處終於平靜下來。
1977年1月，皖贛鐵路恢復施工建設。景德鎮南至貴溪段132公里，於1980年7月1日建成並投入運營。蕪湖至景德鎮南段407公里，1981年12月臨管運營。1982年10月1日，皖贛鐵路全線通 車，第一列旅客列車於中午12時50分到達景德鎮站。當日，中央人民廣播電台和新華社均播發了皖贛鐵路通車 訊息。
