第四軍前身
“粵軍”最先原為 廣東省長 朱慶瀾之親軍。1917年 護法運動開始前， 朱慶瀾將該二十營親軍交予 陳炯明，成為孫中山護法運動時在廣東的軍事基礎之一。1918年， 孫中山命陳炯明將親軍改為“援閩粵軍”，赴 閩南、 粵東 潮汕一帶，建立閩南護法基地。後來孫被 桂系迫離粵，第一次護法失敗。粵軍在陳炯明的領導下發展至二萬人左右，於1920年8月 第一次粵桂戰爭中回師 廣州，驅走桂系，孫中山遂得以回粵，展開第二次護法。
粵軍第一師時期
為提高粵軍的質素，粵軍集中精英編訓“第一師”，作為全軍模範。第一師以粵軍參謀長 鄧鏗為師長， 李濟深為參謀長，師內軍官大部分為 保定軍校畢業生，無論文化、軍事技術、訓練質素俱佳。不少粵軍第一師軍官日後成為民國的風雲人物，日後的抗日戰場上，全國十幾個戰區，就有四個戰區司令出自粵軍第一師。與當時大部分地方軍隊一樣，粵軍軍官大部分為廣東人，只有少數為其他省籍。1922年初，孫中山與陳炯明之間的矛盾日增， 鄧鏗於3月21日在廣州大沙頭車站遇刺，孫、陳雙方氣氛緊張。當年6月16日，陳炯明舊部葉舉、洪兆麟發動兵變，孫、陳正式破裂，粵軍內部分裂。第一師亦內部分裂，部分軍官效忠陳炯明，部分則支持孫中山。最後於 1923年初，在師中大部分中級軍官的活動下，主力投向孫中山，同時聯合其他部隊，成功將陳炯明驅離廣州。 1924年初孫中山重回廣州，粵軍改名為“建國粵軍”。當時第一師師長為 梁鴻楷。同年5月始建 黃埔軍校，不少教官皆是由粵軍第一師借調，如李濟深、 鄧演達、 陳誠、嚴重等當時俱為粵軍一師軍官，相當一部分軍費也是由第一師撥給。 1925年，粵軍第一師與許崇智粵軍、黃埔軍校學生軍東征陳炯明，又派陳濟棠旅出 西江支援 李宗仁、 黃紹竑。
國軍第四軍時期
成立
1925年7月，國民政府正式在廣州成立，統一各駐粵軍隊為國民革命軍。粵軍第一師改為第四軍，下轄三師。當時編制如下：
軍長： 李濟深
副軍長： 陳可鈺
參謀長： 鄧演達
政治部主任： 麥朝樞
第十師
師長： 陳銘樞
副師長： 蔣光鼐
下轄二十八團（ 蔡廷鍇）、二十九團（孫繩）、三十團（ 戴戟）
第十一師
師長：陳濟棠副師長： 徐景唐（後任十三師師長，由 鄧世增接任）
下轄三十一團（ 余漢謀）、三十二團（ 香翰屏）、三十三團（ 黃鎮球）
第十二師
師長： 張發奎
副師長： 朱暉日
下轄三十四團（1926年6月前團長為 葉挺，後三十四團改編為獨立團先期參加北伐，三十四團重建，團長為 許志銳）、三十五團（ 繆培南）、三十六團（ 黃琪翔）
第十三師（北伐前由第五軍轉過來）
師長： 徐景唐
副師長： 陳章甫
下轄三十七團（ 雲瀛橋）、三十八團（陸蘭培）、三十九團（ 陳章甫）
獨立團（1926年6月由三十四團改編而成，先期參加北伐）
團長： 葉挺
北伐
1926年中國民政府展開北伐。第四軍中的第十師、第十二師及獨立團由副軍長 陳可鈺指揮開往前線；軍長李濟深身兼國軍總參謀長，則與第十一師和第十三師留守廣東。在 北伐戰爭中，四軍所向披靡。在 汀泗橋、賀勝橋大勝 吳佩孚部，攻下 武昌，第四軍亦因此被譽為“ 鐵軍”。第四軍亦於年底獲得擴編，第十師編為十一軍，陳銘樞為軍長，蔣光鼐為副軍長，下轄第十、第二十四及二十六師。第十二師則編為第四軍，由張發奎任軍長， 黃琪翔為副軍長，下轄第十二、二十一、二十五師。之後第四軍東進，在 江西擊破 孫傳芳主力，攻下 九江及南昌。
分裂
1927年初， 寧漢分裂， 蔣介石等將國民政府遷往 南京，與 武漢對立。同時南京政府於4月開始清黨，捕殺共產黨人。廣東、 廣西亦配合清共。於前方的第四軍在張發奎指揮下向武漢效忠。第十一軍陳銘樞等則因與 唐生智不和，離開軍隊赴南京，第十一軍亦交張發奎指揮。其後武漢與南京分頭北伐，四軍及十一軍在 河南再大敗 張作霖奉軍。同年7月底，武漢方面決心分共，第四軍軍中共產黨員甚多。最終共產黨於 8月1日在 南昌發動 南昌起義，由共產黨控制的第四軍一部分參加。最後仍為張發奎指揮的部隊只剩第十二師及第十一軍二十六師不足兩師。十一軍第十師最初亦參加南昌暴動，後來脫離共產黨開赴 福建，由陳銘樞管制並效忠南京。至此原四軍分裂成：中國共產黨的 紅四軍、張發奎指揮之四軍一部、陳銘樞指揮之十一軍，及李濟深指揮駐廣東的四軍一部。
內戰
南昌暴動後，張發奎率殘部追趕共軍至廣東，但未有跟隨至潮梅，而是取得李濟深的準許南下到廣州一帶。當時李濟深與桂系合作，表面上支持南京蔣介石。由於張發奎部與李濟深部番號重複，於是改李濟深部為“新編第四軍”。當年11月， 張發奎與 黃琪翔，連同 薛岳（李濟深新編第四軍下新編第二師師長）、 李福林（第五軍軍長）等乘李濟深離粵發動政變，意圖驅逐駐廣東之桂系及李濟深，迎接 汪精衛到廣州主事，未料當時四軍內仍潛伏之共產黨乘機在 廣州起義。張、黃因而被迫下野，第四軍以 繆培南、 薛岳任正副軍長。第四軍被桂系、李濟深的 陳濟棠、與及 陳銘樞圍攻；劇戰後大敗，被迫撤離廣東往江西投靠蔣介石。李濟深回粵後，取消原張發奎部的“第四軍”番號，將陳濟棠部稱為“第四軍”。1928年中，原張發奎部第四軍回響蔣介石提出的裁軍通電，被縮編為第四師， 繆培南任師長，下轄三個旅。到了1929年中，蔣介石與桂系爆發 蔣桂戰爭，張發奎率第四師與桂系作戰，進駐 湖南。 蔣介石取得勝利後，企圖將第四師繳械，張於是又聯合桂系反蔣，再次起用“第四軍”番號，並南下廣東。但是在廣東花縣一帶為 陳濟棠及 陳銘樞部所大敗，被迫撤返廣西。次年初，被蔣光鼐在 北流大敗，只剩三團約五千人。年中，爆發 中原大戰，再以四軍之名聯合桂系參加反蔣。但開至湖南後為 陳銘樞部切斷而敗退，全軍只剩一千餘人。之後第四軍縮編，部隊併入桂系內。至1931年， 胡漢民被軟禁，兩廣反蔣。此時又恢復第四軍番號，再以 張發奎為軍長。 九一八事變後廣東與南京複合，南京方面再正式恢復第四軍。1932年，第四軍離開廣西，進入江西參加對共軍作戰。張發奎辭去軍長，由 吳奇偉任，自此第四軍屬中央軍系列。
後續（國軍方面）
抗日戰爭中的第四軍先後參加淞滬、武漢、 長沙會戰。抗戰勝利後於1946年整編為第四師。後又恢復第四軍番號。在解放戰爭中曾被殲滅，後在廣東重建。1950年從 海南撤往 台灣。
另一方面，分別由陳銘樞及陳濟棠領導之原第四軍部分則繼續擴編。 陳銘樞部（原四軍十師、十一軍），在中原大戰中為蔣介石所用，獲擴為 十九路軍，在一二八事變中成為聲明大噪的抗日軍隊。然而亦因此而被調往福建剿共，引發 閩變，失敗後被收編解散。陳濟棠部（原四軍十一師、“新編第四軍”，後改為“第八路軍”）則在陳濟棠主政廣東時大幅擴張至三個軍，另加海空軍及各式獨立旅等共十多萬人。1936年陳濟棠反蔣， 余漢謀被南京任為“第四路軍”總司令，代替陳主政廣東。至抗戰開始後廣東部隊除防守廣東外，主力更被抽調至 上海、武漢等戰場。
後續（中共方面）
南昌起事的原國民 革命軍第四軍所部由 朱德帶領輾轉與南部各省，最終加入 毛澤東指揮的 井岡山部隊，兩軍合併後，為了繼續保持鐵軍的名號，改稱工農革命軍第四軍，後稱 中國工農紅軍第四軍。
抗戰開始後，留守在南方八省打游擊的紅軍被國民政府改編。由於該部有一些原國軍第四軍起事產生的部分，且新部隊的軍長為當年為第四軍被稱為“ 鐵軍”時期的第十二師獨立團團長的的 葉挺。葉挺提議將改編後的番號叫 “ 新四軍”，以繼承和發揚過去鐵軍的光榮傳統。
國民革命軍第四軍的部分編制延續至今在 中國人民解放軍中依然存在。中國人民解放軍127師被認為是第四軍的編制後代，繼續以“鐵軍”為旗幟。其中的步兵第127師第379團被認為是當年第四軍中能征慣戰的“葉挺獨立團”的後代。
國民革命軍第四軍