北伐時期
1927年4月5日，武漢國民政府為適應北伐戰爭需要，將唐生智部改編為第四方面軍，歸屬以蔣介石為總司令的國民革命軍第一集團軍統轄。蔣介石發動四一二政變後，武漢政府下令將第一集團軍所屬的第一、二、三、四方面軍收歸武漢政府軍事委員會直轄。6月15日，武漢政府又將唐生智第四方面軍擴編為國民革命軍第四集團軍，任唐生智為總司令。1929年3月，桂系被蔣介石打敗，所部為蔣系軍閥改編，第四集團軍瓦解。
抗日時期
抗日戰爭是世界反法西斯戰爭的重要組成部分，中國抗日戰場是同盟國在亞洲地面作戰的主要戰場，中國抗日軍隊在八年對日作戰中，殲滅、消耗及牽制了日本法西斯的絕大部分陸軍，為第二次世界大戰及反法西斯戰爭的最後勝利作出了巨大的貢獻。在整個抗日戰爭中，中國陸軍先後編成40個番號的集團軍參加對日作戰。
1937年8月中旬奉令組建，首任集團軍總司令為蔣鼎文，下轄第二軍的第三師、第八十師及獨立旅等部，屬第四戰區指揮管轄。淞滬會戰後期，該集團軍的第二軍曾赴上海參戰。1938年7月，該集團軍管轄第八十軍的第七十五師和第八十師，駐守福建，後該地防務及部隊改歸陳儀為主任的閩綏靖區和第二十五集團軍指揮。第四集團軍的番號轉而劃歸第二戰區，由原楊虎城將軍第十七路軍出陝抗日並在著名的娘子關戰役和堅守中條山諸戰中屢立戰功的部隊為主擴編而成，集團軍總司令為孫蔚如、副總司令為李家鈺，下轄第三十八軍、第九十六軍、第四十七軍，駐防山西南部。1940年，李家鈺率第四十七軍脫離第四集團軍，另行組建第三十六集團軍。1941年起第四集團軍轉歸第一戰區指揮管轄。中條山戰役後，第四集團軍退過黃河，駐守河南。1943年夏，國民黨中央嫡系第十四軍加入第四集團軍戰鬥序列。爾後，國民黨中央以明升暗降手法將第四集團軍主力第三十八軍軍長趙壽山調任其嫡系第三集團軍總司令，任命黃埔生張耀明為第四集團軍副總司令兼第三十八軍軍長。1944 年中原會戰時期，第四集團軍在登封、汜水一線戰鬥中曾給予日軍以沉重打擊。1945年7月1 7日，又以提升孫蔚如為第六戰區司令長官為由，將其調離第四集團軍，旨在控制和分化楊虎城的舊部。
