抗戰期間編制
1937年7月，抗日戰爭全面爆發後，國民政府國民革命軍軍事委員會以該師為基礎擴編為第61軍，李服膺任軍長。下轄：第101師，李俊功任師長；第200旅，劉香馥任旅長；獨立第7旅，馬延守任旅長，該軍組成後，隸屬第7集團軍，先後參加了太原會戰中的晉北戰役和忻口戰役。在晉北戰役中，軍長李服膺因指揮作戰不力，丟掉了天鎮戰略要地，致使晉北雁門關等關隘被日軍乘勝奪占。10月，被閻錫山在太原處死後，陳長捷繼任軍長，黃士桐任副軍長。同時，對部隊進行調整，將第101師改隸第35軍，第200旅改隸騎兵第1軍；另將第35軍第69師，第19軍第72師調歸該軍，此時，該軍下轄：第69師，呂瑞英任師長；第72師，梁春溥任師長；第208旅，高璽波任旅長。此次編制調整後，該軍駐防山西擔任守備任務。
1939年5月，該軍隸屬第6集團軍時，陳長捷升任第6集團軍總司令，呂瑞英繼任軍長。下轄第69、第72師、第208旅編制不變。1940年，第208旅擴編為暫編第48師。1941年11月，呂瑞英升任第6集團軍副總司令後，該集團軍副總司令梁培璜改任該軍軍長，郝士文任副軍長。此時，該軍下轄第69師，高璽波繼任師長；第72師，許鴻林任師長；暫編第48師，婁福生任師長。
勝利後編制
1945年9月，抗日戰爭勝利後，國民革命軍軍事委員會軍隊進行整編時，該軍暫編第48師被裁減，另將被裁減的第83軍第66師改隸該軍。該軍即轄第66師，李佩膺任師長；第69師，趙向智任師長；第72師，王熙明任師長。此次整編後該軍隸屬第8集團軍。同年底，梁培璜升任集團軍副總司令職兼軍長時，該軍改隸第6集團軍。
內戰時期編制
1946年初，梁培璜它調，王靖國以集團軍副總司令兼軍長，下轄：第66師，婁福生任師長；第69師，周建祉任師長；第72師，艾子謙任師長。同年8月至1947年1月，該軍先後參加了洪趙戰役、汾孝戰役等。在這兩次作戰中，第69師被人民解放軍殲滅大部。1947年初，閻錫山第2戰區編為太原綏靖公署時對部隊進行了調整，王靖國免兼軍長職，趙恭繼任軍長，隸屬太原綏靖公署，下轄第66師、第69師、第72師編制不變。1948年3月至6月，該軍在臨汾戰役和晉中戰役中，第66師、第72師先後被人民解放軍全殲。此次作戰後重建第66師、第72師，由李樹榮、陳振東分別任師長。晉中戰役失敗後，該軍與其他晉軍一起固守太原孤城。1949年4月，該軍在太原戰役中被人民解放軍全殲，副軍長婁福生及各師師長被俘。
