湘軍組成
該軍前身是湘系唐生智所屬湘軍一部。1926年3月，湘軍軍閥唐生智部起兵趕走了湖南省長趙恆惕，自任代理省長和善後督辦。同年4月，湘軍其他各部起兵反唐。唐生智被迫接受國民政府改編，其所屬一部編為第4師和教導師，隸屬第8軍。1927年2月，第4師和教導師被擴編為第36軍。劉興任軍長，周斕任副軍長。下轄：第1師，廖磊任師長；第2師，唐哲明任師長；第3師，周維寅任師長。該軍組成後，便奉命參加北伐，隸屬劉興第2梯隊。同年5月上旬，該軍在圍攻西平之戰後，部隊撤回武漢。7月，被編為江右軍進軍至蕪湖，參加東征討蔣作戰。11月，南京政府西征討唐，該軍在南京政府軍進攻下兵敗，退至湖南淑浦後被桂系改編。1928年3月，劉興辭去軍長一職，由廖磊接任軍長。1928年5月，該軍在桂系軍隊的編成內，參加對奉軍的北伐，進軍至冀東地區。1929年1月，該軍被縮編為第53師。
陝軍組成
該軍前身是陝軍一部。1930年秋，在中原大戰中，隸屬閻錫山的原陝軍李紀才部和鄧英部，被國民黨中央軍改編後合編為新編第13師。1931年6月，第13師該番號為第79師。同年7月，蔣介石為加強對中央蘇區和紅軍的“圍剿”，以第79師為基礎擴編為第36軍，任命路孝忱為軍長。下轄第79師，路孝忱兼任師長。該軍編成後，便奉命參加了對中央蘇區和紅軍的第3次“圍剿”作戰。1932年9月，由於該軍軍長路孝忱病死，該軍番號撤消，部隊編散。
贛軍組成
該軍前身一部為贛軍賴世璜第4師。1926年8月，隸屬直系孫傳芳的贛軍被國民革命軍擊敗後，被改編為國民革命軍第十四軍。1929年初，該軍被縮編位第5師。1933年9月，蔣介石為加強對中央蘇區和紅軍的“圍剿”，將第5師和第96師合編為第36軍，周渾元任軍長。下轄：第5師，謝溥福任師長。第96師，蕭致平任師長。1934年11月，該軍被編成第8縱隊，由湘鄂入黔川抵陝甘，參加追擊與堵截對紅二方面軍長征的作戰。
1937年8月，抗日戰爭全面爆發後，該軍第5師由甘肅開赴上海，參加淞滬會戰，由於在此次會戰中，第5師損失慘重，難以補充重建，該師番號和編制被撤消。此時，該軍僅轄第96師，趙錫光任師長。1938年2月，軍長周渾元病逝，姚純繼任軍長，謝溥福任副軍長。同年10月，該軍奉命由甘肅調防湖北，隸屬國民革命軍第二十二集團軍，參加了武漢會戰。1939年初，該軍由湖北移防重慶，隸屬江防司令部，擔任重慶衛戍任務。年底，又由重慶移防廣西，隸屬抗日戰爭第四戰區，參加桂南會戰。在桂南會戰中，軍長姚純、參謀長郭肅因指揮作戰不力，被撤職查辦。部隊由於傷亡嚴重，該軍番號被撤消，原所屬第96師該隸國民革命軍第5軍建制。
新編
1940年5月，國民政府為加強陝西、山西和河南三省邊界北地區的對日作戰力量，將新組建的新編第34師、暫編第15師等部在河南靈寶地區編成第36軍。隸屬國民革命軍第三十四集團軍，趙錫光任軍長，劉元塘任副軍長。下轄：新編第34師，馬志超任師長；暫編第15師，劉宗寬任師長。1941年5月，新編第34師奉命改隸國民革命軍第57軍，另將暫編第52師和暫編第59師列入該軍序列。此時，該軍下轄：暫編第15師，劉宗寬任師長；暫編第52師，林英任師長；暫編第59師，李潔任師長。1942年，該軍由河南調防陝西，隸屬國民革命軍第三十七集團軍。同年6月，軍長趙錫光升任第37集團軍副總司令，劉元塘繼任軍長，羅歷戎、魏炳文、周世冕任副軍長。1943年，劉元塘調走後，羅歷戎繼任軍長，周世冕、張占魁、陳金城任副軍長。
1945年初，國民黨軍進行均等編制調整，該軍所轄暫編第15師被裁減，暫編第52師、第59師合編為第123師，另將國民革命軍第80軍被裁減後的第165師和第80軍原轄新編第27師、第37師合編為第28師改隸該軍。同時，將該軍軍長羅歷戎與國民革命軍第3軍軍長李世龍對調職務。同年7月，李世龍升任第37集團軍副總司令，鍾松繼任軍長，下轄：第28師，徐保任師長；第123師，盛文任師長；第165師，李日基任師長。此次整編後，該軍隸屬第37集團軍，為配合胡宗南主力在西北地區的作戰，同年8月至9月，該軍在隴海路沿線地區，對解放區執行“清剿”作戰任務。
1946年6月，國民黨對軍隊進行整編時，該軍改編為整編第36師，原軍長鍾松改任師長。原下轄第28師、第123師、第165師，依次改編為整編第28旅、整編第123旅、整編第165旅。此次整編後，該師隸屬於整編第29軍（第37集團軍），駐防陝西關中地區。同年6月至8月，該師一部參加了尾追堵截人民解放軍中原突圍的作戰。12月底，該師參加了與人民解放軍在關中地區的爭奪戰。在此次作戰中，該旅遭受重創，其一部被人民解放軍圍殲。1947年3月至同年秋，國民黨軍對陝北發起重點進攻後，該師在西北戰場上多次與人民解放軍交戰，先後參加攻取延安、青化砭戰役、羊馬河戰役、蟠龍戰役等作戰。同年7月，該師組成援榆快速兵團，增援榆林。8月，該師在沙家店戰役中，師部及所轄第123旅全部、第165旅兩個團被殲。此次作戰後，該師由於傷亡慘重，移防銅川一帶進行增補。
1948年春，該師被編入裴昌會第5兵團，隸屬西安綏靖公署。同年4月至8月，該是先後參加了西府隴東戰役和澄合戰役。在澄合戰役中，該師少將參謀長張先覺、高級參議李秀等被俘，大部被殲。同年9月，整編第36師恢復第36軍番號，鍾松任軍長。原整編第28旅恢復為第28師，李規任師長；原整編第123旅恢復為第123師，方曉松任師長；原整編第165旅恢復為第165師，孫鐵英任師長。此次整編後不久，該軍在參加荔北戰役遭受重創，其一部被西北野戰軍殲滅。12月，該軍在集結於臨潼、大荔等地進行增補後，奉命參加了當年的西北冬季戰役。1949年初，軍長鍾松升任第5兵團副司令官，劉超寰繼任該軍軍長。同年3月至5月，該軍先後參加了西北1949年春季戰役和陝中戰役。在陝中戰役後，該軍奉命撤至扶鳳、眉縣一帶，參加阻擊解放軍進軍西南的扶郿戰役。在此次作戰中，該軍第123師在黑山寺作戰中被人民解放軍圍殲。8月至10月，該軍在參加秦嶺戰役中一部被殲後，餘部逃往沙霸、進口關進行防禦休整。10月，秦嶺防線被人民解放軍全面突破後，該軍又退至川陝邊地區組織防禦。11月，該軍在西南戰役中擔任防守川西新津的任務，被人民解放軍全殲於川西新津地區。
