輝煌前身
1947年12月6日，晉察冀軍區根據中央軍委指示，以冀中軍區、察哈爾軍區各一部在河北省定縣組成第6縱隊，由文年生任司令員，向仲華任政治委員，蕭新槐任副司令員兼參謀長，張挺任副參謀長。下轄原冀中軍區獨立第7旅改稱的第16旅（轄第46、47、48團，旅長廖鼎祥、政委李斌、參謀長唐丕光、政治部主任張宗勝）、獨立第8旅改稱第17旅（轄第49、50、51團，旅長徐德操、政委李致遠），原察哈爾軍區第6分區和冀晉軍區第1、第4分區各1個獨立團台編而成的第18旅（轄第52、53、54團，旅長羅文坊、政委嚴慶堤），共17044人，隸屬於晉察冀野戰軍。縱隊成立後，參加平漢路北段破擊戰。
1948年1月，縱隊奉命從河北滿城地區出發，初戰保(定)西北，殲敵675人。3月至4月，第6縱隊參加察南綏東戰役，殲敵4700餘人。5月，華北軍區第2兵團成立，第6縱隊隸屬該兵團建制。並新調曠伏兆任副政治委員兼政治部主任。7月，參加保北戰役，活捉敵整編第31師少將師長陳治平、少將副師長盧繼雲以下官兵4100餘人，斃傷敵779人。8月，華北軍區第3兵團成立，第6縱隊轉隸該兵團建制。9月，從河北易縣進軍綏遠，參加了察綏戰役，殲敵2258人，同友軍一起解放了綏遠和察北廣大地區。同月，曠伏兆調離該縱隊，由王紫峰任副政治委員兼政治部主任。1948年12月至1949年1月，第6縱隊從綏遠兼程南下，參加了平津戰役，攻萬全、圍張垣，協同友軍解放了張家口、宣化等城鎮，取得生俘敵中將軍長袁慶榮，殲敵9000餘人的戰績，為和平解放北平做出了貢獻。
1949年2月，根據中共中央軍委關於統一全軍編制序列及部隊番號的命令，華北軍區第3兵團改稱第20兵團，第6縱隊在北平奶子房改稱中國人民解放軍第68軍，隸屬中國人民解放軍第20兵團。文年生任軍長，向仲華任政治委員，徐德操任副軍長，所轄第16旅改稱第202師（轄第604、605、606團），廖鼎祥（後陳應壽）任師長、李斌任政治委員、唐丕光任副師長兼參謀長、范保順任副政委兼政治部主任；第17旅改稱203師（轄第607、608、609團），楊棟樑任師長、李致遠任政治委員、李德才任副師長、祖岳嶸任參謀長、白正剛任政治部主任；第18旅改稱第204師（轄第610、611、612團），羅文坊任師長、嚴慶堤任政治委員、王鈞任副師長、張宗勝任副政委兼政治部主任。軍屬炮兵團，團長李昆、副團長王慶華。全軍共2．9萬餘人。獨立第25師（由原國民黨軍第16軍第22師改編，4月，參加太原戰役，生俘敵少將師長張忠、閻俊貢以下官兵8337名，殲敵955名。太原戰役結束後，部隊進駐山西陽高、天鎮、羅文皂、金家莊地區整訓練兵。5月，徐德操任軍長，漆遠渥任政治委員，宋學飛任參謀長，張遜之任政治部主任。同月，由國民黨軍第16軍第22師改編的獨立第25師編入該軍（轄第1、2、3團，師長梁詩傳、政委白正剛兼、副師長劉震兼、政治部主任惠士榮兼）。10月，部隊由山西進駐天津、唐山地區，擔負保衛海防任務。
1950年8月，第20兵團番號撤銷，第68軍直屬華北軍區領導。1951年2月?日重建第20兵團，第68軍又歸第20兵團建制。
編建第68軍
1951年2月，部隊集結於天津附近，補充兵員、更換新的裝備並整訓部隊，為赴朝作戰作準備。6月9日，第68軍在第20兵團編成內入朝作戰，部隊改稱中國人民志願軍第68軍，軍長陳坊仁、政委李呈瑞、副軍長宋玉林、參謀長宋學飛、政治部主任嚴慶堤。下轄第202師，師長陳應壽（後黎光、李克林）、政委李斌（後田波）；第203師，師長楊棟樑、政委李致遠（後惠士榮）；第204師，師長曹玉清（後王鈞）、政委范保順；另配屬炮兵第6團。全軍共4.6萬餘人。先後擔任北漢江至文登里一線的防禦任務，粉碎敵“秋季攻勢”和“坦克劈入戰”，完成東海岸抗登入作戰的準備工作，參加金城地區的反擊作戰等。與敵作戰1021次，殲敵74844人，其中美軍10416名、南韓軍64392名、希臘軍36名，毀傷敵坦克152輛，擊落擊傷敵機696架，繳獲大量武器裝備。第68軍在抗美援朝3年零10個月的戰鬥中，湧現出許多英雄單位和英雄個人。其中功臣單位26個，立功個人24018名， 其中特等功臣13名，一等功臣178名，“奇襲白虎團”的著名戰鬥英雄楊育才、志願軍女英雄解秀梅、坦克英雄胡連等就產生在這支部隊。1954年9月，第68軍奉命擔任永柔以西，隸川以東、新安州西南地區防空作戰任務。1955年3月奉命回國。
戰功赫赫
第68軍在解放戰爭中，參戰16個月，轉戰晉、察、冀、綏四省廣大地區，行程萬餘里，先後參加了保西北、晉察綏、保北、綏遠、平津、太原等重大戰役，攻占城鎮16座，殲敵3萬餘人，湧現戰鬥功臣10985人。
遷駐
1955年4月，第68軍劃歸新成立的濟南軍區，駐江蘇徐州及其附近地區。
1975年，經中央軍委批准，第68軍與瀋陽軍區第46軍對調。第68軍移駐吉林省吉林市。
1985年百萬大裁軍，第68軍番號撤銷。同年8月，該軍改編為赤峰守備區（軍級），移駐內蒙古赤峰市，所屬各師均改編為守備師，駐防林西等地，面向駐蒙蘇軍，負責東北地區西南方向防務。
撤編
1992年，赤峰守備區及其所屬部隊全部撤編，第68軍戰鬥歷史即告結束。
