保定六期
祖籍山東省清平縣金郝莊鄉（今屬臨清市）張伴屯村。1892年12月20日（清光緒十八年冬月初二）出生在湖北省沙市縣城的一戶官僚家庭，父名欽泰，為當地長江江堤修築的監督，母彭氏。呂濟在家中行三，有異母兄姐各一。由於呂濟出身於官僚家庭，從小就受到四書五經的薰陶，並先後對天文、歷史、地理、佛經、書法、纂刻等有著濃厚的興趣。呂欽泰辭官舉家遷回原籍後，呂濟在縣太爺的保送下考入位於濟南南關的陸軍國小，繼又升入位於北京清河的陸軍第一預備學校第三期。1916年夏，呂濟在預校畢業後接受了為期半年的入伍訓練，隨後於1917年3月升入保定軍校第六期，習炮科，編在炮兵第2連。就學期間，呂濟與步兵科同學上官雲相相交甚厚，兩人聯合發起成立“同學學術研究會”，旨在團結志同道合者相互砥礪。入會者有五期和六期同學六十餘人，其中較為出名者有五期的趙承綬、藍香山、張蔭梧、嚴重、牛元峰等人，六期有余漢謀、顧祝同、葉蓬、丘兆琛、甘芳等人。起初研究會的成員每月在餐館聚會一次，由呂濟和上官雲相演說一番，之後大夥出錢租用了一間民房，與會成員便開始每周聚會一次，內容有聚餐、談心、吟詩、互勉等。但由於研究會沒有領頭人，時間一長反成為了一個聚會團體，以致聚會逐漸減少，最後無形解散。
保定軍校第六期學員除有清河陸軍第一預備學校第三期的學生外，還有武昌第二預備學校第二期學生和袁世凱所辦的模範團第二期學兵。由於模範團學兵出生與軍官生不同，兩派時常發生分歧，並逐漸演化成械鬥。事情發生後，校長楊祖德、教育長劉汝賢等多次派人進行調停，但仍不能制止。模範團學員勢單被轟出學校，隨後又在校外與軍校生對峙，且雙方各自放崗布哨，事情一發而不可收拾。最後楊祖德經請示陸軍部，將雙方挑頭鬧事的學員開除學籍，方才平息此事。呂濟雖也不可避免的參加這次事件，但由於事後校方處理得當，使得附屬者都能安心的完成學業。第六期的畢業生有1333名，為各期畢業生最多的一屆，這些畢業生在日後的軍界中各有發展，功成名就者不在少數，就是在炮兵科的148名畢業生中也不乏晉階將官之人，如范國璋、俞方皋、郭持平、傅正理、蔡盛熙、郭懺、沈應時、嚴爾艾、鄧揮、方克猷、溫克剛、邵百昌、梁世驥、張玉珽、哈金甲等。
輔助商震
1919年2月，呂濟在保定軍校畢業後被分發到山東陸軍第3混成旅（旅長張佩榮）服務，先後歷任炮兵營排長、副官、連長等職。1923年6月，呂濟因不堪魯軍內部的腐敗之風，轉投晉軍，任山西督軍公署少校參謀。1924年10月，山西督軍閻錫山將四個在鄉軍人連合編的先鋒總隊改編為第10旅（旅長蔡榮壽）第20團（團長徐畿域），調呂濟擔任該團第1營中校營長。由於是新近成立的部隊，呂濟到任後即加緊對部隊的整訓。
1925年8月，樊鍾秀建國豫軍進攻入晉，閻錫山命令蔡榮壽第10旅開赴遼縣的東陽關至娘子關一線予以阻擊，其中呂濟營奉命進駐東陽關。然而樊鍾秀部繞開了東陽關，從昔陽縣打到拐兒鎮。呂營又奉命緊急開赴遼縣以東的蛤蟆灘，增援第20團主力。由於第1營往返奔波，部隊疲憊不堪，加之地形不熟，第1營剛進入陣地，第20團就被樊鍾秀部團團包圍。經過一陣混戰，第3營防線被突破，20團隨即瓦解。呂濟同團長徐畿域、副團長葉啟傑等先後被俘。此時幸得友軍第1師第2旅趕到，將樊部擊退，呂濟等人才乘混亂之機逃回己方陣營。戰後第20團殘部開回原駐地陽泉整訓，團長徐畿域和第1營營長呂濟被撤職查辦，第3營營長張風山被槍決。呂濟在被逮捕後不久，幸運的得到了第1師師長商震的解救。商氏認為呂濟相貌堂堂，如加以鍛鍊，將來能委以重任。於是商震詳細調查了蛤蟆灘戰鬥的經過，得知責不在呂，便將呂濟保釋出來，任命他為第1師中校副官長，留在身邊聽用。1926年2月又升呂為上校參謀長。而呂濟也深感商震救命之恩，從此追隨商氏左右，並逐漸成為其親信。
呂濟就任第1師參謀長時，閻錫山正與直系統帥吳佩孚聯絡，並同意出兵進攻位於京漢路的國民二軍，為直軍主力北上打開道路。閻以第1師為主力出兵石門（今石家莊）進攻國民二軍。呂濟隨部參戰，並隨侍師長商震左右出謀劃策，第1師在元氏、高邑、內邱地區擊潰鄭思成部後，攻占順德。4月中旬，閻錫山公開依附吳佩孚，正式出兵進攻國民軍。5月初，國民軍在雁北地區發動攻勢，大同附近的謝濂第4師接連敗退。第1師於此時奉命增援大同，並立即發起反攻，暫時穩定了局勢。呂濟認為國民軍此時在裝備和補給方面後繼乏力，建議商震對國民軍採取守勢，以時間來拖跨國民軍。商震採納了這個建議，只守不攻。但在此時，閻錫山因擔心大同失守後太原北面門戶洞開，急命前敵總指揮商震帶著部隊撤到雁門關憑藉天險固守，商震認為此時撤退，國民軍必定發起追擊，所部將會大敗，遲遲不肯執行命令。但在閻錫山的再三催促下，商震被迫同意撤軍。為保證部隊順利撤退，呂濟根據商震的意圖，制訂了一次對國民軍佯攻的計畫，使國民軍誤以為晉軍準備發起攻勢而採取守勢，成功的將部隊主力撤到了懷仁防線，而大同孤城僅留一個旅堅守。
根據商震的意圖，呂濟制訂了雁門關的防守計畫。其中，第1師第1旅（旅長傅存懷）附第40團殘部守備雁門關正面，以第1團（團長蘆豐年）居左、第2團（團長楊效歐）居右；第2旅（旅長李培基）主力附第44團殘部守雁門關以東的水峪口、狐峪口；所屬第33團（團長黃光華）附第44團一個營守備雁門關前15里的張莊兩側。同時公布連座法，商震、呂濟等皆同部隊長在雁門關督戰，有動搖不力戰者，準各級依次就陣前執行軍法。此後呂濟又出謀劃策，協助商震在雁門關阻擋國民軍的達八十三天之久，有效的拖住了國民軍。而國民軍也因後援、補給不繼，內部矛盾頻發，終至軍心渙散。商震見機會來臨，立即率領所部發起進攻，一舉擊潰當面之國民軍，並乘勢占領了綏遠。9月，商震被閻錫山任命為綏遠省代理督統，呂濟調任督統署參謀處處長。此後一年裡，呂濟主要負責整訓駐綏軍隊。1927年春商震成立綏遠軍事政治學校，自兼校長，以黃克德為副校長、呂濟兼任教育長，替商震培養部隊的基層骨幹。
1927年6月6日，閻錫山就任南京國民政府所委之國民革命北方軍總司令，正式參加北伐。7月，閻將所部擴編為十個軍，其中呂濟升任第1軍（軍長商震）少將參謀長。10月1日，呂濟所在的第1軍與第7軍在騎、炮兵的掩護下向京綏線的奉軍發起進攻。三天后接連攻占張垣、宣化、懷來，但奉系統帥張作霖調集精銳張作相的第5方面軍團於10月8日發起反攻，第1軍在宣化苦戰至12日終於不支後撤，被迫退守張垣。11月初，商震調整部署，決定放棄綏遠，以第1軍撤往雁門關。由於商震為左路軍總指揮，需指揮三個軍（第1、第7、第9軍）的調動，所以從第1軍進駐雁門關後，軍部的實際業務都落在了參謀長呂濟的肩上。一年前就曾依託雁門關成功抵禦國民軍進攻的呂濟不負商震之託，指揮第1軍在雁門關屢次擊退奉軍張作相部的進攻。
1928年3月，商震根據閻錫山的命令指揮第1軍、第4軍、第5軍、第7軍等部對奉軍發起反攻，呂濟指揮的第1軍在五台山集結完畢後與第5軍互相配合向阜平方向發起進攻。奉軍由於在多條戰線上應敵，漸顯不支，使得閻錫山第3集團軍所部的反攻進行的十分順利，其中第1軍一路攻入河北，並於5月30日占領了保定，所屬第1師（師長李培基）繳獲了奉軍留在保定的大批軍械儲備。同年9月，商震為培植私人武裝，在北平以原河北軍政學校畢業學員為基礎組建教導師，師長由商自兼，呂濟調任副師長兼參謀長。商震因擔任河北省政府主席、全省保全司令等職，平時無暇分身，故教導師的實際業務由呂濟負責。由於教導師並非正規軍建制，所以該師的經費、裝備等都十分困難，即便如此，呂濟仍在艱難的情況下與所部團長王本善、林家訓勉勵維持，替商震培植骨幹。然而閻錫山不會坐視商震做大，遂於1929年10月4日借裁軍之名將教導師裁撤，商震本人被調回山西擔任省主席的虛職，呂濟則被編餘。
再佐上官
商震的失勢，使得呂濟一時沒了去處。恰在此時，呂濟在保定軍校的舊友上官雲相來函邀請他去第47師（師長王金鈺）第141旅（旅長上官雲相）擔任參謀長。呂濟見商震已被閻錫山所限制，已無發展的可能，便同意降級前往141旅擔任上校參謀長。旅長上官雲相素有野心，並有取代師長王金鈺之意，於是他拉攏失意的保定同學為己效力，培植自己的親信班子。長期從事參謀業務的呂濟正是上官雲相的中意人選，當呂到任後，上官示其為親信，任何事情都與其商議。而呂濟也感到上官雲相對他的信任，盡己所能的輔佐上官。1929年12月上官雲相在王金鈺升任第9軍軍長之後，終於取得了第47師的師長位置，呂濟也隨之升任47師少將參謀長。此時的第47師正在河南郾城、西平地區駐防，並根據南京中央的命令，對山西方向的閻錫山部採取監視態勢。中原大戰爆發後，第47師調往隴海線，先後在商丘、寧陵與反蔣軍作戰。在堅守寧陵河提的戰鬥中，由於呂濟部署得當，使47師在此地成功堅守30天，受到了蔣中正的嘉獎。呂濟因在中原大戰期間有功，於1931年6月13日被授予四等寶鼎章。
中原大戰結束時，已經升任第9軍軍長的上官雲相由於重用保定系軍官，使得軍內以第43師師長郭華宗為首的的湖北學兵營派反對甚烈。上官雲相見情況複雜，且郭華宗已取得大部分行伍軍官的支持，便找來參謀長呂濟商討解決辦法，呂建議將情況上報軍政部，由部長何應欽解決。上官依計行事，卻未料何應欽將這件事推給了蔣中正，蔣又對此事不作批示，如此時間一長，上官雲相無法在第9軍內立足，被迫辭職他往，呂濟也因上官的離開失去靠山而隨之辭職。
商震智囊
1931年1月，反蔣戰敗的晉軍被迫接受了南京政府的改編。商震利用這個機會重掌軍權，並就任東北邊防軍第3軍軍長。商震在知道呂濟的情況後，邀其重回麾下效力，並任命呂為中將參謀長。同年6月，第3軍根據當局的命令改稱第32軍（軍長商震），呂濟仍任中將參謀長。商震雖然有了軍長的名義，但是屬下兩個師長——第66師師長楊效歐和第67師師長馮鵬翥都不服從商氏的指揮，且晉軍的高層決議也從不邀請商震商討。商震見已無法融入晉軍系統，便決定拉攏其在當師、旅長時培植的親信軍官脫離晉軍依附中央，以求另行發展。商震在召集副軍長李競容、參謀長呂濟商討此事時，李、呂都支持商的決定，於是在呂濟的出謀劃策之下，決定聯繫舊部旅長周思誠、黃光華、高鴻文、周源健等人尋找機會離開山西。
1931年7月20日，第13路軍總指揮石友三在河北邢台發動叛亂。南京當局立即調動部隊對判軍實施圍剿。兩天后，商震接到了中央要求第32軍出兵河北參加圍剿的命令。商震認為時機已到，立即命令副軍長李競容聯繫四名旅長和原河北軍政學校的畢業學員，參謀長呂濟制訂行軍計畫。第198旅旅長黃光華、第199旅旅長高鴻文在接到行動指示後立即率領所部撇開師長馮鵬翥直接接受商震的指揮進入河北，而周思誠、周源健兩旅因行動不周皆被截留。7月27日，根據呂濟制訂的作戰計畫，黃光華旅為先頭部隊占領石家莊，高鴻文旅隨後跟進沿平漢路北上追擊遭到中央軍和東北軍夾擊潰敗的判軍，並繳獲了大批囤積在東長壽車站的軍用物資。8月5日，石友三兵敗下野，而商震利用這個機會成功的脫離了晉軍，並依靠繳獲的軍用物資以及張學良的幫助，在邢台站住了腳。
商震脫離晉軍時，所屬部隊只有兩個旅四個團的兵力，為了解決軍隊的編制和軍餉等問題，商震親赴北平面見張學良，並再次得到了張氏的幫助，獲得了三個旅九個團的編制，所屬部隊仍稱第32軍。對於部隊的具體擴編，由呂濟負責，其中以原第198旅為基礎擴編為獨立第39旅，以黃光華任旅長；原第199旅為基礎擴編為獨立第41旅，以高鴻文任旅長；抽調第198、第199兩個旅的部分部隊以及河北軍政學校的畢業學員為基礎擴編為獨立第42旅，以李杏村為旅長，以增編的兩個學兵大隊，騎兵、炮兵、工兵、通信兵各一個大隊編為特務團，列入獨42旅建制，以孫定超為團長。部隊成軍後，呂濟即在邢台督訓新成立的獨42旅，長城抗戰爆發時又利用部隊旅改師的機會，將特種兵大隊全部直屬於軍部，此後又陸續擴編為團。除此之外，呂濟還秉承商震的意思在部隊內開辦了京劇團、馬球隊、拳擊隊，以改善官兵的枯燥生活。其中馬球隊在當時為全國僅有，曾到上海參加過國際萬國馬球隊的比賽。可以說，呂濟對於32軍的發展建設居功至偉。
長城抗戰
1933年1月，日軍突然進攻榆關（即山海關），長城抗戰隨即爆發。為了迷惑日軍，國民政府部署在長城沿線阻擊日軍的各部獨立旅皆改稱為師，奉命參戰的第32軍所屬三個旅也分別改稱為第139師、第141師、第142師。同時，呂濟升任第2軍團（總指揮商震）中將參謀長（2月12日任命）兼第32軍參謀長。呂濟雖為第2軍團參謀長，但由於該軍團所屬部隊僅32軍為商震的嫡系部隊，是以呂的參謀業務僅對32軍負責。當32軍接到了調防命令之後，呂濟即隨商震組織前進指揮部，率領第139師和第142師開赴灤河西岸構築防禦工事。3月4日，第2軍團總指揮商震命令第139師主力進占冷口。6日，第139師先頭部隊前進到冷口時，發現既定陣地已被日軍占領，師長黃光華當即將這一情況報告司令部。呂濟認為，冷口的得失關係到軍團正面防禦的安危，便主張立即發起進攻奪回冷口。於是黃光華下令部隊發起進攻，一舉攻占了陣地。
冷口奪回後，位於灤河司令部的參謀長呂濟認為日軍勢必發起反攻，便建議商震增派第141師支援，並制提出了一份縱深防禦計畫。但在商震同意該計畫之時，軍事委員會北平分會也發來命令，要求32軍必須確保冷口一線的各要點。這樣一來，32軍的防線將長達150華里，兩個師根本不夠使用。面隊兵力少正面寬的問題，呂濟被迫將原先的縱深配置計畫改為一線全員配屬的方案。其部署如下：以“第139師擔負長城界嶺口（不含）以西至冷口之線，第141師擔負冷口及以西至董家口（不含）一線”。這就導致了32軍處處設防，處處薄弱，並缺少機動部隊反擊的困難境遇。
3月19日，日軍混成第14旅團主力向冷口發起進攻，遭到守軍的頑強抵抗。戰至23日，商震決定攜副軍長李競容往冷口視察，留參謀長呂濟鎮守司令部。25日，日軍因後繼乏力被迫停止進攻。4月9日，日軍在得到第16師團3000餘人的增援下再次發起進攻，守軍第139師、第141師皆傷亡慘重，但仍堅守陣地不退。10日，呂濟根據情報察覺到日軍在突破友軍據守的董家口陣地後，有向32軍左翼發起進攻的危險，立即建議商震抽調第141師一個團對董家口方向發起進攻，打亂了日軍的進攻計畫。當第139師前沿的馬道溝、燕窩溝口陣地先後失守後，第32軍防線呈現崩潰的危機，此時呂濟又建議將139師主力全部收縮，並組織力量對燕窩溝口發起反攻。黃光華遵命執行，以所屬第715團為主於11日凌晨二時向占領燕窩溝口的日軍發起逆襲，經過兩小時衝殺，陣地得失數次，終因日軍居高臨下火力猛烈而未能成功。日軍此時也不給32軍以喘息之機，在見32軍反攻停止後，也隨即發起進攻，並以宮崎支隊向冷口右側迂迴。呂濟見所部左右受敵，第139師防線已無法支撐，第141師的重要陣地牡羊峪也被日軍攻占，加之援軍又遙不可及，便建議商震放棄陣地，退守灤河右岸防線。這一建議為商震所採納，32軍在付出了3000餘人代價之後，最終放棄了冷口。一天后，防守界嶺口、義院口的第57軍何柱國也根據軍團司令部的命令開始了撤退。5月15日，中國政府與日本簽定停戰協定，長城抗戰就此結束。由於呂濟在冷口爭奪戰中輔佐商震出謀劃策，使32軍在冷口抗擊日軍三十五天，有效的延緩了日軍的進軍速度。國民政府於1935年7月17日授予其青天白日勳章。是為該勳章的第39位獲得者，也是參加長城抗戰諸將中的第20位獲得者。
長城抗戰結束後，第2軍團也隨之撤消，呂濟專任第32軍參謀長之職。此時第32軍奉命移駐北平附近的順義，隨即又奉命進駐北平。在呂濟的部署計畫中，軍直和第141師同駐南苑，第142師駐防清河，第139師則駐防於邯鄲，負責警戒平漢線北段的交通安全。1933年9月，商震籌辦第32軍教導大隊，呂濟推薦長子呂汝爽擔任教導大隊第3隊隊長（半年後教導大隊改編為第721團，呂汝爽改任第3營營長）。10月，馮玉祥領導的察哈爾抗日同盟軍在國民政府的軍事壓力下被迫解散，其中方振武、吉鴻昌兩部由商震和徐庭瑤兩負責改編，方、吉兩人由商震派人押解北平。由於商震與方振武有舊，對吉鴻昌也有同情之心，便暗示呂濟在押解途中設法釋放兩人。於是示意呂濟在接收方振武的部隊時，故意放走方氏，吉鴻昌也在押解時“不慎脫逃”。1934年8月，呂濟隨商震一同前往廬山中央軍官訓練團受訓。期間，他以自己研究所得，撰寫了《戚繼光練兵之研究》，並在訓練團內部發行，供受訓人員交流學習。
少將師長
1935年3月，土匪劉桂棠部竄入河北，威脅到平漢鐵路的交通安全。北平軍分會命令32軍調遣部隊剿滅這股土匪。呂濟在制訂追剿計畫時，仔細研究了劉桂棠匪部的活動特點以及鄰省友軍不能剿滅該部的原因。為不使劉匪西竄進入大別山，呂濟以軍屬騎兵團部署在內丘，調邯鄲駐軍第139師在裝甲汽車四輛、汽車大隊七十餘輛的支援下擔負追剿任務。第139師師長黃光華不負眾望，在經過十多天的圍追堵截下殲滅劉匪主力，劉桂棠僅帶著40餘人脫逃。同年7月30日，第142師師長李杏村升任第32軍副軍長，遺缺由商震保薦呂濟接任（參謀長劉春嶺，第724團團長楊鍾、第725團團長孫定超、第726團團長李兆鍈）。第142師原為呂濟親自編訓的獨立第42旅，師中軍官多與呂相熟，是以呂濟到任後能很快進入狀態，得心應手的指揮該師。1936年1月29日，呂濟被國民政府正式任官為陸軍少將。
1936年3月，第32軍奉命開赴山西圍剿紅軍。商震不願意執行這個命令，但對於上命又不能違背，於是抽調所屬第141師和第142師在呂濟的統一指揮下開赴山西接受陳誠的指揮。當時兩個師在石門集結完畢後，商震召見了師長宋肯堂和呂濟，並暗示負指揮之責的呂濟雖應服從陳誠的命令，但對於是否貫徹執行“不必過分認真”。臨出發前，第141師師長宋肯堂也對呂濟說“部屬都厭惡內戰……不願打紅軍”等語。這更堅定了呂濟不參加內戰的決心。當呂濟率部進入山西後，被編為陳誠第1路軍所屬第6縱隊，呂濟擔任縱隊司令。對於陳誠的命令，呂濟並未認真執行，加上臨行前商震的暗示，以及同僚宋肯堂的坦言，更是對紅軍的行動視而不見，結果由於防守不力，反在義堂鎮遭到紅軍第75師的進攻損失了一個連。3月18日，紅軍一部被牽制在大麥郊地區，閻錫山急調第142師前往增援堵截，呂濟接到命令故意拖延出發時間。陳、閻由於指揮部隊較多，到也未發現呂濟陰奉陽違的行為。如此數日，32軍的部隊除先期損失的一個連外，未再遭到其他損失。
如此拖延到3月20日，呂濟奉命率第142師移駐交城。未料第2天紅軍以第78師對交城發起進攻，呂濟“守城有責”，再也無法避免與紅軍作戰，只得指揮所部與晉軍獨3旅附當地保衛團等部抵禦紅軍的進攻。紅軍在發現交城守軍並非是原先偵察的地方部隊之後，便撤出了戰鬥。交城捷報隨即傳到陳誠的指揮部，呂濟也為此受到了嘉獎。此後呂濟奉命率領所部集結到靈石，4月起又將所部分布在靈石、霍縣、趙城、洪洞、臨汾一線。紅軍撤出山西後，呂濟率領所部返回河北歸建。11月12日，國民政府對入晉參戰有功將士將領頒發勳章，其中呂濟獲頒四等雲麾勳章。1937年3月，商震為擴編所部增強實力，未經軍政部的批示，即自行擴編所部。第142師在永年擴編為兩旅四團制，第5旅（旅長楊鍾）轄第722團、第724團，第6旅（旅長崔廙）轄第716團、補充第3團。
1937年7月抗日戰爭全面爆發。平、津淪陷時，第142師奉命北上，布防在石門以東的束鹿地區。10月1日，呂濟又根據第20集團軍總司令商震的命令指揮所部集結在石門南郊，作為集團軍的預備隊參加保衛石門的戰鬥。10月5日，德州失守，使石門成為北面最為突出的重鎮。8日，正定又告失守，石門完全暴露在日軍面前。一天后，第1戰區司令長官部決定放棄石門，第142師奉命向邢台撤退。10月15日，第142師奉命擔負邢台北郊鐵路以東防務，但一天后呂濟又奉命率領師主力撤往湯陰布防，留第6旅主力擔負安陽城防，補3團兩個營守備彰德車站。12月7日，日軍對第6旅發起進攻，彰德車站鏇即失守。第6旅集中到安陽抵抗日軍的進攻，至12月10日不支後撤。戰後，戰區長官部將崔廙撤職查辦。呂濟在向崔廙轉達了撤職查辦的命令之後，改以周樹棠繼任旅長。自抗戰全面爆發以來，因作為集團軍預備隊始終未經一戰，此番所屬第6旅好不容易得以參戰，又因丟失安陽而蒙上恥辱，深感悲憤。
1938年2月，第142師被調往蘭封，並擔負蘭封以北三義寨（不含）至羅王以北一線的黃河南岸河防任務。此時，商震對32軍所屬三個師都調整了建制，其中第5旅第724團調歸第139師，第6旅第716團改歸第5旅序列，調第725團編入第6旅序列。3月，堅守蕭縣的第139旅遭到日軍重創，呂濟的長子——第1旅副旅長呂汝爽也在撤退時陣亡。5月21日，日軍第14師團土肥原賢二一部迂迴至第142師後方，商震急忙命令第142師調整陣地，集中兵力守備三義寨至袁坊村一線，抵禦日軍的進攻。呂濟指揮所部頑強抵抗，因傷亡慘重被迫放棄三義寨，在其餘陣地繼續抵抗。5月30日，呂濟奉命率部撤出戰鬥退往開封以西，再次作為集團軍預備隊使用。
軍校主任
1938年6月，呂濟奉調江西瑞金籌辦中央陸軍軍官學校第三分校，並被任命為主任。經過兩個月的緊張籌辦，分校於9月14日正式宣告成立。分校設有政治部（主任胡軌）、教育處、經理處、總務處、軍醫處、辦公室、會計室，以及修械、馬房等機構，全校行政管理人員及教職工343名。呂濟由於受到長子犧牲以及1942年3月次子呂汝堇在重慶陸軍大學深造時因病去世的影響，以及自己無法上陣殺敵而日漸消沉。在一次前往寺廟祈福的時候，呂濟的悲傷再次湧上心頭，他以“一兒國殤，一兒夭亡，何因何果，主靈告我”為題，乞求神明能對其指點迷經。這時的呂濟可謂其軍旅生涯中的最低谷，“終日以侍奉老母為名端坐家中，辦公亦常缺席”，即便是1941年2月分校奉命遷址到廣豐時，呂濟也不聞不問。為此，教職員們都稱呂濟為“能幹而不乾的主任”。與其相反的是副主任唐冠英，這位同樣出身於保定軍校的老先生，在得到第3戰區長官部的推薦而擔任斯職，呂濟既然不管校務，唐冠英也就不客氣的接手了。可由於唐氏年事已高，精力不支，在議事決策方面經常出錯，於是被教職員們稱為“不能幹而亂乾的副主任”。好在分校的其他教職員都能恪盡職守，三分校的運做始終無大問題出現。在此期間，呂濟於1940年12月2日晉任為陸軍中將。
後備司令
1942年5月18日，呂濟調任第100軍副軍長兼建延師管區司令（副司令李新芝）。當時第100軍正駐防江西鷹潭，其軍事行動由軍長劉廣濟和副軍長韓文英負責，呂的主要職責是駐建甌徵募訓練新兵，為100軍及時提供兵源。建延師管區成立於1937年6月，轄有建甌、南平、浦城、閩清四個團管區。1939年5月曾改名為建閩師管區，轄區不變。1941年10月又改回原名。呂濟到任時，師管區所轄部隊已由兩個營五個連擴充為四個團又一個模範隊。8月，100軍在鷹潭不單遭到日軍重創，連軍長劉廣濟也被撤職查辦，其遺缺由副軍長韓文英代理軍長。11月又調第74軍副軍長施中誠接任軍長。呂濟在任內的近一年，都因駐地不同而與前後三任軍長未做深入接觸。期間，呂濟還兼任軍事委員會東南特種技術訓練班（兼主任戴笠）天文、政治教官。任教期間，所屬師管區模範隊士兵在特訓班駐地學員發生衝突，當時呂濟正值在特訓班與同僚聚餐，見事情鬧大，當即出面制止，經調解平息的事端。一名中將願意主動調解學員與士兵的衝突而不採用軍事制裁，使這事件在建甌駐軍中傳為美談。
推出現役
1943年4月25日，呂濟調任第3戰區司令長官部中將副參謀長，在上官雲相的副長官部服務。由於上官雲相此時已失去軍權，呂濟雖身為上官氏的參謀長，但終日無所事事。如此經過兩年，終於迎來了日本政府宣布投降的訊息。1945年8月18日，上官雲相奉戰區司令長官顧祝同的命令組建前進指揮所，指揮杭州附近駐軍掩護進入杭州受降的友軍。具體事宜則由呂濟擬訂，並對所轄部隊布置了具體任務。抗日戰爭勝利後，呂濟先後獲頒忠勤勳章（1945年10月10日）和勝利勳章（1946年5月5日）。第3戰區司令長官部奉命裁撤之後，副長官上官雲相調任第11戰區副司令長官。此時第11戰區的部隊正與中共領導的八路軍在河北時有摩擦，呂濟在經歷了八年抗戰之後，不願再投入內戰的鏇渦，他在拒絕了上官雲相的邀請後開始辦理退役手續。1947年7月7日，經國防部批示，呂濟正式退為備役。
呂濟退役後，舉家遷居杭州。中華人民共和國成立後，呂濟向解放軍杭州軍管會登記自首，隨後被送往蘇州解放軍官訓練學習。半年後，呂濟獲釋回家，並於1950年8月移居南京。呂濟此時因疾病纏身，幾次拒絕了政府要其出任公職的邀請。1956年11月23日因心臟病發在南京工人醫院（今浙江省人民醫院）去世。呂濟死後，家屬根據遺言對其骨灰進行了海葬。
呂濟原配史氏（山東清平人，1923年在太原去世），續娶向慶雲（湖南湘潭，1988年1月6日在南京去世）。其中史氏育有呂汝爽、呂汝堇，向慶雲育有呂汝瑩（女）、呂汝顯、呂汝順（女），另有外室方梅香（江蘇杭州人，在杭州去世）育有一子呂汝杭。這些子女分別居住在南京、上海、蘇州。
參考資料：
中華民國史檔案資料彙編第五輯——軍事卷，中國第二歷史檔案館編，江蘇古籍出版社
長城抗戰資料選編，中國社會科學院近代史研究所中華民國史研究室編，中華書局
中國抗日戰爭正面戰場作戰記，郭汝瑰、黃玉章主編，江蘇人民出版社
閻錫山統治山西史實，山西政協文史資料研究委員會編
長城綏察抗戰，黃存林主編，中國文史出版社
福建省志——軍事志，福建省地方志編纂委員會編，新華出版社
瑞金縣誌，瑞金縣誌編纂委員會編，中央文獻出版社
商震將軍與三十二軍，王啟明、王興剛、陳瑞霆著，雲南人民出版社
河北文史資料第二十三輯，商震將軍，尹丕傑、陳家珍著
文史資料存稿選編，與上官雲相相交三十年，藍香山著
臨猗文史資料第九輯，我為什麼要追隨傅作義將軍，楊維垣著
文史資料存稿選編，馮閻雁門之戰，蘆豐年著
文史資料存稿選編，晉軍與國民軍的戰爭，陳長捷著
國民革命軍北伐親歷記，商震部進擊奉軍和退守雁門經過，陳長捷著
國民革命軍北伐親歷記，第三集體團方順橋會戰片段，陳長捷著
文史資料存稿選編，五省聯軍殘部投蔣後的沿革及消亡，馮子讓著
文史資料選輯第一二四輯，孫傳芳“五省聯軍”被改編及覆滅，蘇桂榮著
他們是怎樣當官的（我所知道的名人秘事叢書），“五洋”司令商震，石彥懋著
河北文史資料第十八輯，商震與三十二軍，朱靜波著
東營文史第九輯，民國將領李杏村，羅先哲著
石家莊抗戰紀實，宋肯堂將軍抗戰事略，少輝、方良整理
文史資料選輯第一三○輯，魯西豫東抗戰中的第三十二軍，齊國榰、陳銳霆、張尊光著
文史資料選輯第一三○輯，安陽守衛戰前後，陳家珍著
江西文史資料選輯第二十六輯，抗日期間的國民黨中央軍校三分校，陳子鳴著
上饒文史資料第八輯，第三戰區司令長官司令部組織機構及所屬單位概況，一聲整理
建甌文史資料第六輯，解放前駐甌師管區歷任主官簡介，文史組整理
建甌文史資料第十一輯，建甌的“東南訓練班”，李濂、李紹周著
抗戰勝利後受降與接收秘檔，顧祝同在浙江受降接受，崔廣森著
國聞周報（台），文海出版社影印
國民政府公報，河海大學出版社影印
國民革命軍第三十二軍軍史（自編），未刊稿
國民革命軍第一○○軍軍史（自編），未刊稿
國民革命軍第六十七師師史（自編），未刊稿
國民革命軍第一四二師師史（自編），未刊稿
