撤到後方,被任命為黔東南戰地收容司令部副司令,成功地將當時無人領導的擾民散軍93軍繳械。日本投降後,被任命為全美式裝備的53軍參謀長,接收上海和天津,在天津因為和陳誠意見不合,憤而辭職回鄉,被當時任貴州省主席的同鄉谷正倫任命為貴州警備司令。解放軍進攻貴州時,隨軍撤退到廣西,又被任命為廣西警備司令,後又敗退到雲南。在雲南時被推舉作為代表去香港向谷正倫匯報,這時雲南龍雲宣布起義。谷正倫因為在貴州擅自擒殺89軍軍長劉伯龍,引起蔣介石大發雷霆,不敢去台灣,張法乾和谷正倫一起滯留香港,直到1952年蔣介石宣布“既往不咎”,他們才一起遷往台灣。但蔣懷疑他在廣西時和桂系有來往,因此不予以任公職,只得以在蔡氏集團擔任顧問為生。
張法乾在台灣被選為貴州同鄉會理事長。1993年首次回大陸探親,他於1998年回鄉落戶,2002年在貴陽家中病逝,享年93歲。