後晉高祖天福初改為職方員外郎，鏇加虞部郎中，又以本官知制誥。受命為荊南高從誨生辰國信使。回朝，拜中書舍人，又為翰林學士。時涇州鎮將張彥澤，無故暴殺部下張式。因張彥澤手握重兵，朝廷不願加罪。昭儉與刑部郎中李濤等上疏要求依法治彥澤罪。朝廷不理，昭儉復上疏爭論：“天子君臨四海，日有萬機，懋建諍臣，彌縫其闕。今則諫臣雖設，言路不通，藥石之論不達於聖聰，而邪佞之徒取容於左右。御史台紀綱之府，彈糾之司，銜冤者固當昭雪，為蠹者難免流放。臨御以來，寬仁太甚，徒置兩司，殆如虛器。遂令節度使慢侮朝章，屠害幕吏，始訴冤于丹闕，反執送於本藩。苟安跋扈之心，莫恤冤抑之苦。願回睿斷，誅彥澤以謝軍吏。”【註：見《宋史·楊昭儉傳》】由此引起權臣忌恨，不久即藉故將他停官。
晉出帝即位，重新起用楊昭儉為河南少尹，改秘書少監，復遷中書舍人。時黃河決口，淹沒數郡，他徵發了民工堵塞。事畢，晉少帝詔命立碑記其事，昭儉上表進諫：“石記功，不若降哀痛之詔；搞翰頌美，不若頒罪己之文。”出帝讚賞其言，即命罷立碑事。
後周世宗即位，愛昭儉有才，召入翰林為學士。不久，改任御史中丞。因審案有失，出為武勝軍節度行軍司馬。
北宋建立，開寶二年(969)，人為太子詹事。六年，因患眼疾求退，以工部尚書致仕。宋太宗即位，就加禮部尚書。太平興國二年(977)病卒，時年76歲。
