魚崇諒幼能屬文，弱冠，相州刺史闢為從事。會魏帥楊師厚卒，建相州為昭德軍，分魏郡州縣之半以隸之。魏人不便，裨校張彥及帳下，囚節度使賀德倫歸款莊宗，魚崇諒奔歸陝。
明宗即位，秦王從榮表為記室。從榮誅，坐除籍，流慶州。清泰初，移華州。俄以從榮許歸葬，放還陝。三年，起為陝州司馬。仕晉，歷殿中侍御史，鳳翔李儼表為觀察支使。奉方物入貢，宰相薦為屯田員外郎、知制誥。開運末，契丹入汴，契丹相張礪薦為翰林學士。契丹主北歸，留魚崇諒京師。
漢祖之入，盡索魚崇諒所受契丹詔敕，焚於朝堂，復令知制誥。俄拜翰林學士，就加中書舍人。隱帝即位，魚崇諒以母老求就養，除保義軍節度副使，領台州刺史，食郡奉。會舉師討三叛，節度使白文珂在軍前，魚崇諒知後事。凡供軍儲、備調發，皆促期而辦，近鎮賴之。魚崇諒親屬盡在鳳翔城中，逾年城破，李谷為轉運使，庇護崇諒家數十口，皆無恙。魚崇諒請告，自岐迎居於陝。未幾，王仁裕罷內職，朝議請召魚崇諒為學士。
周祖踐祚，書詔繁委，皆魚崇諒為之。廣順初，加工部侍郎，充職。會兗州慕容彥超加封邑，彥超已懷反側，遣魚崇諒充使賜官告，仍慰撫之。時多進策人，命魚崇諒就樞密院引試，考定升降。
魚崇諒以母老思鄉里，求解官歸養。詔給長告，賜其母衣服、繒帛、茶藥、緡錢，假滿百日，令月給錢三萬，米麵十五斛。俄拜禮部侍郎，復為學士。詔令侍母歸闕，魚崇諒再表以母老病乞終養，優詔不允。世宗征高平，魚崇諒尚未至，陶谷乘間言曰：“魚崇諒逗留不來，有顧望意。”世宗頗疑之。魚崇諒又表陳母病，詔許歸陝州就養。訖太祖朝不起。
宋太宗即位，詔授金紫光祿大夫、尚書兵部侍郎致仕。歲余卒。
