在北京大學，余遜曾參與整理和考釋首批居延漢簡。1930年，該批漢簡由中瑞聯合的中國西北科學考察團成員貝格曼發現，1931年5月底運至北京，初藏於北平國立圖書館，後移往北京大學，以便攝影和研究。起初參加釋讀的學者有馬衡、劉復（半農）、高本漢（瑞典）、伯希和（法國）。1934年，劉復病逝。1935年，經西北科學考察團理事會研究決定，選派勞乾（中央研究院助理研究員）、向達（北平圖書館編纂）、賀昌群（北平圖書館編纂）、余遜（北京大學史學系助教）四人協助馬衡，傅明德、傅振倫協助清理、編號。1936年，西北科學考察團將勞乾、余遜的部分考釋用曬藍紙印刷成冊出版，世稱“曬藍本”，所考釋的漢簡約占總數的三分之一，這是最早的居延漢簡釋文稿本。後因抗日戰爭爆發，釋讀工作中輟。此後，勞乾一人完成全部整理和考釋，先後於1943年和1944年在南溪石印出版了《居延漢簡考釋·釋文之部》和《居延漢簡考釋·考證之部》。與此同時，勞乾還發表了二十多篇研究居延漢簡的論文。對於余遜先生在簡牘學方面的成績，馬先醒撰有《余讓之漢簡學》（載於台灣《簡牘學報》第1期，1974年6月）。
余遜自承家學，博聞強記，能夠全文背誦《漢書》。他在輔仁大學講授《史記·高祖本紀》時，引述原文，在三面黑板上背誦書寫千餘字，與原文一字不差，足見其功力深厚。他講課時從不帶書和講稿，滔滔不絕，旁徵博引，深受學生歡迎。他還是個孝子，在父親余嘉錫面前總是侍立在側。有客人時，也是經父親命坐才坐。余嘉錫每天還為余遜規定窗課。其夫人是徐孝婉女士。
部分著作目錄
《民國十八、九年國內學術訊息》，余遜、容媛合撰，載於《燕京學報》第八期，1930年12月
《二十年（一月至六月）國內學術界訊息》，余遜、容媛合撰，載於《燕京學報》第九期，1931年6月
《曬藍本漢簡釋文》（北平，1936，通稱為“曬藍本”），勞乾、余遜合著，總計著錄3055簡。
《漢魏晉北朝東北諸郡沿革表》，載於《中央研究院歷史語言研究所集刊》第六本第四分，1936年
《讀<魏書·李沖傳>論宗主制》，載於《中央研究院歷史語言研究所集刊》第二十本下冊，1948年
《早期道教之政治信念》，載於《輔仁學志》第12卷1~2期，1943年12月
《南朝之北士地位》，載於《輔仁學志》第12卷1~2期，1943年12月
《由占田課田制看西晉的土地與農民》，載於《進步日報》1951年2月16日
《北宋抗拒契丹侵略的楊家將》，載於《進步日報》1951年10月19月
《漢唐時代的中朝友好關係》，收入《五千年來的中朝友好關係》一書，開明書店1951年版。
啟功先生回憶余遜
淘氣的還不止我一個，余嘉錫之子余遜也算一個。當時輔仁大學有一位儲皖峰先生，曾做過國文系主任。他喜歡吸菸，又不敢吸得太重，剛一嘬，就趕緊把手甩出去，一邊抽，一邊發表議論。他有些口頭語，和他接觸多了常能聽到。比如提到他不喜歡的人，他必說：“這是一個混帳王八蛋”。不知是不是受他的影響，我現在評價我看不上的人時，也常稱他為“混帳”。又比如他喜歡賣弄自己經常學習，知識面廣，就常跟別人說：“我昨天又得到了一些新材料”。當別人發表了什麼見解，提出意見時，他又常不屑一顧，總是反覆說：“也不怎么高明”，“也沒什麼必要”。於是我們這位余遜學兄把這幾句話串起來，編成這樣一個順口溜：“有一個混帳王八蛋，偶爾得了些新材料，也不怎么高明，也沒什麼必要。”試想，不淘到一定的水平，能編出這樣精彩的段子嗎？所以這則順口溜很快就流傳開了，聞者無不大笑。當然那位柴德賡學兄又要提醒道：“千萬別讓老師知道。”我至今也不知道，老師和儲先生知道不知道這段公案，可惜已無法查對了。
當時文學院的年輕教師有牟潤孫、臺靜農、余遜、柴德賡、許詩英、張鴻翔、劉厚滋、吳豐培、周祖謨等。這些人年齡差不多，至多不到十歲，之間可謂“誼兼師友”，經常在一起高談闊論，切磋學業。抗日戰爭爆發後，好多位相繼離開了輔仁，剩下關係比較密切的只有餘遜、柴德賡、周祖謨和我四個人，還留在陳校長身邊，也常到興化寺街陳校長的書房中去請教問題，聆聽教誨。說來也巧，不知是誰，偶爾在陳校長的書里發現一張夾著的紙條，上面寫著我們四個人的名字，於是就出現了校長身邊有“四翰林”的說法，又戲稱我們為“南書房四行走”。這說明我們四個人名聲還不壞，才給予這樣的美稱，要不然為什麼不叫我們“四人幫”呢？周祖謨先生的公子在提到“四翰林”時，總把周祖謨放在第一位，其實，按年齡“序齒”，應該是余遜、柴德賡、啟功、周祖謨，余遜比我大七歲、柴德賡比我大四歲，周祖謨比我小兩歲。
余遜是余嘉錫的公子，對余老先生非常孝敬，算得上是孝子。余老先生在清朝末年作過七品小京官，清朝滅亡後，曾到趙爾巽家教他的兒子趙天賜讀書。尹石公辭職後，經楊樹達推薦到輔仁大學作國文系主任，所以他對楊樹達先生非常尊敬和感謝。余遜曾在一篇文章中批評楊先生某處考證有誤，余老先生竟帶著他到楊府，令他跪在楊先生座前當面賠禮。楊先生很大度，連說：“用不著，用不著”。余老先生學問優異，博聞強記。國民黨統治時，設中央研究院，聘選院士，陳校長是評審，當第二天就要坐飛機到南京參加評選時，晚上余遜到陳校長哪兒去，幾乎和陳校長長談徹夜，談的都是他父親如何用功，看過哪些書，做過哪些研究，寫過哪些文章和著作，取得什麼成就和影響等等，確實了不得。他也不明說請陳校長如何如何，但用意是非常明顯的；陳校長也不說我會如何如何，但心裡已是有數的，彼此可謂心照不宣，後來果然評上了。還讓曹家祺為他刻了一枚“院士之章”的大印。當然這都是余老先生的實力所致，大家都心服口服。他的二十四卷本、八十萬字的巨著《四庫提要辨證》對《四庫全書總目提要》的乖錯違失做了系統地考辨，並對所論述的許多古籍，從內容、版本到作家生平都作了翔實的考證，對研究我國古代歷史、文學、哲學及版本目錄學，都具有重要的價值。他為此書的寫作前後共耗費了約五十年的心血，確實是一部不朽的著作。其它如《目錄學發微》更被別人“屢抄不一抄”（這是他自己的話，意思是抄來抄去），《古籍校讀法》、《世說新語箋疏》等也都是力作。余老先生的治學非常嚴謹，他臨終前，我到北京大學去探視，他還從抽屜里取出續作的《辨證》的底稿，字跡雖然不像以前那樣端正工整了，但依然很少塗改，行款甚直。余老先生在輔仁還教過“秦漢史”，這部講稿是余遜所作，他也毫不避諱，在堂上公開說：“講稿是小兒余遜所作。”父親講兒子的講稿，兒子為父親寫講稿，二人都很自豪，這在當時也傳為美談。可惜余遜去世較早，否則成就會更大。
（摘自《啟功口述歷史》第三章“我與輔仁大學”，北京師範大學出版社2004年版）
寧可先生回憶余遜
1948年春，北大史學系一年級的中國歷史課進入了第二階段——秦漢魏晉南北朝史，講課的是余遜先生。
余先生個子不高，有些發胖，操一口長沙官話，口齒清晰，常著一襲藍布（或灰布）長衫。他講課是很認真很敬業的，不時用粉筆寫下一長列史料，字跡端正清楚，頗具功力，然後逐句解釋。解釋時手執一根長教鞭，側身在黑板旁指點，以免遮住學生的視線。講得高興了，不時顛起腳來原地動彈一下，有點像個圓圓的皮球在蹦跳。
同學對他的課都不太著意，可能覺得平淡了一些，不怎么具有“可聽性”。但是仔細回想，內容還是很充實的。班上的同學對余先生不那么看重的原因，一是雖知道他是1929年北大畢業（？），與向達先生同屆，但卻沒有認為他是什麼“名”教授。二是聽高班同學說起，他剛畢業，即受中華書局之約（？），編寫了一部高中本國史，得了稿費二萬現大洋，那可是一筆不菲的數目，而且還累得病了一場。那時史學界的風習是尊重論文而不大重視專著，尤其不怎么看得上中學教科書，因此他的身價好像就不那么烜赫了。第三是他在敵偽時期雖然在輔仁大學教書，卻兼過偽北大的課，以至抗戰勝利後有了漢奸的嫌疑。其四是他是余嘉錫先生的哲嗣，有次高班同學去余先生那裡，正碰見老余先生隔著門帘不知為什麼在痛斥小余先生，而小余先生則肅立簾外低頭恭敬受教。那時正好國民黨政府遴選中央研究院院士，余嘉錫先生也在其列，可聽說老余先生並沒有出過什麼大著作，只是送出一部還沒有出版的《四庫全書總目提要辨證》去應選。論資排輩，這也讓人不免對小余先生的學術水平有了一點疑慮。
不過經過一些時間以後，我的這一點點疑慮也得到了澄清。其一是關於“編書教授”的疑慮，這已經不是問題，何況余遜先生確實有很深厚的史學功底，上世紀50年代初有關西晉占田課田制度的爭論，端賴余先生在光明日報《史學周刊》發表的一篇不到五千字的論文，作了結束，成為定論。第二是“漢奸”的疑慮，後來看到老余先生於日本侵占北平時在《輔仁學志》發表的《楊家將故事考信錄》等論文和余遜先生的有關東晉時南士與北士的關係的論文，認為南士北士的關係並非如傳言之勢同水火或互相歧視，而是雙方都以大局為重，消除隔閡，團結抗戰。這篇文章的立論，照我看似乎還有可議，但愛國之心溢於言表，而且也採用了抗戰時習慣的“影射”手法，至少是不能同錢稻蓀、周作人之流可以同列的。至於《四庫全書總目提要辯證》的學問自不待言了。
（摘自《回憶在北大受業時的四位老師》，作者寧可是首都師範大學歷史系教授，1947年入讀北大歷史系；該文原載於《光明日報》，有些內容值得商榷，已用問號標註）
