他的稿本如《隅卿雜抄》、《不登大雅文庫書目》等都藏於北京大學圖書館。《鄞居訪書錄》一書的主要內容是馬廉摘抄一些鄞縣文人著作的目錄，以及鄞縣一些世家大族家譜的部分內容，其中很珍貴的除從《甬上屠氏宗譜》中錄出屠本畯《飲中八仙記雜劇》外，還錄有鄞縣近代學者馮貞群的《伏跗室書目稿本》，馮氏藏書多善本，謝國楨先生《江浙訪書記》多次提及伏跗室藏書。1935年猝逝於北京大學講堂之後，藏書陸續散 出。其小說戲曲類的大部分，為北大圖書館購藏；然而若干珍稀小說以及大量的明蹤影。
憑藉豐富的藏書，馬廉於古代小說研究成績斐然，卻因多屬未刊稿本，而少為人知。我們以北大所藏馬氏稿抄本為資料基礎，梳理馬廉在古代小說目錄學、三言二拍、《清平山堂話本》及《三國志演義》等領域取得的學術成果；並從小說學術史的視角，重新評價馬廉的學術地位，探討小說收藏與小說研究史之間的學術聯繫。明代嘉靖年間杭州洪楩清平山堂出版的《六十家小說》原為六十篇，現存二十九篇(包括殘本)。其中十五篇為日本內閣文庫所藏，不知集名，通稱《清平山堂話本》。馬廉在寧波發現的十二篇是《雨窗集》與《欹枕集》的一部分，現為北京大學圖書館所藏。
馬廉又是小說戲曲古籍收藏家，生前經常與錢玄同、劉半農、鄭振鐸等學者結伴，到琉璃廠訪書購書。他因意外購得海內孤本———明萬曆年間王慎修刻本四卷二十回《三遂平妖傳》，遂將書屋取名“平妖堂”。又因有感於封建時代小說、戲曲等通俗文學長期受到正統文壇與學術界的輕視，將自己藏書戲稱為“不登大雅文庫”，將書室戲稱為“不登大雅之堂”，用以表示心靈深處的驕傲與欣慰。魯迅先生當年就常去堂中看書。
1935年2月19日，因患腦溢血，先生在北大講台上溘然長逝。他的5286冊藏書經魏建功、趙萬里等專家整理，於1937年為北京大學圖書館購藏。在“不登大雅之堂”藏書中，有小說372種，戲曲394種，還有大量的講唱文學及笑話、謎語等。大量不常見的小說、名劇珍本深受國內外學者珍視。
馬廉對天一閣曾作出頗多貢獻。1932年他回故鄉鄞州養病時，曾與鄭振鐸、趙萬里兩位先生訪得天一閣散出的明抄本《錄鬼簿》，３人連夜影抄出一部副本，後來又和趙萬里一起全面整理天一閣藏書。1933年，馬廉先生又購得一包殘書，從中發現了天一閣散出的明嘉靖刻本《六十家小說》中的《雨窗集》、《欹枕集》，次年交由北平大業印書局影印出版，使１２篇宋元話本得以傳世。
1931年，寧波拆毀古城牆已近尾聲，回鄉的馬廉發現其中大量的漢晉古磚歷史文化價值很高，於是朝夕巡頹垣，欣然撮拾，負麻袋以歸，燈下敲拓，著錄《鄞古磚目》一冊。1933年，寧波文化界人士籌款維修天一閣，並在閣後移建尊經閣和明州碑林。馬廉就將自己收集的數百塊古磚全部捐贈給天一閣，天一閣乃特辟一室予以儲存陳列，因其中有不少珍貴的晉磚，所以命名為“千晉齋”。自此，千晉齋便成了天一閣的一個組成部分，迄今已有70年的歷史，這是馬廉先生對寧波歷史文化的一大貢獻。
