琅琊書院琅琊書院在城內洗硯池以北，這裡原來是王羲之的故宅。清乾隆年間由沂州府知府李希賢倡議，下轄的七個州縣共同出資在右軍祠內創辦。琅琊書院整個建築前邊是碑亭、大門，門內立有康熙御書的龜駝碑，周圍廊下牆壁上鑲嵌有琅琊法貼以及眾多歷代著名石刻碑，供人觀賞。庭中左右共建有書室30間，選拔屬地蘭山、郯城、費縣、蒙陰、沂水、莒州、日照的優秀士子在這裡學習。古老的洗硯池經過整修，池旁、院內，遍植翠竹、楊柳，各類花木與書院建築相襯映，蔚為壯觀。
琅琊書院與府學、考棚相互配套，成為沂州府培育和挑選人才的地方。歷任知府都常來書院講學授課。隨著時代的發展，琅琊書院的學習內容和學習方式也有很大的變化。李澤鈞介紹說，本來每逢“月課”書院主要請地方官員或者名士講儒家經學、程朱理學、治世之學，到了清朝末年則經常邀請維新人士在這裡講中外地理、歷史知識及救國之道。“月課”之日，常常考試，根據成績優劣評定等次，名列前茅者還發給獎勵，以資鼓勵。
琅琊書院當年的琅琊書院藏有大量圖書，可供生員借閱。當時府學和書院有自己的學田，學田所收租金完全夠其正常開支，每年“琅琊學款”支出都有餘額，有時還可以幫助部分縣解決學款不足的困難。
清末戊戌變法以後，廢科舉興新式學堂，在此過程期間，書院有些凋零，學術氛圍淡化，閒置的書院改辦為王氏義學，即於騰夫人王氏捐資所辦的義學。後來提倡學西洋文化，1901年被改為“沂郡校士館”，引進了外國的課程。
校士館辦了沒多久，1903年，琅琊書院改為蘭山縣立第一高等國小堂，校園規模較小，就辦了一個班，之後又改為臨沂縣立乙種工業學校，以後工校又改為職業學校。到北伐戰爭前幾年，終於因為年久失修，部分房屋倒塌而閒置廢棄。
山東省立第五中學擴建時，將琅琊書院劃為五中第三院作為學生宿舍，房屋大部分都是新建的，書院所藏圖書6200餘冊也全部移交五中圖書館。五中當時的校長是沂水人徐眉生，此人很有卓識，工作有魄力。在徐眉生任校長期間，五中原校址在今考棚街中段，隨著學校擴辦，考棚街中段這處校舍改為第一院，主要是學生上課的地方；二院在現今洗硯池國小，當時是僧王廟所在地，學生在此主要上體育課、完成實驗課程等內容；第三院就是上文所說琅琊書院所在地，主要是學生的宿舍；第四院設在普照寺內，系學生的勞作室。
日軍進攻臨沂城期間，舊城內的古建築被破壞，古文物也遭到洗劫，五中停辦，校舍大部分毀於日軍的轟炸和焚掠中。損壞後這個地方變成了日本人的殺人場，外圍用鐵絲網圍起來，裡面遍地都是碎石磚塊，雜草叢生，一片荒蕪，無數仁人志士在此獻身。當然，這裡也作為訓練日本新兵的場所。
解放戰爭時期，國民黨駐軍曾經在殘存的校舍辦過一段時間的食堂。解放後百姓在其舊址上建房而居，此地慢慢變成了居民區。
