起因
臨沂大慘案1938年3月初，侵華日軍進逼山東臨沂邊境。駐守臨沂的國民黨第四十軍龐炳勛部在第五十九軍張自忠部增援下，與進犯臨沂的日軍展開了近一個月的激戰，給敵人以重大殺傷。爾後，張、龐兩軍相繼撤出戰場，臨沂遂於4月21日失守。
經過
血洗城北古城村
1938年3月下旬的一天，天剛放亮，日軍如狼似虎地闖入古城村。日軍放火燒房，農民王殿思背起被火燒傷的母親往外逃，沒跑多遠，被日軍用槍打死，母子雙雙倒在血泊中；一個躲在牆角里嚇昏了的老嬤嬤，被日軍拖到街上點火焚燒，老人慘叫，日軍卻站在一邊狂笑。不到一天的時間，古城村就變成一片廢墟，斷垣殘壁，血跡斑斑，全村被殺害62人，有一戶被殺絕。逃難的民眾在渡河時，又被日軍抓住數十人，用刺刀逼著脫光衣服向河裡跳，誰不跳，上去就是一刺刀。除個別人死裡逃生外，多數人慘死在水中，日軍卻在岸上狂笑。
日軍進大嶺村後，更是無惡不作。躲在村西觀音廟裡的避難民眾，除兩人逃脫外，被日軍用機槍打死45人。全村300多間房屋被燒光。
血洗臨沂城
臨沂大慘案與此同時，日軍不斷派飛機對城裡狂轟濫炸，特別在城垣棄守之前的兩三天內，轟炸掃射日甚一日。
一枚炸彈在城內北大街路南王貞一雜貨店的防空洞口爆炸，在洞內避難的男女老少30多人，有的被炸死，有的被悶死，無一倖免。顏家巷郁鳴漪一家，除本人逃出外，其他人全部遇難。西門裡路南開雜貨店的李潤生之父被炸死在自己家中。在西門裡天主堂（現臨沂天主教堂）內避難的民眾被炸死炸傷300多人，尤修女被炸得骨肉分離，濺在了教堂從南面數第二根石柱上。直到今天，尤修女的血跡依然隱約可見）。
日軍進城後，在大街小巷密布崗哨，架上機槍，挨戶搜查，堵門截殺。日軍每到一家，遇人就是一刺刀，對中青年婦女先奸後殺，連老人、小孩也不放過。未及走脫的居民紛紛越牆，向西門裡天主堂方向尋求避難。居住在教堂後面100多歲高齡的夏全貞老人回憶說：“當時臨沂城裡極為恐怖，大街上到處是日軍的崗哨，很多老百姓聽說日本人怕德國人，於是紛紛湧入西門裡天主堂。包括地下室、大教堂、西側修女院育嬰堂以及蘭山路南教會診所等地方，被城裡的百姓擠得水泄不通，以至於教堂院兒大門都難以關上，一時間，西門裡天主堂成了老百姓的避難所。由於教堂里全是難民，擠得連插腳的空都沒有。僅教堂門外擠不進來的難民，就多達好幾百人（大約700多人）。這時，喪心病狂的日本兵，一面從教堂西面向難民掃射，一面在教堂以東各個路口用機槍堵截，毫無遮擋的人群紛紛倒下，凡是教堂門外的難民，都慘遭日寇殺戮，蘭山路頓時血流成河。萬幸的是教堂門裡的難民幸免於難。教堂杭神父（德國籍）看到日寇滅絕人性的滔天罪行，很想設法制止，怎奈能力有限，力所能及的只是想方設法地解救難民。他親自安排信眾輪流值班，為難民盛湯送飯，披衣蓋被。教堂門外，不時傳來機槍的掃射聲和遇難百姓悽慘的喊叫聲。
臨沂大慘案一日，一夥日軍小分隊路過西門裡天主堂時，停了下來。他們不敢進教堂殺人，於是，站在教堂門外，誘騙難民走出教堂大門，然後，再用刀槍屠殺。老百姓嚇得硬往教堂院門裡擠。教堂看門的先生，趕緊將此事告知了神父。德國籍的杭神父聽說後，非常氣憤，好不容易穿過人群，擠到教堂大門口。恰巧看到一個日本兵正端著刺刀，以下流低級的語言，對著教堂門裡的避難婦女說話：“花姑娘的，出來！”此時，杭神父（1930—1953在臨沂）走上前去，對著那個日本兵“啪啪”一既耳光，日本兵一看眼前站著的大鬍子德國神父，雖然殺人不眨眼，但此時也沒敢出聲，平時，他們見到德國神父都是先行軍禮以示尊敬的。故此，挨了打，也沒敢反抗，只是迅速地一低頭“嘿”了一聲，就趕緊扛著槍，與其他日本兵排成隊，離開了教堂。
據老人回憶：躲藏在西門裡天主堂、南堂、北堂（北門裡路東）的難民，約計4000人左右。
在教堂後面居住的孫建芝老人回憶說：“當時她帶著兩個女兒走投無路，日本兵要侮辱她和兩個女兒，幸虧及時躲進天主教堂避難，才躲過此劫。”
在蘭山公寓居住的王氏回憶說：“當時，有很多人為了逃命，東奔西跑的，後來，躲到西門裡天主堂避難。由於教堂內難民太多了，糧食和衣服都不夠用。有的人就冒著生命危險，偷偷地走出教堂大門，回家拿東西，結果，在來回的路上，又死在了日軍的槍下。有的為了保命，請神父在後面跟著，實際上是保護著，回家取物。這樣，即拿回了東西，又保全了性命。”某難民瑞路，姓什麼，記不清了，看到了日軍殺人的可怕場面，嚇得欲跳井尋死，幸虧被教堂的人救起，帶回教堂避難，從而幸免於難”。
日軍在教堂門外大聲地叫囂，只能在外面殺人，但是，面對教堂內的難民，卻不敢輕舉妄動。
至今依然健在的陳瑞霆老將軍的兒媳，在2010年3月中旬，從北京來臨沂，到達教堂時，非常親切地參觀了一遍。她說她是臨沂人，媽媽尊名何雲，兵荒馬亂的年代，自幼是孤兒，由西門裡天主堂撫養長大。媽媽常對她說，那時，教堂里全是難民以及被教堂收養的女孤兒。她指著二層樓的一間房子告訴我們，她的丈夫，也就是陳瑞霆老將軍的兒子，就是在臨沂教堂大概這個地方出生的，感覺非常親切。
血洗戰西大嶺村
日軍從南門裡一雜貨店院裡的防空洞中搜出20餘人，當場全部用刺刀刺死。崔家巷一戶的小孩子出疹子，按中國人的慣例，門口掛紅布條，日軍怕“傳染病”，點火將小孩活活燒死。日軍搜查城隍廟東楊家園時，婦女紛紛跳井自殺，頃刻之間，死屍塞滿井筒。茶棚街胡士英家的防空洞較大，藏人很多，日軍堵門用機槍掃射，並向洞內扔手榴彈，死者無數。日軍走時，還在胡家大門上寫著：此院死屍大有。北門裡路西一老太太年過70，臥病數月，生命垂危，全家7人圍守病床，未及躲避，日軍進院後將男子全部刺死，女的被迫背起病人一同跳井。城內居民凡被日軍發現者均慘遭毒手。一次，日軍驅趕著30多人清掃北大寺（今東風製藥廠處），幹完活，說叫他們站隊點名，結果被機槍點射，全部喪生，屍體被推進大灣內。
上下峪子慘案
1938年3月6日深夜，駐紮沂水城西南15華里的上峪子村的國民黨沂水縣政府保全隊隊長范桐山，帶領保全隊武裝偷襲了沂水城南日軍崗樓。3月8日晨，沂水城日軍兩個排突襲並封鎖了上、下峪子兩村，開炮轟擊，進行報復。此時范部已撤走，村民慌作一團，紛紛向南跑去，北山上機槍子彈雨點一樣落下來，許多人倒在彈雨中。接著日軍衝進村中，將村中未及逃走的村民30人趕到下峪子村東北溝子裡，當靶子逐個用機槍射殺。
結果
臨沂全城的倖存者寥寥無幾，有的在地窖內東躲西藏多日，掙扎活命；有的白天在爐膛內藏身，深夜從城牆水道中爬出，住在南關美國醫院的近百名原國民黨第四十軍傷員，連夜轉移到郊外，多數重傷員死在醫院附近的麥田裡，曝屍曠野，無人敢收。萬惡的日本侵略者，在城西瘋狂屠殺十餘日後還嫌不夠，又在火神廟旁和南門裡路西設了兩處殺人場，用軍犬、刺刀屠殺無辜民眾以取樂。王學武的父親被日軍用刀剁成三截；徐廷香之父、呂寶祿等被軍犬活活咬死。全城被害民眾計2840餘人，加上沿途殺戮，共達3000人以上。
日軍在進行血腥大屠殺的同時，還縱火毀城。從火神廟以西、槽王廟前玉聚福街東、洗硯池以南，北到石碑坊、暢家巷至劉宅一帶，大火一直延續六七天，整個城西南隅化為灰燼。
延伸
1945年8月15日日本天皇宣布投降後，臨沂日軍於8月16日逃往棗莊．城內偽軍將偽沂州皇協軍王洪九一部接入城內，企圖憑藉堅固工事和依靠日軍逃走時留下的大批武器彈藥及糧食固守頑抗。17日，八路軍濱海、魯中軍區部隊各一部向臨沂發起進攻，9月11日7時，八路軍占領臨沂城，共殲滅偽軍2000餘人，偽軍頭目許關生、邵子原被生擒。
