據村碑記載，明朝萬曆年間，有楊氏遷居於此，不久遭賊寇抄斬。後於清乾隆三十一年（1776年），有孫氏自淄川陰柳莊來此建村，因址在峪中，附近山石可加工成磨刀石，故名磨石峪。
民國二十四年《續修萊蕪縣誌》記載磨石峪原屬萊蕪縣石馬鄉；1941年萊蕪劃為三縣，磨石峪屬萊東縣石馬區；1945年萊蕪改地名區為數字區，磨石峪屬第六區；1958年10月人民公社成立，磨石峪隸屬常莊人民公社；1984年4月，常莊公社改為常莊辦事處，磨石峪隸屬常莊辦事處文字鄉。1985年常莊辦事處分為常莊鄉與和莊鄉，磨石峪屬常莊鄉；2001年，苗山鎮、常莊鄉、見馬鄉合併為苗山鎮，磨石峪歸屬苗山鎮至今。
村東、南、西三面環山，北為河谷，整個地貌南陡北緩，酷似香爐。東面的蒼山巍峰兀立，陡峭如劈。山懷中有一石門，流傳著動人的故事。抗日戰爭中有一次反包圍的蒼山戰鬥就發生在這裡。與此隔村相望的西山巔如平地，上砌滿山寨，道道石牆築砌著戰亂年代先輩們的艱辛。
村北有一攔河大壩，高高的石堤將蒼山與西山連線，把守著村子的門戶。壩東端一條鄉間公路北去連著水東路。夏雨季節，由北向南而來可以看到，大水漫壩而下，形成巨大的瀑布，摔在下面的石板上，珍珠飛濺，形成一道亮麗的景觀。
磨石峪的土地大都分布在環村的山嶺上，相當瘠薄，加上以前缺水和交通不便，曾是附近有名的窮村。民謠說“磨石峪，光石頭，土如珍珠，水如油”，“棠梨子樹，開白花，磨石峪里缺水喝。”因此，過去在農作物種植上僅限種些穀子以及地瓜、南瓜等耐旱作物，既便如此，也是十年九不收。
窮則思變。新中國成立後到20世紀70年代末，村里對山、水、路進行了全面治理。1968年，鑿通了村與公社之間駐地的山間公路。1974年至1978年，鑽成了深達100多米，提水量在每小時30方以上的機井4眼，並修築了蓄水量達兩萬多方的村北攔河大壩，全面解決了灌溉和飲用水。1978年，又使村三面山坡的果樹覆蓋率達到80%。改革開放以來，磨石峪人又緊跟時代步伐進行了農業產業結構調整，從大面積種植西瓜、兩紅柿到專業化養豬，逐步形成了種植、餵養、加工等多產並舉的生產經營方式。在治理與調整的基礎上，目前村民生活正全面向小康邁進。
村里1979年開始通電。截至2002年村中家家戶戶都有電視，多半村民家中並安有電話。成為原常莊鄉首批電話村。
磨石峪村雖然人口不多，但名人名匠出了不少。解放前，老中醫亓義花煉製的“紅聖丹”是遠近聞名的治瘡良藥。他的傳人亓克紹、亓志紅都是這一帶著名的鄉醫。解放初期的五六十年代。織匠呂興明織的粗布名噪鄉罩。
坐落在村南的磨石峪國小創辦於1950年，劉春玉是第一任教師，後來張宏啟在此執教多年。教學質量一直在全公社名列前茅。自恢復高考制度至2002年，已考取17名大中專學生，其中孫行光是本村考取的第一名大學生。
磨石峪雖然偏僻，但有強烈的改革意識。改革開放以來，已有亓義城等十戶村民由初始的小商小販到進城經商，現發展為資產50萬元以上的批發大戶已有三家。磨石峪人，正昂首闊步，向現代化邁進。
