清初，段姓由山西遷此建村，因近大崮山，以山名村。與小陡溝、翟家溝、段家屋子為一行政村。全村有段、李、呂、顏、劉等姓。1941年前隸屬口鎮區的永和鄉；1941年劃歸白龍區；1948年又劃歸苗山區管轄；1984年劃歸苗山辦事處見馬鄉；1985年又由見馬鄉劃歸張家窪鎮；2001年屬張家窪街道辦事處至今。
大崮山村人民勤勞勇敢，團結和睦，具有光榮的革命傳統。抗日戰爭時期是老革命根據地。早在抗日戰爭時期就秘密建立了黨的組織。1936年冬，辦起了農民業餘識字班。李福相為文化教員，他邊教農民識字，邊宣傳革命道理，農民日益覺悟，紛紛投入了轟轟烈烈的抗日運動。“七七”事變後，開始全面抗戰，大崮山的青壯年，積極加入黨組織。1938年春開始建立黨小組，第一批黨員為：段明臻、段明亮、李寶亭等。1939年2月建立黨支部，壯大了黨的力量。在黨的教育影響下，一部分有志青年自願加入革命隊伍。先由黨員帶頭，廣大青年積極回響，這個只有60戶人家的小村，就有35人參軍，有的是“雙抗”。如段明昱、段明珠，呂應瑞、呂應琪均為親兄弟；段明臻、段明哲、段明誠三兄弟脫離生產，大哥段明倫任行政村長，四兄弟都參加了革命，被稱為革命之家。
為了便於領導，活動方便，1941年秋，黨支部又分為：大崮山、於家莊、大陡溝三個黨支部，均直接受白龍區委領導。大崮山在支部書記呂應傑的帶領下，隊伍不斷壯大。村民在黨組織的帶領下，發動民眾，組織抗日小分隊，長期活動在梁坡、芹村、白龍、山頭店一帶，經常利用夜晚或惡劣的天氣，偷襲敵人的據點。曾參加過黃崖頭、大陡溝，大洛莊、大崮山等戰鬥，多次打退了敵人的進攻。此外，還堅持站崗、放哨、拆毀橋樑、破壞公路、割斷電話線、埋地雷，阻擋敵人的進攻。他們還配合大部隊作戰，打擊敵人，鞏固了革命根據地。
在環境惡劣的情況下，村民空室清野，把糧食、衣物、檔案等，藏在地洞裡，把牲畜進行轉移。當時萊東縣委的檔案、區的大批軍需物資均藏在本村。萊東縣領導人陳克、毛梓材、賈東明、崔蒞堂等常年住在翟家溝。縣稅務局的黃玉，黃衡常住大崮山，泰山軍分區政治部主任李枚青的妹妹、萊東縣委書記陳克同志的家屬五口人常住小陡溝。另外，還有許多傷病員也在此居住。他們都以此為家，民眾也把他們當作自己的親人。如在翟家溝居住的一名傷員，傷口復發流膿，呂彤法及時用鹽水和劉寄奴給其洗燙，使他早日痊癒。
在偉大的抗日戰爭中。大崮山人民不論在人力上、物力上都有力地支援了抗日戰爭，受到了上級黨組織的表揚和獎勵。1943年秋後評優選模時，村支書段明哲出席了魯中行署召開的勞模大會，被評為一等勞動模範。大會獎給黃牛一頭，大槍一支，子彈30發，手榴彈4枚。極大地鼓舞了幹部民眾的革命熱情。
大崮山人民為抗戰做出了貢獻，但也付出了巨大的犧牲。1941年古歷11月21日，敵人集中力量包圍大崮山，燒毀翟家溝房屋六十多間，殺死4口人。在另一次掃蕩時，段明星的妻子被打死，段明法的房屋被燒毀，顏世昌的父親被抓去。1944年日本鬼子掃蕩時，呂應禮的母親被炸傷。60多歲的段登林和他12歲的孫子同在山洞裡逃難，山洞被炸塌，兩人被砸死。
解放戰爭時期，民兵隊長段明法帶領全體隊員晝夜奮戰，長期在大崮山一帶活動，埋設地雷，與國民黨反動派進行周旋，發揮了地雷戰的巨大威力。除了配合大部隊參戰外，人民還全力以赴支援前線，婦女做軍鞋，男人組成支前隊，抬擔架，運軍糧。幾十名青壯年組成的支前隊，曾參加過著名的萊蕪戰役、孟良崮戰役以及淮海戰役。段明敬、李夫義、呂正春、呂心利、呂正祥曾多次負傷，屢立戰功。1946年8月呂應琪帶領擔架隊參加了章邱埠村戰役。1949年派出6名常備民工參加了京、滬、杭戰役。直至華東大地解放，才凱旋迴鄉。
解放後，勤勞勇敢的大崮山人民在黨的正確領導下，用自己的雙手，辛勤的建設著自己美好的家園。俗話說，山區待要富，封山造林閘水庫。在村支部領導的帶領下，先後修水庫7座，動用土石几千立方米，蓄水量達到幾十萬立方米。1958年以顏景秀為代表的幾十名家庭婦女用幾個月的時間築起了本村第一座水庫，取名“群英水庫”，省政府獎給錦旗一面。十年九不收的旱田，變成了旱澇保豐收的豐產田，畝產達到了八、九百斤，大大改善了人民的生活。以段明儒為首的林業隊，長年累月戰鬥在山上，鑿魚磷坑，修石堰，植樹造林，為大崮山的林業建設做出了貢獻。
上世紀60年代，生產遭到了破壞，但大崮山人民仍然堅持抓生產，在生產隊長段倫忠的帶領下，組織老人及家庭婦女日夜奮戰，深翻整平土地幾十畝，增加了灌溉面積，糧食產量列公社之首，生產隊長段倫忠出席了萊蕪縣先進工作者代表大會。
大崮山（自然村）平均每戶達到了一頭牛，小陡溝村的段倫華一人就養了4頭牛，均收到了可喜的效益。段家屋村的李寬實、李金實各自投資一萬元築起兩座塘壩，既澆地又養魚，每年收入都在萬元以上。運輸戶李勝實擁有汽車一輛，挖土機一部，年收入過10萬元。除此之外，本村還組織了大量的勞務輸出。每年外出打工的不少於100人，年收入都在6000元以上。大崮山人的錢包鼓了，腰桿硬了，生活發生了翻天覆地的變化。一排排漂亮的 房屋不斷出現，高檔家電進入農戶，嶄新的家俱擺滿房間。大部分農戶買上了抽水機、拖拉機、三輪車、機車，吃的是大米白面，雞、魚、肉天天不斷，人們深深感受到了改革開放的好處。
大崮山人自建村以來，就重視文化教育。國小成立於1939年，1968年建新校於大崮山北嶺，占地面積4500多平方米，教室13間，同時由國小擴大到國中，取名“大崮山聯中”。大陡溝、於家莊、黃崖頭等村的國中生都在此就讀。1980年國中班合併到銅山中學，至此大崮山聯中改為崮山國小。2000年大崮山國小合併到於家莊國小。幾十年來，大崮山國小為國家輸送了不少的人才。段倫恆是大崮山村的第一個大學生。清華大學畢業的呂紅芝就是大崮山聯中國中畢業生。自1977年。恢復高考以來，村中先後考取大中專學校的學生50多名。教育發展促進了精神文明。因此多次被評為遵紀守法先進單位，文明村等。
大崮山人民決心在黨的領導下，再接再厲，努力把自己的村莊建設成現代化新型村莊，為四化建設做出自己的貢獻，以實際行動報答黨恩。
