據村碑記載，由於村後有山名橫山，而村子又在山口，故名橫山口。明嘉靖年間，鄒姓遷此建村，後陸續又有楊、張、丁、仲、王、程等姓遷入，鄒、張兩姓人口居多。
據清康熙《萊蕪縣誌》記載“方山保·橫山口”。1949年10月至1950年6月橫山口村與五色崖同一個黨支部；1958年10月苗山人民公社成立，隸屬於苗山公社；1985年見馬鄉成立，隸屬於見馬鄉杓山管區；2001年，原見馬鄉並於苗山鎮，又歸入苗山鎮杓山管區。
橫山口村原有複式國小一所，1998年合到漫道聯小，現只存幼稚園一處。橫山口雖居山區，但人們十分重視文化教育。村民省吃儉用，供子女上學，從1977年高考恢復到2002年，全村共考取了11名大中專學生。
橫山口村有著光榮的革命傳統。戰爭年代村人積極參戰支前，為共和國的建立做出了貢獻，有的獻出了寶貴的生命。張同昌，犧牲時年僅28歲。他是共產黨的交通員。有一次在去灰堆送信的路上，被日本鬼子發現，被日本鬼子用刺刀捅了二十多刀而壯烈犧牲。張心厚，淮海戰役中犧牲，死時僅23歲。張心成，萊蕪戰役中犧牲。邵玉勝，八路軍的排長，在與敵人的一次遭遇戰中犧牲。
過去，橫山口村村民祖祖輩輩守著荒山受窮，年頭到年尾要糧無糧，要錢無錢。為改變惡劣的自然條件，從1960年開始，在村黨支部的帶領下，分別在村莊的東、西、北三面修建了小型水庫五座，使100多畝旱地成了水澆地。村里人多地少，為擴大耕地面積，從1977年到1985年八年時間，全村老少齊上陣，改河造地150廟。同時，在河的上游修建大型攔河壩1個，修建水渠300多米，挖機井4口，建揚水站1處。使改造後的土地都成為水澆地，全村人均口糧由100斤猛增到400餘斤。
1970年至1980年，村裡有地毯廠、編織廠、燒制廠等副業。1981年實行聯產承包責任制後，由於人們缺乏管理經驗，地毯廠外遷至見馬鄉；編織廠、燒制廠相繼破產。1999年，新支書上任後，帶領村民積極進行產業結構調整，制定出一系列激勵措施，使林果業和畜牧業蓬勃發展起來。現已有果園150畝，承包荒山有11處，扶持和發展大型養殖戶五戶，支持個人建廠一個。
如今，來到橫山口村，看到的是整潔的瓦房，成群的牛羊，山山披新綠，嶺嶺飄果香。
觀念一變天地新，橫山口人的生活將一步一個台階。
