據1989年8月所立村碑記載，吳小莊村於明成化十九年(1483年)吳姓由中小莊遷此建村，因鄰村多以小莊取名，以村名村，冠以姓氏，故名吳小莊村。
據《萊蕪市志》載，吳小莊村清末屬萊蕪縣毛埠保。民國初年屬第十區（魯西區）。1939年至1941年萊蕪劃為萊北、萊東和新甫三縣，吳小莊屬新甫縣。1945年10月恢復萊蕪縣建制，吳小莊村屬萊蕪縣聖井區。1951年改為第五區。1955年復稱聖井區。1958年聖井區分為牛泉、聖井兩個鄉，吳小莊村屬牛泉鄉。同年十月，鄉改為人民公社，翌年聖井並人牛泉人民公社，1984年改為牛泉辦事處，1985年10月改為牛泉鎮，吳小莊屬牛泉鎮。
吳小莊村建村已有五百多年．建村之初只有吳姓，其間張、陳、任、畢、王五姓陸續遷聚，其中吳姓占97%族姓之間從不分眾寡、貧富、強弱，都以團結友善、和睦相處、互助耕耘、幫教讀書為樂，世代相傳。
出東門步行兩華里，一青石山名曰轉山。這裡是當年防抗匪患的重要地方。吳小莊村民具有勤勞、樸實、勇敢、不怕吃苦的優良傳統，具有抗禦匪患的能力和勇氣。為防禦匪兵的經常性劫掠，1826年春寨主吳兆風發動村民按地分攤修築環村圩牆。民國初年，兵荒馬亂，匪患四起。1919年春天，以寨主吳志昌為首，率領村民在村東轉山開山鑿石，半年之餘在山頂築起高1丈，寬2尺，長約三華里的三層圍牆，遂保一方平安。
1942年村長吳欽祥、吳星台受亓象德指令按土地耕種面積向村民斂取錢糧，築修五間三層大樓（當時可謂高級建築）作為村公所，後來拆除上層改為村國小，直至解放後，從1950年至1985年仍為國小教室。1989年國小搬遷，大樓已成危房，又拆去二層作為村辦公用房。
1995年新建村委大院後，此處改為衛生室。1947年農曆5月2日駐紮在聖井王家樓村的國民黨匪幫下山包圍吳小莊村，強令男女老幼集合在村北的青沙河裡，無辜槍殺平民吳新村，帶走吳欽彬、吳欽朝、吳多功。在抗日戰爭和解放戰爭中，出現過許許多多可歌可泣的英雄人物，如吳欽耀、張成木、吳欽剛等。在解放戰爭中，為國為民壯烈犧牲的烈士不少，轉業後在地方工作的吳修連、吳勝震，以及在部隊服役多年仍在為黨為民繼續工作的吳清堂、吳玉海等，他們是吳小莊的榮耀，也是家庭的光榮，激勵著後人披荊斬棘奮鬥不息。
暑去寒來，星轉斗移。吳小莊村歷經滄桑，直至1948年解放，中華人民共和國成立之後村民才安居樂業。1954年冬，14戶村民自發組織農業合作社，名曰“連豐農業合作社”。黨支部書記吳欽朝，社長吳元田，按“地四勞六”分配。1956年，全村進入高級農業合作社，四個分社，社長吳乃喜，大隊長吳長貴，黨支部書記吳多春在村里實施“人七勞三，困難戶加輔助”的社會主義分配原則。1960年至1962年三年自然災害時期，吳多春、吳長貴立足本村資源、人力設備條件，辦起了酒廠（時稱酒店）、油坊、菜園等工副業項目，經濟收入很是可觀，在周圍村莊首屈一指，村民開始豐衣足食。1972年吳小莊村開始“農業學大寨”，改土造田，小地變大田，丘陵變梯田。1968年大旱，村民奮起抗旱，九個生產隊打直徑3米、深20米左右大口機井一眼，建小型提水站四座，基本上保證了大旱之年沒減產，口糧達到自足。1977年冬，吳小莊村民抗嚴寒披雪霜在石廟嶺建起大型揚水站一座，後在村西北又建二級揚水站。擴大水澆面積600畝。該年冬又修建馬道大橋，高6米，寬5米，長10米，是通往萊城的交通要道。1979年，投資3萬元在南王林鑽深井一眼，修建水利灌溉渠道3華里，部分地瓜地變成了小麥地和大姜田。1982年實行家庭聯產承包責任制，改變了傳統的種植模式，大搞科學種田，糧食產量飛速提高，徹底解決了村民的溫飽。繼而歷屆村委多方籌資又在東南溝、東嶺蓋、圈子地、空墳溝陸續鑽井5眼。至2002年春，全村機灌深井6眼，修建水利灌溉渠道逶迤8華里，80%的土地得到灌溉，一年一季的地瓜地變成了三辣園。1992年村里投資十多萬元購置自來水設備，在牛泉鎮率先喝上自來水，生產面貌、經濟狀況不斷改善，村民生活由溫飽向小康大步邁進。
重視文化教育，以文育人，提高文化素質是吳小莊村的傳統。至清末廢科舉止，吳小莊村獲得功名者不下十餘人，貢生、太學生數十人。20世紀初，老中醫吳樹堂（其父吳濟蒲，老中醫外科），先是教書育人，後因戰亂棄教從醫，是當地的書法名人，書寫過不少碑文。1948年吳小莊就有村辦國小和私塾，教書先生吳樹榆、吳元修。1950年冬重新辦起國小，吳元修、吳東方、吳煥亮任教，入學兒童一百餘人。從此吳小莊文化教育步入新時代。20世紀60年代，吳俊勇考入青島醫學院，吳有蘭考入山東工業大學。吳培年由山東水利專科學校畢業，歷任高莊、南冶黨委宣傳委員，萊蕪市教委成教站站長。自1977年恢復高考至2002年吳小莊村考入大中專院校學生100人，吳小莊村一家有二至三名大學生者就有十來戶，在四鄰八鄉有“秀才莊””之稱。
吳小莊村山川秀美，人傑地靈。一條發源於轉山腳下的青沙河弧圍著半個村莊，夏日雨水大作時，河水湍流，奔騰滾滾，蜿蜒流入汶河。西行一條8米寬的沙子公路通往泰安崅峪與零九公路相連，村東設有停車點，柏油馬路直通萊城，客車往來川流不息。
吳小莊村東至轉山，西至青龍寺，南至觀音堂，北到鎮武廟，可謂名勝眾多。村北是鎮武廟舊址。據考察，鎮武廟建於明朝正德八年（1514年），殿房三間，殿內置一橫匾，題書“威鎮北方”。廟門朝南，紅色院牆，廟內有一泉水淌流不息。此廟1958年大煉鋼鐵時被拆毀，尚有廟址痕跡，香火不絕。每年農曆正月十九，中老年村婦前來燒紙叩頭，祈求風調雨順，國泰民安。鎮武廟以南300米為觀音廟（村民稱觀音堂），建於明正德十一年（1517年），分正殿和廂房，殿堂掛一橫匾，題書“南海大士”，廂房有送子娘娘塑像，廟內立有石碑兩座。1966年8月“文化大革命”初期被拆毀。據村民言傳，農曆3月3日是觀音奶奶的生日，屆時大多數中老年村婦前來燒紙舉香予以紀念。
沿著通往泰安崅峪的公路，步行百餘米就是遠近聞名的青龍寺。青龍寺始建於明弘治十年十一月（1497年），1512年重修。寺內有罕見的石佛像一尊，佛像面南，用當地青石雕成，是萊蕪境內最大的佛像，結跏趺坐於一橢圓形蓮花盤上，左右各育兩個浮雕羅漢。南9.6米處有石塔一座，原十三層，與寺院一起在“文化大革命”中遭破壞，佛像因炸藥未響幸免於難。青龍寺西約30餘米有一石橋，名曰“青龍橋”，與青龍寺同年建修，石砌橋墩，青石板鋪設橋面，原寬2米，長3.50米。1995年續修，現橋寬4米，長5米，是通往泰安的交通要道。出南門百餘米路東有一灣名曰“金魚灣”。據村民言傳，清朝初年一春天此灣乾枯，一村民挖土墊欄，挖出一對金魚放之，故名之，年積月累、水土淤積，現已毀灣種田。
演唱萊蕪梆子是吳小莊村的藝術傳統。早在19世紀中期，就有文藝愛好者逢年過節演唱歷史戲，20世紀初期，以吳欽方為領導的劇團組織三十餘人編排六十多個劇目，除在本村演出外並應邀去萊蕪、泰安、新泰部分村莊演出，同時赴縣城參加歷屆會演。1965年停演歷史戲以後，村團支部組織男女青年文藝受好者50餘人成立毛澤東思想文藝宣傳隊，聘請老藝人吳欽方傳教萊蕪梆子、打擊樂和各派唱腔，經常在本村宣傳演出，還被調遣去萊博公路、喬店水庫、石灣大橋等工地慰問演出。1969年至1980年曆屆赴縣城參加會演和調演，以主要演員吳承平、吳岱蓮、吳俊英、吳勝慶等參演的《追車》、《散會之後》和自編節目《女鐵匠》、《退貨單》等榮獲演出獎和優秀節目創作獎。為弘揚吳小莊萊蕪梆子傳統藝術，2000年9月在牛泉鎮政府的大力支持和村兩委的關心首視下，成立了以吳多元為團長的文藝宣傳隊，以本村人員為主，吸收了部分演出過傳統戲的老藝術和部分喜愛文藝活動的中年婦女組成了30餘人的吳小莊村業餘劇團，以演出自編節目為主兼學傳統戲劇。昊小莊村業餘劇團在2001年參加“萊蕪市城市信用社杯萊蕪梆子會演”，演員吳承平、馬士芬、昊勝慶參演的自編節目《特殊禮品》分獲演出、創作一等獎，5月參加“萊城區計畫生育調演”，演員馬士芬、吳勝慶、張明英、任培增演出的自編節目《新風頌》榮獲演出二等獎，7月為慶祝中國共產黨建黨80周年參加萊蕪市“消夏文藝晚會”演出。
