廟坐北面南。中軸線為山門、戲台、獻殿、大殿、寢殿、三進院落,中院的東西為窯洞。占地面積不大,但頗有氣勢。
介休東嶽廟創建年代已無法考據,根據廟中的碑文記載,此廟“由來久矣,歷唐宋元明,代有補修”。探訪中,特地從介休市趕來的該市文物局局長裴衛東告訴記者,從各方面線索推斷,東嶽廟約始建於唐代,元朝至元7年(公元1270年)重加修葺,明萬曆17年(公元1589年)在時任介休知事王一魁的主持下,對整座廟重修擴建。
此廟高踞小靳村的村東土塬之上,環境靜僻、古柏翠茂,廟貌規整、格局齊全。其坐南向北,有三進院落,依次為山門、戲台、獻亭、正殿、聖母宮,左右兩面分別有配殿。東嶽廟在我國各地均有見,即便是我省境內,也在萬榮、蒲縣、晉城等多地可見。介休東嶽廟的主要價值,在於它是現存較為完整的山村古道教宮觀之典型,且廟內的彩塑、壁畫、石雕、石碑等,均為珍品。
據介休一帶民間傳說,古時小靳村有一郭姓村民,在發達之前曾在山東泰安東嶽廟祈禱,祈盼自己的生意順風順水。後來果然發達,他回到家鄉後,便拿出大量錢財在村邊修建東嶽廟,以謝東嶽大帝的“關照”。當然,這只是當地傳聞,東嶽廟為何建在相對偏僻的小靳村,至今沒有發現任何證據。