據明代何喬遠《閩記》記載：唐武德年間（公元618年－626年），穆罕默德遣四賢徒來華，一賢傳教廣州；二賢傳教揚州；三賢和四賢則傳教泉州，兩人卒後葬於靈山。下葬當夜山光顯發。
現存兩墓並列，墓蓋用花崗岩雕刻，占地2平方米。墓蓋的底座環刻蓮花瓣圖案裝飾，上層為截面呈圓栱狀的墓頂石，刻工簡樸無華。墓室之西、北、東三面依山修築馬蹄形的迴廊環抱墓室，以阻擋山洪流沙的浸漫，高約3米，迴廊中的幾根石柱頗似織布的梭子，古建築專家稱之為梭形柱，具有典型的唐代建築特色。廊內有五方碑刻，是康熙至同治年間五度重修聖墓的碑刻題記。正中的是陰刻阿拉伯文的輝綠岩石雕琢的石碑，是迄今在聖墓發現的最古老的碑刻，記載了伊斯蘭曆722年時，一批居住在泉州的阿拉伯穆斯林修復聖墓的史實。
墓的正中有石亭，亭的正中並列著兩座用花崗岩雕琢的長方形墓蓋，墓蓋下是伊斯蘭教聖徒三賢、四賢長眠之處。墓周圍還有一些歷代的伊斯蘭教徒的石棺墓，上刻伊斯蘭教常用的“雲月”圖案或《古蘭經》片斷。
迴廊的西側，有鄭和行香碑，上書：“欽差總兵太監鄭和，前往西洋忽魯謨斯等國公幹，永樂十五年十六日於此行香，望靈聖庇祐。”這是鄭和在公元1417年第五次航行聖地麥加之前，專程至靈山拜謁二位先賢，地方官蒲日和為之刻碑紀念。
墓前方有天然巨石一塊，風吹欲動，手推能晃，俗稱“風動石”，明代知府周道光題刻“碧玉逑”三個大字。這塊風動石是泉州著名八景之一，曰“玉球風動”。
聖墓近旁有數以百計的元代和元代以前來泉州的阿拉伯穆斯林古墓，還有明、清以來泉州穆斯林的墳墓。每屆開齋節和古爾邦節，許多泉州地區的回民和穆斯林總要集體來此“游墳”，首先拜謁兩位先賢墓、誦念《古蘭經》，然後祭掃各自的祖墳。
兩座聖墓已成為研究泉州海外交通史及伊斯蘭教傳播史的重要文物。
