寺院主要遺存在白楊河西岸,構築形式主要有三種:一是在斷崖立面上鑿出窟體後,再用土坯砌築,並在窟前接砌前室;二是利用斷崖直接開鑿成窟;三是在與斷崖相接的檯面上用土坯砌建成窟。此三種建窟形式與吐魯番柏孜克里克石窟大同小異。洞窟的平面大致有兩類,以長方形居多,方形次之。有單窟,也有兩窟和三窟相連。內壁均抹草泥,現依稀可見彩色壁畫。距主體建筑北部亦有一組石窟,其中在一單窟的甬道中,發現面積不到2平方米的壁畫,白底紅綠彩, 因年代久遠已氧化成暗紅色,圖案系小千佛,佛光已成為黑色。
此處佛教勝地規模較大,據唐代史籍記載,唐代伊州下轄的納職縣(今拉甫卻克古城)正北20里的地方有一所香火旺盛的佛教寺院,似指此處。公元14--15世紀,伊斯蘭教傳入哈密後, 該寺院逐漸廢棄。