台山玉石被人們發現的時間並不久遠，據產地有關領導介紹，大概在上世紀中葉抗日戰爭後期，當時日本人在那琴開採錳礦的同時開發並挖出台山玉石。但開挖不久，日本戰敗投降，大量開採出的玉料和錳礦還未來得及運走，被日軍遺棄在散石灣以東的沙灘上，後來逐漸被海沙所覆蓋。
而要追溯台山玉的真正開採期，應由改革開放初期算起。當時江蘇省有批專門生產水晶鏡片的商人往返台山那琴村收購水晶，同時發現了外觀相似壽山石的"石頭"，他們好奇地帶上一些，在往外地銷售水晶的過程中，台山玉石逐漸被有見識的人發現。到了1997年引來了第一批專門收購這種石頭的商人。他們主要是來自潮汕、廣州和江門本地等地，專門從事觀賞石販賣的商人。形奇、色彩紋理變化豐富的黃蠟石是他們爭相收購的對象。這些黃蠟石被他們販到潮州以後，更被冠以“潮州臘石”的名稱，對外銷售。其中也摻雜著一些色質俱佳的台山玉石。
產區早期發現的黃蠟石在一幫奇石商人的熱捧下，交易價格往往高於台山玉石。而到了上世紀90年代中期，廣東潮州客商陳森源在台山市北陡鎮那琴南端的一個地名叫“散石灣”的地方發現了一塊塊金黃色的玉石，從此就拉開了採挖台山玉石的序幕。
