早年到南京削髮為僧。自謂出家當和尚是為了向枯木禪師學琴，求得廣陵琴派的真傳，而身為佛門的枯木禪師拒納俗家弟子。黃勉之拜在他門下後頗引以自豪，常說自己的琴是廣陵正宗。清朝末年，他到北京創辦金陵琴社，家住北京宣武門南的一條小巷子裡，“金陵琴社”的招牌就掛在家門口。時生活清苦，而對琴藝嚴肅認真，彈起琴來精神煥發。由於他琴藝超群，因而向他學琴的學生來自各個階層。有軍機大臣張之洞，皇親貴戚溥洞、葉詩夢，一般文化人楊宗稷、史蔭美以及販賣棉線的賈闊峰等。楊宗稷曾著《琴學叢書》、《琴粹自敘》等書，對黃的琴藝及自己的學習體會作闡述。
