他能編劇作曲,擅操二胡、嗩吶、笛子、簧管等多種樂器,亦能寫相聲說相聲。1956年11月加入廣東音協,曾任理事。中國音協會員。廣東雜協會員,國際魔術家協會會員。1985年離休。1992年享受國務院政府津貼。
音樂作品曾多次獲國家及全軍大獎。歌曲代表作:50年代《我的丈夫是英雄》;60、70年代《頌歌一曲唱韶山》、《滿懷深情唱頌歌》、《滿江紅和郭沫渃同志》、《唱兵》、《紅旗渠》、《桐鼓嶺的回聲》《念奴嬌·鳥兒問答》;80年代《這是個春天的早上》、《我愛米蘭》、《禮貌歌》、《雪花飄飄》。歌劇作品:《紅色娘子軍》、《焦裕祿的女兒》、《出發之前》、《瓊僑服務團》。電影音樂:《雜技英豪》、《偵察兵》。錄製出版了歌曲專輯《迎春花兒開》(卡帶),出版《曹俊山歌曲選》以及音樂理論著作《獨唱歌曲寫作淺談》、《歌曲寫作問答》等。晚年著有長篇小說《神手天龍》、《黑白人生》。