民國4年(1915)隨父母居廣州,民國14年就讀於廣州宏英中學。學校里有一位英語教師,課餘經常輔導學生演奏音樂。劉天一也隨師學習拉椰胡。中學畢業後,他經常參加業餘音樂社的活動,在家中亦努力自學粵曲板式以及有關演奏的書籍,如《弦歌必讀》等。這段時間的勤學苦練,為他後來成為一個多才多藝的音樂家打下了厚實的基礎。民國19年開始在廣州市“知行琴行”任音樂教員。業餘參加廣播電台演出,音樂節目取義於“天得一以正,地得一以寧,人得一以靈,物得一以精”,故改藝名為劉天一。民國20年參加廣州市著名的業餘音樂社“素社”當高胡演奏員。民國22年在第十九路軍總司令部軍樂隊任中樂教員。同年,與旅居廣州的俄國著名鋼琴家夏里柯教授合作,劉天一高胡獨奏,夏里柯教授鋼琴伴奏,在廣州青年會音樂廳演出廣東音樂名曲《旱天雷》、《餓馬搖鈴》、《雨打芭蕉》等。劉天一首創高胡(民間樂器)與鋼琴(西洋樂器)演奏的結合,富有新意,頗受觀眾的歡迎。這期間他的高胡技巧日趨成熟,而且逐步形成了自己的風格,已達到了專業音樂名家水準。
民國24年(1935),劉天一往日本東方學校攻讀樂理,民國27年回國。不久,廣州淪陷,舉家遷往澳門。為了謀生,他在酒店當職員。此後過了10年動盪、顛沛的生活,無法從事正常的音樂活動。民國35年參加組建今雨社,常與呂文成、尹自重等廣東音樂家合演於穗、港、澳。民國35年底他輾轉到了香港,當時香港很少人會演奏古箏,劉天一即開始彈古箏。1950年,他演奏古箏為電影故事片《家》、《春》、《秋》、《絕代佳人》等配音。他還用古箏獨奏《蕉窗夜雨》、《塞上吟》,古箏洞簫合奏《流水行雲》,古箏、椰胡合奏《鳥驚喧》等廣東名曲,錄製了唱片。
1954年回廣州,在廣東音樂研究組工作,任高胡領奏和古箏獨奏員。1955年,隨華南歌舞團音樂小組赴旅順大連演出,慰問蘇聯紅軍。1956年參加“廣東省音樂界代表團”赴北京為全國第一屆音樂周演出,創作了流傳至今的古箏曲《紡織忙》。同年,參加中國民主同盟。1959年隨廣東民間樂團赴蘇聯、匈牙利等國巡迴演出,被譽為天才音樂家。1961年任廣東音樂曲藝團副團長。60年代,先後隨廣東音樂曲藝團去澳門演出,隨中國藝術家表演團到日本、香港演出。1980年9月加入中國共產黨,任廣東音樂團團長兼獨奏演員。
劉天一專心研究音樂,刻意創新,確立了自己獨特的演奏風格。他的高胡演奏曲目《鳥投林》,1930年前是用“口斗子”模仿鳥聲的,劉天一感到不滿意而想做到“人無我有,人有我精”。他取消口〖KG-*3〗斗子當鳥聲,用高胡的高音區,運用輕重緩急的引法,配合恰如其分的滑音發出鳥叫聲,效果更為逼真。為把鳥聲拉得更委婉動人,每天一早就到郊區的樹林、公園或買賣鳥類的場所聆聽鳥語,最後還把《鳥投林》改為高胡獨奏曲。
他演奏的第一首高胡獨奏曲是林韻創作的《春到田間》。為了表達出田園美景,他吸取了小提琴的演奏技巧,擴展了高胡傳統演奏的常用音域,從三四個把位發展到五六個把位,創造了華彩樂段,連續三個八度以上大跳和碎弓向上滑等演奏方法,創造性地提高了高胡的技巧,使樂曲的感情表現得輕快流暢,灑脫,美麗,受到聽眾的歡迎。這是廣東音樂史中首創的高胡獨奏曲。1957年初,劉天一創作和演奏了《魚遊春水》,他運用一弓演奏七連音和八連音快速琶音的方法,獨創了在高胡第二把位拉出透明清亮的自然原音。為了拉好這段原音,他花了半年的時間,使高胡技巧進入一個新的境界。
劉創作的樂曲還有高胡齊奏曲《花市迎春》,高胡獨弦曲《懷念》,鎖吶領奏曲《放煙花》。他善於吸取他人之長,薈萃群芳,自成一家。
他是中國文學藝術界聯合會委員、中國音樂家協會理事、第四屆廣東省政協常務委員、廣東省文學藝術界聯合會副主席、廣東省音樂家協會副主席、廣州市文學藝術界聯合會副主席、廣東民間樂團團長。1990年6月3日在廣州逝世。