勇悍少年
泥沙的平峒村在石門西北鄉，與慈利鶴峰相連，群山會萃，尤其大勝寨，孤峰怒矗，峻拔萬仞，形成三面懸崖，山頂有大勝廟晨鐘暮鼓。渫水隨著平峒山勢蜿蜒數百里，將青山綠水、山人野老、虎豹麂鹿以及磅礴之氣全部包圍在平峒這個山村里。
十九世末葉某一天，平峒唐本璋正領著他創建的楚劇劇團玉華班，在屋前印心台上演《桃花扇》，前來看戲的平峒鄉民絡繹不絕，印心台熱熱鬧鬧。就在這個熱鬧的印心台旁邊，平峒河左岸，跑馬射箭場上，唐本璋的兒子唐榮陽放下箭弩，正一手提起一個重百餘斤的石鎖，練提、練舉，最後，他將兩個石鎖隨手舞動起來，越舞越快，只見一團白光裹著唐榮陽的身體，旁邊看戲的也吸引了來看他練武。有一個人從平峒河裡提了半桶水潑向這個白光裹身的唐榮陽，唐榮陽身上的衣服竟一點也沒打濕。唐榮陽放下兩隻石鎖，一手抓來120斤重的關公大刀，正準備開耍的時候，聽見屋旁邊的母親在喊：“快來人啊，老虎來了，老虎把我家豬欄的肥豬背走啦！”印心台上正在演唱李香君與侯方域的愛情故事，一片絲竹之聲蓋住了這個喊聲。還是唐榮陽機警，聽見喊聲，撂下120斤的關公大刀，直奔屋山頭豬欄，見母親面對豬欄抹淚，說：“恩娘，你不急，我去趕老虎。”他沒有聽見母親的攔阻，急操大捧，尾追老虎，鑽進了深山。老虎叼著肥豬，行走不便，唐榮陽幾個箭步，追了上去，狠擊老虎後背，老虎負痛長嘯一聲，舍豬逃走。唐榮陽把肥豬背了回來交給了母親，母親又高興又後怕地拉著他說：“兒啊，千萬別乾傻事，豬丟了可以再餵沙。”看戲的鄉人聽到這件事後，都嘖嘖稱讚唐榮陽：“了不得啊，將來是個大人物哩！”
清光緒四年戊寅九月（1878年10月18日）唐榮陽在平峒老屋降生，取名福德，字晉棠，號榮陽。光緒十二年丙戌（1886年）唐榮陽8歲時，父親唐本璋設家塾，延請名師覃學國、唐雲程倆先生，發蒙即授四書五經。6年後唐本璋再請清廩生黃槎午（字洞明）先生專授八股文。當時清未政治腐敗，軍閥混戰，各地土匪橫行。唐榮陽少有奇志，對練武特感興趣，討厭迂腐的八股文，逃學輟學。
光緒二十年甲午（1894）年，唐榮陽十六歲時候，清朝政府下詔各省縣授命武教師設館授徒，培訓武庠生。這年秋，商溪武生陳南軒（一說燕子山人）在水南渡文家村設武館。唐榮陽帶著禮贄投考武生，陳南軒看他驅乾魁偉，雙臂有力，遂精心傳授武功。唐榮陽得此嚴教，自己艱苦磨練，勤奮不懈，連學兩屆，各套武功超群，名冠武館。光緒二十一年乙未（1895年），唐榮陽學武一年回家，在泥市平洞東河左岸，開闢“跑馬射箭”場，日日練習，晴雨不間斷，練得箭無虛發，百步穿楊。又在屋前稻場設兩個各重百多斤的石鎖，每日刻苦訓練，手掌磨起了老繭，石鎖提手握得光滑無比，越練越細。現在這兩個石鎖還保存在他故居平峒。
光緒二十三年丁酉（1897年）秋，十九歲的唐榮陽赴澧州參加武考。初場考試跑馬射箭、舞刀、掇石均獲第一。可是第二場考試時突然雙目劇痛，紅如珠球，無法入場，考試落榜。
唐榮陽心事重重，回家走到多安橋（今澧縣縣城）頭，遇到一個叫“尹孩兒”的相士。見唐榮陽閒步憂悶，觀察半響，說：“日後當大貴。”唐榮陽更加來氣：“求一功名都得不到，還‘大貴’‘大貴’，你胡說。”相士解釋說：“如果博得一個功名，那你這一生就只能得這一個功名罷了。現在你沒考中，不是你的不幸，是你不幸中的大幸。”走投無路的唐榮陽對這個相士疑信參半。
考入警校
光緒二十四年戊戌（1898年），唐榮陽賦閒在家，聽說清政府下詔“廢科舉，興學堂”。考武校無望，不如進新式學堂讀書。當時湖南巡撫陳寶箴採用黃遵憲建議，仿日本警察制設保衛局，一時號稱維新之政，其實就是設警察局。光緒二十七年辛丑（1901年），湖南巡撫趙爾巽開始遣學生東渡日本學警察，同時創辦湖南警官學校，招收官紳數十人入校。這年唐榮陽23歲，隻身跑到長沙進入警官學校。
唐榮陽入警校，刻苦攻讀。當時萍鄉的賀奉生任警校提調官。一天，唐榮陽正在伏案寫字，賀先生見了就問：“那個目光炯炯有神，捲袖寫字的學生是誰？”有人告訴他：“那個學生叫唐榮陽，石門人。”提調官在唐榮陽的旁邊講話，再看唐榮陽，只見他仍目光炯炯，專心寫字，絲毫沒受干擾，賀提調感嘆說：“這個人可能是個真英雄。”
兩年後，唐榮陽以優秀成績畢業。當時，龐鴻書在湖南設警察公所，唐榮陽擔任警兵補習所教習，月薪才20緡，但唐榮陽卻花錢蓄養壯男子10多人，為他們提供飲食住宿，與他們甘苦與共。唐榮陽一出門一定是數人跟隨在後面，一呼群諾。唐榮陽穿粗布衣裳常常只能吃點蔬菜。每次到月底，門外就站著幾個人要債。但債主又不敢徑直問唐榮陽，只能與他蓄養的壯男子簡單說知，就誠惶誠恐站在那裡。壯男告訴唐榮陽，唐榮陽怒說：“我有錢時候慷慨得死，我沒錢的時候死不慷慨。”這些壯男就一一打發債主說：“唐教官有錢肯定還你們，沒錢就不要勉強去討。”唐榮陽的同事曹惠也曾問過他：“老唐，你現在正是困難時期，你不積攢點錢過日子，為什麼要負債蓄養他們？”唐榮陽激動地說：“我想幹大事，他們就是我的死士，所以預先收養他們，養兵千日，用兵一時嘛。”唐榮陽寫詩《書懷》云：“丈夫不虛生，惟有氣與節，頭顱作酒杯，一飲仇奴血。”曹惠聽後肅然起敬，也有人譏笑他是狂妄之徒。果然，光緒三十一年（1905年），27歲的唐榮陽擔任湖南省警務稽查，處事精悍，又兼師生情誼，因此深得巡撫趙爾巽器重。
名震奉天
1905年8月，趙爾巽升任盛京將軍，赴東三省任職，即電召唐榮陽赴奉天（瀋陽），任奉天巡警總稽查兼署蔡甸、皇經堂兩厘金分局局長。當時奉天混亂，胡匪橫行，亻票悍不可治。一天，有胡匪數十人，獷悍犯境，殺人越貨，唐榮陽迅速率武警追捕，無一漏網，狠煞胡匪搶劫之風。此後匪患漸泯。
奉天更大的危害是日本人，官吏百姓深受日本人侵暴，恨之入骨，又莫可奈何。當時唐榮陽整頓市境治安，嚴格禁賭，雖三令五申曉諭，日本人無視中國政府禁令，根本不把中國官員放在眼裡，仍公開聚賭。唐榮陽令陳良才率警察拘捕，用繩索捆綁串連在一起好像牽著一串豬狗，大殺日本人威風，睹風漸漸斂盡。從此日本人懼怕中國官吏，尤恨唐榮陽。一天唐榮陽隻身入市巡查，幾個日本人乘機從後背攻擊，唐榮陽一返身抓著首犯的後頸皮，像擲鐵餅樣甩出去數丈，落地鏗然有聲。不怕死的日本浪人一哄而上，指望置唐榮陽於死地，唐榮陽抓一個，摔一個，一口氣摔了上十個。奉天老百姓看見後，歡呼：“這次我國政府外交勝利了。”此後，日本人視唐榮陽畏之如虎，聽說唐榮陽來了，遠遠地就躲避了。唐榮陽任總稽查未及兩年，奉天大治，名聲震天。
撫平西南
光緒三十二年丁未（1907年）春，恩師趙爾巽調任四川總督，29歲的唐榮陽也被召為川滇邊務大臣。宣統元年己酉（1909）年一月，三十一歲的唐榮陽調任川南新兵定遠營練兵督管帶。
當時川南有個少數民族叫猓猓族，猓猓族土司酉長嚴如松、鐵盧梁子盤踞關隘，相繼驅動土民造反，毀建政，殺官吏，非常猖獗。猓猓人最大特點是善跑，他們背著重物，手持長矛，還能日行數百里，亻票悍不可測，無數次襲擊漢境，邊境官吏只好固守城郭，任由猓猓人搶劫掠奪牛馬貨物和婦女兒童。趙爾巽一上任，就招道員陳廷緒帶兵征剿，唐榮陽助剿。
八月，唐榮陽任定遠營前敵先鋒官，鏇即奉令率營深入川南（今四川涼山自治州）剿撫各土司，推動新政。唐榮陽追擊接戰數十次，而未達到圍殲目的。最後，唐榮陽神速進兵，直破猓猓族營壘，搗毀其巢穴，阻斷其歸路，然後奮力截擊，使猓猓族紛紛歸順唐榮陽，到第二年一月，兩個反叛酋長先後伏誅，又收復五土司轄地。猓猓人非常惱火地罵道：“唐蠻子比我們還蠻，可怕得很。”這時，唐榮陽恩威並施，和他們的首領鑽生牛皮飲血酒盟誓，決不再反，得闢地千里。唐榮陽凱鏇之日，陳廷緒走上前握著他的手笑著說：“今天我真的了解你了。”
隨後設定清租縣及昭覺、臨邊兩廳，邊患遂息。川督趙爾巽因唐榮陽功勞，被清朝廷加文官四品銜，賞花翎，保直隸州補用。當時，唐榮陽的老師慈利吳悔悔寫詩高度評價唐榮陽在川平蠻的事跡，曰：“鹽邊避地又千里，功與雪山南北高。”唐榮陽自己對西南土司土民也感觸很深，作詩《過?峒》：“搖鞭驟馬到?境，山惡水凶村少田，馬矣女痴男人兩百，我懷文化為悽然。”
宣統三年辛亥（1911年）春，趙爾巽的弟弟趙爾豐繼任川督，命川南新兵鎮遠、綏遠、定遠三營編歸川十七鎮（師）所屬六十六標（團），定遠營管帶唐榮陽為六十六標第三營管帶。七月唐榮陽告假歸家。同年十月，武昌辛亥革命開始，湖南亦宣布獨立。1911年底，獨立各省代表在南京集會，選舉孫中山為中華民國臨時大總統。林支宇就任湖南警察廳廳長。林支宇知道唐榮陽自川歸家，隨函邀唐榮陽到湖南省供職，任湖南省警察勤務督察長兼警察隊長。此時唐榮陽又與他的老同學曹惠相見。唐榮陽邀老同學到家裡敘舊，老同學曹惠看到唐榮陽家裡陳列的都是劍、槍等武鬥物品，都是自己用所得工資購置到家的。老同學不明白唐榮陽怎么不置點好的家具？唐榮陽說：“我們豈能以書生終老！這個瑣俗的地方不是我久居之地。”唐榮陽詩《川中作》亦表達了這種志向：“走馬記從夔蜀去，男兒志願豈徒然，西南道路五千里，塵土功名三十年。言志區區論馬革，攔腰閃閃看龍泉，諸君休問床頭間，散盡黃金不自憐。”
二次革命
民國二年癸丑（1913年）春，袁世凱派人在上海刺殺宋教仁，武力鎮壓國民黨，“宋案”發生後，孫中山號召武力討袁，南方幾省相繼獨立。七月，“二次革命”爆發，蔣翊武接孫中山令，由日本歸國，任湘軍討袁軍總司令，到長沙後，蔣翊武將唐榮陽推薦給孫中山，孫中山委任唐榮陽擔任湘軍總司令部參謀官兼北伐軍前衛指揮官。
在湖南，“二月革命”中表面宣布獨立暗中阻撓反袁的湖南軍閥譚延闓乘機當上了湖南省省長。當時，民國初興，各省號稱軍民分治。治軍稱督軍，治民稱省長，但畢竟省長勢力敵不過督軍，督軍挾兵自重。對著一省範圍，省長兼督軍，實際上是軍閥專權，差不多是萬能之主。
八月，“二次革命”失敗，袁世凱命親信湯鄉銘入湖南擔任都督，驅逐譚延闓，捕殺湘籍革命黨人和湘籍愛國人士，當時唐榮陽染病在身沒離開長沙，遂被捕入獄。唐榮陽在獄中作詩《江南獄中》：“直氣貫日月，雄心振乾坤，魂魄定有覺，惘惘禍福門。”幸林支宇奔走北京，求趙爾巽力保才獲釋。唐榮陽出獄後到浙江任松屬鹽務稽查官。湯薌銘占據湖南地盤，殘酷鎮壓盤剝老百姓，湖南展開了反袁驅湯的鬥爭。
民國五年丙辰（1916年）春，唐榮陽獲悉蔡鍔在雲南組織護國軍武力反袁，湖南、四川數省回響，唐榮陽聽說譚延闓在湘南回響，當即離開浙江，直奔湘南求見譚延闓。譚延闓委任唐榮陽為武陵道清鄉支隊長，率師北伐，驅逐湯薌銘。湯薌銘棄長沙北逃，唐榮陽一驅北督成功。譚延闓隨任湖南督軍，黎元洪大總統派譚延闓到湖南任督軍兼省長，並敘驅湯功績，晉升唐榮陽為陸軍上校加少將銜，授予四等文虎章，四等嘉禾章，又薦任省防勤務督察長兼警務教練。
軍閥混戰
唐榮陽1916年6月做了八十三天皇帝的袁世凱在絕望中死去。袁世凱一死，北洋軍閥群龍無首，當時以馮國璋為首的直系和以段祺瑞為首的皖系及奉系等軍閥，形成軍閥割據局面，直、皖、奉等派系爭權奪利，互相傾軋。南方各省反對袁世凱的非北洋派大小軍閥失去鬥爭目標，相互間的矛盾也日益尖銳。
1917年孫中山先生在廣州組織軍政府，號召護法。在護法運動中，湖南地當要衝，一直是南北爭奪的焦點。1917年7月，段祺瑞執政，譚延闓被段祺瑞協迫，請求辭職。段祺瑞派嫡系傅良佐擔任湖南督軍。譚延闓交卸督軍職務，由唐生智，唐榮陽護送到廣州。兩唐將部隊駐防攸、澧、零陵待命。
傅良佐為防禦廣東軍入侵，下令撤銷零陵鎮守使劉建藩職，激怒湘一師第二旅旅長林修梅（臨澧人）。林修梅宣布獨立，就任討逆護法軍總司令，唐榮陽委任為討逆護法軍總司令部副官，並令往廣西聯絡桂軍，馳援湖南起義軍，到江永縣擴軍參戰，南北兩軍開戰。這時候，傅良佐指揮北軍已圍攻零陵，護法軍處於敵眾我寡被動挨打的時候，幸虧唐榮陽率師離江永抵零陵，桂援軍亦到。北洋軍腹背受敵，迅速敗退。護法軍乘勝猛追，勢如破竹。不出十天，大軍已進逼長沙，傅良佐向北逃竄。唐榮陽二驅北督又宣告大捷。譚延闓第三次任湘督，授唐榮陽任省防游擊隊第一支隊隊長，戍省城。
民國七年戊午（1918年）三月，在張勛復辟鬧劇之後，段祺瑞再度執政，並迅速令吳佩孚、馮玉祥、張敬堯等指揮直、皖兩系大軍，襲奪湖南。南北兩軍再次開戰。劉建藩的部隊擴充為一師，叫做湘軍第三師，林修梅的部隊擴充為湘軍第二師，共同推舉程潛為護法軍總司令。當時答應援湘而久久沒有派兵的桂軍陸榮廷見湘軍大勝，趕忙派出援湘部隊由廣西督軍譚浩明充當湘桂聯軍總司令，即日會師北伐，聲勢十分浩大。但是，湘桂兩軍不和，師長趙恆惕不服從總司令程潛指揮，因此北軍壓境，很快占領長沙。湖南譚延闓督察來犯之敵銳猛，遂放棄長沙南移，令唐榮陽率部保衛省府遷郴州辦公。然而，北軍內部也有矛盾，吳佩孚的部隊衝鋒在前，襲取衡州，而張敬堯卻入長沙攫取湖南督軍兼省長職務。於是，湖南出現了十分微妙的局面，吳佩孚所部到了衡陽不久就和趙恆惕有了默契，長期對峙，整整兩年，譚延闓此時一方面拉攏桂軍，一方面暗通吳佩孚，意圖東山再起，而湘軍總司令卻是國民黨系的程潛。張敬堯任湖南省督軍即按兵不動，並主動與南軍講和，因此唐榮陽在郴州趁其時機，招集舊部，練軍備戰兩年，被擢升為省防游擊隊副司令兼第一支隊隊長。
而此時，譚延闓駐零陵、趙恆惕駐永興，程潛駐郴縣。不久，段祺瑞派陸鴻達到郴縣遊說程潛，剛路過棲風渡（耒陽、郴縣之間），為桂軍馬濟所截留，檢出信件多封，即將陸鴻達被捕審問，變成了譚延闓、趙恆惕對程潛進攻的好材料，便大張旗鼓地向程潛攻擊，程潛被迫下台，退守廣東，譚延闓從零陵移居郴縣。譚、趙又聯成一氣。
民國九年庚申（1920年）夏四月，吳佩孚、馮玉祥撤軍返北，張敬堯仍留戀湖南督軍不走，成了一支孤軍。湘南郴州政府譚延闓即任湖南督軍改湘軍為“中國護法軍”，升湘一師師長趙恆惕為“湘軍海陸軍總司令”，委任湘二師師長魯滌平為“北伐軍先頭援軍司令”；委任唐榮陽為“北伐軍先鋒指揮官”。於五月十七日，集師郴州，召開誓師就道大會。唐榮陽令唐自沫（石門平峒人，國民黨少將）大隊為“前敵先鋒”，征討張敬堯。所過之處，戰無不勝，攻無不克，十八日克永豐，十九日克湘鄉，二十日抵佘伏，艱難攻打敵人傾力守衛的要衝。先鋒隊發起向“兵力數倍於我，子彈又數十倍之”的敵陣猛衝，數度衝鋒，終難接近，漸失取勝信心。唐榮陽大怒，單騎馳入敵陣，砍殺四面包抄之敵。前敵先鋒唐自沫聞敵陣喊殺聲不斷，回頭不見了指揮官唐榮陽，大叫：“快衝，救指揮司令去！”立即身先士卒，奔向敵陣。全軍士氣大振，衝進敵陣，奮勇莫敵。只見副司令唐榮陽手持雙刀，砍向左右包抄之敵，眾人大呼：“快來救司令。”遂殺散眾敵，強拉唐榮陽出陣。佘伏這一仗鏖戰十餘晝夜，於六月上旬某日，繼續攻擊之際，唐榮陽舉槍擊斃敵陣指揮官，守敵一時無主，加上唐軍猛烈攻勢，敵陣被撕開一個缺口，遂全線崩潰。佘伏大捷後，唐榮陽迅速率軍進攻長沙，張敬堯向北逃遁。唐榮陽三驅北督又奏凱歌。唐榮陽曾作詩《聞警親征》三首記述這次戰鬥，其中兩首云：“警報頻來急，戰鼓冬冬催。健兒雄似虎，殺賊磨刀來。”“北虜犯邊急，警報時時來。三軍汝努力，十日凱歌回。”
回到長沙，譚延闓督軍令原省防游擊隊改編為湖南陸軍十一區（位於常德區），委任唐榮陽為陸軍十一區副司令兼第一支隊隊長，加委湖南省警察廳廳長之職，留省城督辦湖南警務。
譚延闓第四次督湘，只做了三四個月督軍便下台了。因為湘軍驅走張敬堯後，二師、五旅及12個地方軍區，分屬於譚延闓、趙恆惕、程潛等三個集團。趙、程兩派軍人因不得重用，對譚甚為不滿，湘軍內部發生內訌。特別是程潛派5000兵駐平、瀏一帶暗組瀏醴軍官團，實行倒譚。長沙各公法團也天天在報紙上攻擊譚，要他立即滾蛋。有一次，譚延闓看他們罵得太不像話了，便打電話給唐榮陽出面平息。唐榮陽是林支宇舊部，是第十一區副司令，對於公法團的文人是有相當力量的。但此時的唐榮陽轉告說，他病了，不能接電話。譚延闓對電話生說：“我是譚總司令，有要緊的事，就是他病重，也得和我說幾句話。”不料電話生回話說：“唐副司令病得很重，就是譚總司令的電話也不能接，有話請告訴我好了。”譚延闓知道大勢已去，把話筒一丟，嘆了口氣就預備下野了。譚一走，林支宇被推為臨時省長，趙恆惕為湘軍總司令。
民國十年辛酉（1921年），湘軍海陸軍總司令趙恆惕在先鋒指揮官唐榮陽趕走張敬堯的同時，卻投靠吳佩孚，擠走了譚延闓，自任湖南督軍，免去唐榮陽警察廳長職務，調任湖南陸軍十一區司令駐常德，鏇即將陸軍十一區編為湖南陸軍第八混成旅，唐榮陽任旅長。
1921年夏月，湖北省督軍王占元只顧私囊，不惜兵士，激成全體官兵公憤，發生兵變，中央派遣國民黨黨員蔣作賓南下，調查兵變真相，蔣作賓更遭王占元奚落。蔣作賓到湖南與在湖南的鄂軍團長夏斗寅密謀驅遂鄂省王占元。他倆相偕會見趙恆惕，慫勇趙恆惕出兵援鄂。趙恆惕未嘗不想收鄂省於掌握之中，即撥一、二兩師和一、八兩混成旅精兵，以宋鶴庚為援鄂總司令，魯滌平為援鄂副司令，分道“援鄂驅王”。第一，由岳陽、臨湘、向鄂之蒲圻正面進攻，以夏斗寅為先鋒司令官。第二，由平江攻通城為右路，以第一混成旅葉開鑫為指揮。第三，從澧縣進攻公安、松滋為左路，以第八混成旅長唐榮陽為左路軍司令。7月，湘軍齊向鄂南進迫，前鋒剛過羊樓司，王占元居然下野了，但雄踞洛陽的吳佩孚推薦蕭耀南繼任湖北省督軍，並派軍隊來鄂增援。當時，唐榮陽和他屬下鄉人唐俊德在荊沙與鄂軍鏖戰四十日夜，殺敵600餘級，獲槍彈無數。唐榮陽作詩《援鄂凱鏇歌》：“風云何太急，血戰見慣久。雖無蓋世功，未失尺寸土。九澧固門戶，公安無強虜。虎賁三千人，能戰更能守。”那時大雨初晴，趙恆惕也到岳陽犒勞軍隊，哪知吳佩孚帶了四條兵艦由水路襲岳州，忽然一聲炮響，趙恆惕座著轎子匆忙逃走，湘軍大敗。趙恆惕恐吳佩孚率兵進入長沙，即請駐湘英國領事出面議和。吳佩孚又怕奉軍進攻自己，現鄂省地盤已有，湘省又在自己掌控之中，他還想以趙恆惕對付南方政府的進攻，隨答應議和，說：“只要廣東不奪取湖南，我是不進攻湖南的。因為放在我手裡，倒不如放在你手裡，可以做一個緩衝地帶。”
1922年6月，唐榮陽的第八混成旅編歸湘二師步兵第四旅，仍任旅長，轄兩個步兵團，唐自沫為步兵第七團團長，唐生明（石門原泥沙區水南渡鄉焦山村人，字俊德）為步兵第九團團長。12月，趙恆惕授唐榮陽為澧州六屬（慈利、石門、安福、澧縣、安鄉、南縣）剿匪司令官，兵入澧州。唐榮陽首先用奇兵殲滅了盤踞在澧城縱匪殃民的傅良申團，送駐澧州。唐榮陽入主澧州後即令唐自沫必須用最短時間將石、慈境內的殘匪肅清，安撫人民。又令唐俊德駐守常德，抽兵清除安鄉、南縣之匪。不久整個澧州商旅往來暢通，人民安居樂業。
民國十二年（1923年）春，唐榮陽在澧州令唐自沫督建石門昭烈祠（今石門二中天門書院旁），供奉為唐榮陽部捐軀之烈士靈位。三月，唐榮陽聘請各縣耆老宿儒集聚澧州司令部為共治九澧出謀劃策，任諮詢顧問。冬十一月，趙恆惕晉授唐榮陽為常澧鎮守使，軍隊擴為師級編制。
唐榮陽自任澧州長官之始，時刻以整飭九澧民風、改善九澧生計、造福九澧為己任，集思廣益，勵精圖志。他在相傳范仲淹故居地（即今澧縣洗墨池、朱池間）建“後樂亭”，以范公名言“先天下之憂而憂，後天下之樂而樂”為亭聯，親筆行草，盤郁蒼勁，期以自勵而激勵後人。
下車伊始，唐榮陽即考察民生疾苦。見九澧人民少數無恆產、無職業、謀生無著，忍飢受凍。隨出台“以工代賑”政策下令妥善安置平民生計，即在九澧諸重鎮，開辦平民工廠，以招工為賑恤。在湘北水運中心津市開辦大型綜合手工業平民工廠，建紡、織、染及機械、火柴等作坊，唐榮陽自為名譽廠長，納職工千餘。創辦了石門平民紡織工廠。調停石門雄磺礦糾紛後，身任總董事長，開採雄磺礦，納職工千數人。一時澧州所屬，各縣治中心集資辦廠，如雨後春筍，一派興旺。
唐榮陽坐澧州，提出振興九澧，當務之急是創辦學校培育人才的主張。他通令各縣立中學恢復授業，而且強調學校要文武並重，下令各中學開設體育、武術兩課，並抽調軍事教官到校任教。當時石門縣立中學武術教師就是澧州教導團武術教官陳辯之。唐榮陽為造就九澧軍政人才，還特創辦了九澧體育學校，自任校長，若發現其中有可造就者，著令唐自沫親自送往黃埔軍校深造。唐自沫兩次前往黃埔，先後有薜剛武、龔錫奎等三十餘人就讀黃埔軍校。唐榮陽又考察發現開發九澧地方教育，缺乏師資，即通令各縣中學開設簡易師範培訓班。唐榮陽主張男女平等，發現學校沒有女教師，在澧州城特辦九澧女子師範學校，自任校長，今有執教終身的澧縣李育珍，臨澧譚承秀均系女校畢業生。唐榮陽考察到山區貧困之家，子女要求讀書，家長無法供學費，即又創辦了半工半讀的學校——九澧精益職業學校。唐榮陽時刻不忘改變家鄉文化落後面貌，又將自己老家石門泥沙平峒的一塊地官坪捐獻出來作為創辦平峒中學基地，委任平峒唐堯臣為創建中學主事，且已燒磚、燒瓦及各種建材齊備，已耗銀數千，但1924年秋因湖南內戰，決心遁隱而停。
唐榮陽一軍旅人物卻齋心仁厚，他憐憫幼小孤兒無依託，乃在澧州順城街建孤兒院，收容無父母養育之子女，予以撫養教育。他見有貧困老死無土掩埋者，又購買土地一處，作為義葬公土。真可謂承繼祖德，“萬家生佛”。唐榮陽忠誠俠義，耿直率性。蔣翊武，澧縣人，武昌起義任湖北革命軍臨時總指揮，是辛亥革命的大功臣，後因反對袁世凱稱帝，被通緝，被叛徒出賣，於1913年9月9日在桂林麗澤門外英勇就義，年僅27歲。唐榮陽任常澧鎮守使時，了解到這個出賣蔣翊武的叛徒也是澧縣人叫覃年申，唐榮陽抓住覃年申，親自審判落供判處極刑，並把他解到嶽麓山蔣翊武墓前祭了墳。民國十三年甲子（1924年）一月一日，奉湘軍總司令趙恆惕令，唐榮陽晉升為陸軍中將，嘉授二等文虎勳章，二等嘉禾勳章。
民國十三年（1924年）秋八月，湖南內戰又開始。這次戰爭先發生於湘西，因湘西的沅陵鎮守使蔡鉅猷和前湖南督軍現在廣東革命政府旗職下的譚延闓素來接近，而湖南省長趙恆惕最忌的就是譚延闓。其時有人傳說譚延闓回湘，蔡鉅猷約期回響。趙恆惕惟恐成為事實遺禍將來，便先發制人，下令調任蔡鉅猷為講武堂監督。蔡鉅猷當然知道是趙恆惕忌防他，因此乾脆分配軍隊，宣告獨立，授劉敘彝為中路司令、田鎮蕃為北路司令、周朝武為南路司令實行討趙。
當時譚延闓離開湖南後，到上海千方百計接近孫中山。孫中山為聯絡各方面力量，任譚延闓為廣東大元帥府建設部部長，對譚延闓頗為倚重。湖南的訊息傳到廣東，孫中山見有機可乘，便委任譚延闓為湖南省長兼湘軍總司令，克日率兵援湘擊趙恆惕，譚延闓奉令率隊趕到湖南衡陽，通電就職，組織公署，預備北伐長沙、岳陽。孫中山的命令發表以後，湖南軍官，特別是譚系潛伏勢力，如魯滌平、宋鶴年、吳劍學、謝國光、張輝贊、唐榮陽都曾派代表向譚延闓表示態度，湖南內戰正式開戰。
趙恆惕聞報，更覺憤怒，當下以譚延闓破壞省憲為名，組織了所謂“護憲軍”，想以“省憲”作為擋箭牌，自稱護憲軍總指揮，委陳渠珍、唐榮陽、唐生智、賀耀祖、劉釒刑、葉開鑫、楊源睿為司令，分成七路來攻衡陽。他派葉開鑫向南抵譚、由唐生智、賀耀祖回湘西對付蔡鉅猷和劉敘彝。
譚延闓派兵迎擊，雙方打了一仗，譚軍人少，被趙恆惕奪了衡山，譚軍退守衡陽。此時駐防湘潭的中立軍團長朱耀華助譚進襲長沙。趙恆惕聽說長沙已失，譚軍又猛烈反攻，只好帶領殘部逃到醴陵。譚延闓乘勢復奪衡山，又令張輝瓚先入長沙，招撫西路賀耀祖、唐生智兩旅。唐生智對賀耀祖說：“劉釒刑和魯滌平都是中立軍，決不會為譚利用，葉開鑫現率全軍已和趙省長在株洲會合，現在助譚的只有一個唐榮陽。我們不如退卻，以圖再舉。”賀、唐兩旅不為譚利用，隨由桃源退軍常德。但澧州的唐榮陽畢竟是譚延闓老部屬，乘賀、唐軍隊在常德未扎穩，隨攻打賀耀祖、唐生智。賀耀祖、唐生智向益陽退卻，益陽已被劉敘彝占據，賀耀祖、唐生智只得繞道退到湘陰。
卻說譚延闓到衡山以後，繼續前進，連克攸縣、醴陵、進逼瀏陽。不料葉開鑫部攻下長沙卻把長沙防務交給了賀耀祖、唐生智，自己趕回瀏陽作戰，大敗譚延闓，又奪回醴陵，譚延闓只得退守株洲。
正在這時，譚延闓忽然接到劉釒刑、魯滌平的聯名函，說趙恆惕失長沙時，曾向洛陽吳佩孚乞援，現在吳佩孚已決定派兵入駐岳州。湘軍自戰，北軍入湘，鷸蚌相爭，為漁翁者大有人在，不如議和。譚延闓即贊成和平解決湖南內戰，並迅速電告在湘陰進攻唐生智的唐榮陽、攻打長沙的劉敘彝及謝國光、張輝瓚各部停戰。議定趙恆惕任總司令，譚延闓任省長，省憲法也加以修改。其實趙恆惕議和本非出於誠意，只是想藉此調兵遣將贏得時間。他把唐生智、賀耀祖、葉開鑫都升為師長，將東路主力布陣在攸縣、醴陵、株洲一帶，而北至湘陰，沿湘江一帶都是譚軍，與趙軍形成對峙之勢。布陣完畢，議和當然破裂。
譚延闓在株洲和議失敗，便和魯滌平商量，聯合長沙對岸的蔡鉅猷軍以及湘陰、赤竹、株洲各方面軍齊進長沙。到了總攻那一天，魯滌平卻不曾準備妥當，不能一齊發動，譚延闓自己在株洲指揮謝國光和廣東帶來的湘軍攻擊長沙唐生智，譚軍三五次衝鋒，眼看就要攻下唐生智部，不料賀耀祖趕來支援唐生智，譚軍勉強支持兩日，被唐生智包抄了後路，只得退卻。賀、唐追擊一陣，忽得趙恆惕密諭，齊攻譚軍之湘潭。此時守湘潭的是親譚軍的蔡鉅猷部。趙軍渡江炮擊加肉搏，譚軍之劉敘彝敗走。但同時魯滌平開軍過來，雙方戰了一晝夜，死傷慘重，全軍正準備棄了湘潭去會株洲的譚軍，不料譚軍已趕來。魯滌平大喜，急忙問道：“如何放棄株洲防線到湘潭來？”譚延闓說：“我接到孫大元帥電報，說東江失利，令我即日回軍討伐陳炯明。再則聽說吳佩孚因趙恆惕失利，威協到他的利益，已令沈鴻英從贛邊出郴州，斷我後路。我軍前線已經不甚得手，如後路被截，將全軍覆滅，不如急急回軍救宜章，回廣東討逆。”譚軍與魯軍合兵到宜章，並乘勢收取了衡山、衡陽，回廣東去了。
此時的唐榮陽眼見政局混亂，湘督一會兒趙恆惕，一會兒譚延闓，究竟誰是老大？他想起了二十幾年前武考失利時，在多安橋遇到的道號“尹孩兒”的相士，此人“旺相命理”預測推斷極準，堪當軍師。唐榮陽隨聘為建議官，自此舉凡治軍施政大事，每事必問，言聽計從，可說深負邪說，越陷越深。唐榮陽聽說譚延闓軍失敗，大勢已去，問計“尹孩兒”，尹孩兒說：“你在地方為官，當然要依靠當地老大！”正是這一保守狹隘的毫無政治眼光的建議決定了唐榮陽一連串的敗仗。唐榮陽急倒戈依附趙恆惕，並派兵攻擊常德的蔡鉅猷軍，以贖此前在常德進攻賀耀祖、唐生智之嫌。而趙恆惕對於蔡鉅猷軍向來不甚重視，他惟一的戰略是打倒湘南謝國光、魯滌平軍隊，趕走譚延闓，再行圍迫湘西。所以對唐榮陽的舉動，也不甚留心，更不會重用。
唐榮陽連續興師，多次失策，內心鬱郁不安。回到澧州，一反常態，心灰意冷，怠忽政務，情疏治軍，並且擯棄建議官，遣散姨妾。妾中唯有丁勝東因身懷六甲，拒不受遣，遂納為二房夫人。
不久，吳佩孚派混成旅旅長吳漢民進駐常德城，以防唐榮陽策反，聲稱奉趙恆惕總司令命前來協助防務。唐榮陽正爭取時間處理善後事宜，謀求遁隱之路，明知吳漢民來意不軌也沒有反對。
1924年11月上旬，川軍熊克武部進軍沅陵，受孫中山大元帥之命受任建國聯軍前敵總司令，並委唐榮陽為建國軍湘軍第一軍軍長。但唐榮陽似乎再也看不到前途，所有的追求似乎都是虛幻，歸隱志切，婉言謝絕了封賜。
人生緊要處往往就是幾步，關鍵處就是一步，一步走錯，滿盤皆輸，遺恨終生。唐榮陽此時正處於人生十字路口。面對十字路，唐榮陽如果理性分析，也許石門還能走出一個更大的將軍出來。遺憾的是唐榮陽在十字路口徬徨時間太長，思想太迷茫，兩次選擇重大失誤。一是求助於相士命理，背叛老上司譚延闓倒戈附趙。雖然譚延闓、趙恆惕都是湖南軍閥，但如果唐榮陽多學點政治，就會知道譚延闓投奔力求實現三民主義的領袖孫中山，自然得民心，而趙恆惕依附的是一心為己的北方三大軍閥之一吳佩孚！二是唐榮陽面對十字路口，不作選擇，放任自流。明知吳漢民來意不軌，作為軍人卻能忍受枕邊他人安睡！更重大失誤是川軍熊克武受孫中山之命委唐榮陽為建國聯軍湘軍第一軍軍長，竟然不受。就是這一不自知的嚴重失誤，導致唐榮陽人生之花迅速凋謝，人生之路迅速下跌谷底。
1924年，第二次奉直戰爭爆發，國內形勢有利於南方革命政府，孫中山令川軍熊克武部改編為建國聯軍，取道湘西北伐。
1924年11月15日，熊克武部先遣師賀龍星夜進駐常德，剪除了吳漢民旅，解散了林支宇司令部。湯子模軍進駐大庸、慈利、石門一帶。11月27日，熊克武司令部遷至常德，電告唐榮陽津澧地區迅速布防，由本部北伐先遣師過境，並迅速召開所屬川、黔、湘將領軍事會議，制定北伐進軍方案。令建國聯軍二師第九混成旅旅長賀龍先行進駐澧州城。
常澧鎮守使唐榮陽認為這是對他的嚴重威脅，便以全部兵力遠出桃源阻截，結果被賀龍、湯子模擊潰。賀龍率部繼續向津市、澧州挺進。唐榮陽率餘部在津澧外圍澧水一帶布防重兵。賀龍從小在津澧一帶活動，十分熟悉津澧地形，針對澧州城牆堅固，易守難攻的特點，決定先派主力由臨澧向澧州正面運動，造成與唐榮陽決戰的態勢。唐榮陽見賀龍率部來攻澧州，急調駐津市守軍星夜來援。待唐榮陽將駐津市的主力撤到澧州至臨澧沿線防堵時，賀龍密派王育瑛團星夜繞道新洲，直趨窯坡渡，從側面乘虛襲入津市。唐榮陽發現中計，又匆忙調主力向津市反撲。賀龍親率主力配合津市王育瑛團夾擊，擊敗唐榮陽一個旅，兩個團，另一團陣前倒戈投降。唐榮陽丟失大炮3門，機槍1挺，步槍100餘支，輜重無數。唐榮陽只好堅守澧州城。
1917年，賀龍刺殺譚延闓未遂時，時任省府警察廳長的唐榮陽和湘西護法軍司令林德軒，同時從監獄救出了賀龍，逃離了譚延闓的謀害。1924年11月30日，賀龍同時從臨澧、津市兩線圍攻澧州城時，發現唐榮陽許多官佐的眷屬滯留在津市，惶恐不安，便張貼布告，曉諭各方：“唐部官佐眷屬，一律妥為保護，如有藉故擾舍，定即嚴拿懲辦。”唐部眷屬對賀龍所部軍紀森嚴極為佩服。訊息傳到澧州城，唐榮陽官兵也很感動，軍心動搖。唐榮陽將主力撤出城外，不料留守城內的田子云一個團已事先由王育瑛策反。12月2日，澧州城被賀龍占領。同日唐榮陽率部敗退，以全部主力襲擊賀龍榮家河駐地，雙方在臨澧縣新安鎮東南激戰6小時，唐榮陽向石門、慈利敗退。
賀龍進駐澧州不到十天，澧州所有唐榮陽殘部均被肅清。這一事件使湖南省長趙恆惕大為震驚，便派代表與賀龍談判。1925年4月，趙恆惕電告川軍熊克武：“克日離湘歸川。”賀龍馬上電告趙恆惕：“我軍皆湘人，請誰予回湘。”4月15日，趙恆惕只好委認賀龍為澧州鎮守使，下令緝拿唐榮陽。4月16日早晨，唐榮陽向省政當局趙恆惕通電請求辭職。部隊交十五旅旅長唐俊德收編。
賀龍即令第二旅旅長賀敦武和警衛團炮兵團一共7000人進攻慈利。慈利一戰，唐榮陽的一個團長被擊斃，二團長被打傷，3旅旅長唐生明（即唐榮陽的同鄉唐俊德）投降。唐榮陽見大勢已去，號陶大哭一場，隻身逃到泥沙平峒老家。賀龍又懸賞1.5萬元捉拿唐榮陽，嚇得唐榮陽從泥沙經五峰、宜都潛逃漢口。同時，川、滇、黔聯軍總司令熊克武收編了沅陵鎮守使蔡鉅猷任建國聯軍第六軍軍長，部隊駐常德、桃源。同時，編入建國聯軍的還有駐石門的林支宇部、唐振鐸部、駐臨澧的田義卿部、駐常德的周燮卿部，為北伐作好了一切準備。
退隱還鄉
民國十六年丁卯（1927年），在北伐戰爭勝利形勢鼓舞下，唐榮陽決定回故鄉津市定居。初住津市亞細亞油行，後移住謙益錢莊。秋十月，蔣介石發動政變後派員遊說唐榮陽出任湖南省長，亦婉言謝絕。不久何健任湖南省長，並專程赴津市造訪唐榮陽，徵求政見。唐榮陽則以退隱山林、不明時務為由閉門謝客。
民國二十一年（1932年）秋十月，因病醫治無效卒於津市，享年54歲。唐榮陽墓，在津市金魚嶺辦事處關山村四組（窯坡渡），墓冢高大宏偉，保護範圍在30米之外，被津市市列為第二批文物保護單位。
南社成員
唐榮陽十六歲即棄文習武，一生馳聘沙場，刀光劍影，戰無不勝。1923年春，唐榮陽拜慈利吳恭亨老人為師，學做詩聯。吳恭亨，又名吳悔悔，原系柳亞子創辦的詩聯社南社成員。後來吳恭亨介紹唐榮陽加入南社。唐榮陽學詩至謙，寫詩懇勤，特別能將武人經歷與韜略融入筆端成詩，不幾年，寫詩千首，精品迭出，警句連串。如“頭顱當酒杯，一飲仇奴血”、“殺盡眼中諸國賊，老夫手段問如何？”、“馬前伏首幾千級，戰士有袍都染紅”、“帳前人頭梟萬顆，一天明月看彎弓”。榮陽詩善鍊字斟句：如《述懷》之頷聯“兵精到底能無敵，賊破從來在出奇”，其尾聯以甘羅十二為相，八十太公遇文王兩人之事，用七字濃縮成“甘羅早達太公晚”一句，引人回味。
唐榮陽有欣賞名勝古蹟的嗜好，每到一地，戰事完畢，必然登臨古蹟，發思古幽情。1920年，第三次驅逐北督張繼堯，唐榮陽追至岳陽，雖軍令在身，未能停留以飽覽古岳陽，但在三驅北督的凱歌聲中仍賦《過洞庭》一詩，其頷聯是“只為乾坤擔負重，岳陽勝景未暇瞬”。
唐榮陽每作一詩，都用兩頁紙大字書寫工整，自署莽夫再用信封裝好寄給老師吳恭亨。吳恭亨在《炮邊集》序中說：“唐榮陽閒喜為詩，詩體不皆中律，而壯偉又如其作戰。”民國十年（1922年）編印成詩集《炮邊集》，立意豪放，出語驚人，有蘇東坡辛棄疾之遺風。詩人郭東史，謂榮陽詩有“歐洲槍炮氣”。詩集定名《炮邊集》也是唐榮陽能上馬殺賊，下馬作詩的儒將生活寫真。
