鵬舉出身武林世家，叔、父三人皆善習武，行俠仗義，援助鄉里。大林飄蕩北有胡氏家族練武場（約二十餘畝），受家庭薰陶自幼酷愛武技。
青年時期，每遇災年，發不聊生，盜賊四起。他聯契約族胡鵬飛（光緒已卯武舉）、胡鵬高（光緒癸已科武舉）成立武術隊，收教鄉里子弟，苦練拳術。並成立“鄉勇”組織，自製刀槍，懲惡揚善，保衛家鄉。同治戌辰年（1868年），協助縣衙截殺捻軍。鵬舉不從，遠走山東，沿途看到各地官府腐敗，百姓忍飢挨餓。不久，返回故里，決心步入仕途，以武安邦。同治庚午（1870年）鄉試得魁。光緒丙子（1876年）殿試中武進士。光緒欽點“御前侍衛”。同試中有一“八旗”子弟欲以鵬舉比試，將120斤重樣刀，突然向鵬舉投來，鵬舉閃身用腳尖將刀挑起，繞頸數匝，博得眾人喝彩。後因護駕有功，欽修府邸，親賜“御前侍衛府”雲紋立匾，門兩側樹雙斗大方旗桿，以彰其績。
清光緒九年（1883年）法年騷擾南疆，戰事緊張，隨調潮州府任游擊將軍。勵精圖治，操練人馬，建築炮台，日夜堅守。光緒十年，法軍集結兵力，欲攻占潮州進駐廣東。他身先士卒，奮勇殺敵，法軍慘敗。光緒十一年（1985）法軍侵犯鎮南關，唯有廣東潮州一帶，法軍不敢再犯。
鵬舉為官數載，威震敵膽。清政府“中日甲午”戰爭失敗，簽定了<馬關條約>，喪權辱國，割地賠款。廣東沿海成了法國“勢力範圍”。鵬舉目睹洋人橫行，國土淪陷，清政府賣國求榮，苟且偷安，毅然解甲歸田，隱居鄉里。
