個人經歷
1949年在南平中學國中畢業。1950年11月加入中國新民主主義青年團，1951年8月進福建省公安廳第四期幹校學習，期滿後被留在公安廳辦公室總務科工作。1953年在福州市水上居民的普選工作成績突出，榮獲三等功。1954年12月加入中國共產黨。1956年在審乾外出調查中，翻山越嶺80華里，完成任務，又立三等功一次。1958年調公安廳政治保衛處，在參加沿海對敵鬥爭中，白天工作，晚上和民兵一起站崗放哨。1960年調永安縣公安局任政治保衛股股長。1966年任公安局副教導員併到中央政法幹校學習。“文化大革命”中，公檢法被砸爛，胡玉謙於1970年1月被調到永安縣槐南公社任政工組長。不久任公社黨委副書記。他到比較落後的南山大隊蹲點，培養新生力量，充實領導班子，發動民眾進行農田基本建設，尤其重視科學種田，如改造低產田、推廣矮桿稻種，使糧食畝產從1969年的150公斤，提高到1971年的345公斤，社員的口糧翻一番。1973年他又到偏遠的小龍逢大隊蹲點，調整領導班子，發揮黨支部的戰鬥堡壘作用，發動民眾制止亂砍濫伐山林，幫助村里興建一個水電站，使該村改變面貌。
主要成就
1974年初，胡玉謙調回公安局任副局長。8月11日下午30分，他剛外出辦案回來，永安雨傘鞭炮廠因火藥燃燒引起大火。胡玉謙聞訊即和幹部、民警一起參加救火。胡玉謙奮不顧身從滾滾哨煙中衝進去搶救國家財產。他和許多救火人員一起，把易燃的硝藥一包包地搶救出來。當他第二次闖進火場時，原料庫的硝藥接連兩次爆炸，他衝出火海時，滿身都在著火，但為了避免影響民眾情緒，他強忍著灼傷的劇痛而不吭一聲。他和21位幹部、工人、農民、消防隊員都被烈火燒傷。他全身被燒傷面積達92%以上。胡玉謙終因傷勢過重，搶救無效，於8月18日逝世。
個人榮譽
福建省革命委員會於1975年8月18日下達閩革147號檔案，追認胡玉謙為革命烈士。
