謝升庸讀完私塾後，遊學於平遠縣東石和嘉應州（今之梅州），學業有成，於清雍正十年壬子科（1732），考取舉人。於清乾隆十年乙丑科（1745），考取三甲第103名進士。
謝升庸中進士後，任江南金壇縣令。上任之前，他拜謁恩師于敏中，向於了解該縣情況，請教治縣之策。于敏中是江蘇金壇縣人，於乾隆二年高中狀元，乾隆三十八年為首席軍機大臣，即為宰相。
謝升庸剛到金壇縣，即微服私訪，得知當地權貴勢力猖獗，吞食百姓錢糧，貪污國家稅收，痛心疾首。為了震懾豪強勢力，他按于敏中所授之計，先傳於之家屬到庭，進行訊問。四方豪強見狀，膽顫心驚，感到新來縣令，確與前任不同，連當朝大臣于敏中家屬也敢得罪，只得乖乖上交錢糧。不到一年，便收清了三年所欠的國稅幾千兩銀子，得到萬民擁護。朝廷悉知，允準以三分之一銀兩歸升庸所有，他卻分文不取，全部上交國庫。謝升庸此舉，功高順民，于敏中對其備加賞識。
此後，謝升庸在金壇縣廣施仁政，秉公選拔人才，所選皆知名人士。金壇百姓皆稱頌升庸是賢明正直的父母官。
謝升庸雖遠在他鄉，但對父母非常孝順，經常以書信向在家的父母問安，菽水之養無缺。乾隆二十年（1755），升庸母81壽辰，于敏中親筆題詞：“潛德光昭”置匾鍍金送給升庸，以示祝賀。
謝升庸金壇離任後，複選為河南正陽縣令。後以雙親年老，向朝廷要求改任惠州府教授，日與諸生員講學，教人先培養度量見識，後教之學問，士林仰之為“泰山北斗”。
謝升庸一生學問淵博，為官清正廉明，政績卓著，曾獲朝廷多項記功。
