1924年底，吳謙成為常寧籍旅京、旅省學生學友會成員，編排過一些短劇，如《可怕的生活》、《被壓迫的人》等，在城裡演出。1926年5月，他被上級派到廣州農民運動講習所學習。9月，以省農民協會特派員身份回常寧縣從事農民運動。經過他與蕭震球、李成蹊等的共同努力，常寧縣農民協會於1927年2月間正式成立，他當選為執行委員，並擔任宣傳部長兼懲治土豪劣紳特別法庭庭長。
吳謙當選縣農協執委後，為了解決貧苦農民渡荒問題，曾想過不少辦法，常寧人至今還傳頌著他巧取“陳餓虎”千擔糧的故事。那時，蔭田衡頭有個叫陳慕主的大土豪，平日橫行鄉里，對農民敲骨吸髓，如狼似虎，有著填不飽的胃口和滿足不了的欲望，人稱“陳餓虎”。如何把這隻“餓虎”的存糧挖出來，是解決貧苦農民糧荒最緊迫的事。事又湊巧，恰好陳慕主派人來要求參加農會，吳謙眉頭一皺，計上心來，便當即滿口答應，並主動約請陳慕主第二天來蔭田農協辦理入會手續。次日清早，他提前趕到蔭田，向農會負責人作了布置。這天上午，他和農協會員“熱情”接待了陳慕主，還向陳詳細講解農民協會的章程，談著談著，忽聽門外喧鬧聲起，原來是一些受災民眾前來農會要飯。他指著這些災民請陳拿點糧救濟一下，陳心裡“咯噔”一下。吳謙沒等陳答話，便寫好一張“衡頭陳八爺給附近十鄉農友饋贈稻穀十擔，以作入會之禮”的條子遞給陳慕主。陳接過一看，以為出十擔谷，九牛一毛，不過爾爾。這樣做既能博得善名，又可當上農協會員，立即一口答應下來。當陳要簽名表示照辦時，吳謙又要陳在條子上先寫上“若有反悔，後果自負，二姨太親辦”字樣，再簽上自己的名字。等陳照吳謙的意見簽好後，他又“熱情”將陳留在農舍商談，直到吃完晚餐後才讓陳離去。就在這一天下午，專為陳慕主掌管存糧數目和存放地點的二姨太，接到的卻是一張在“十”字上加了一撇，成了“饋贈稻穀千擔”的條子。因上有陳慕主的簽字，二姨太不得不如數照發。就這樣，只用一個下午時間，這千擔谷就被附近十鄉的民眾高高興興挑了回去。這就是吳謙巧取千擔糧的故事，後來民眾把它編成歌謠，這個故事就在當地流傳下來。
吳謙奪取縣團防局的槍枝，組建農民糾察隊，也是巧計取勝。他先邀請全體團防隊員參加縣農協會員大會，當團防隊員來到會場時，立即被預先布置的700多手持馬刀、梭鏢的農協會員團團圍住，隨即宣布縣農協執委的決定，責令團防隊員把槍枝移交給農會糾察隊，團防隊員手中的槍就這樣被農會糾察隊隊員名正言順地全數“借管”。縣團防局的槍被繳之後，他又率糾察隊員前去包圍縣團防局長蕭宜春的家，繳獲一批槍枝彈藥。
1927年長沙馬日事變後，常寧的土豪劣紳和反動勢力向農民協會進行瘋狂反撲，但吳謙毫不畏懼，仍堅持繼續鬥爭。6月初的一天，有一支組織不純的農民糾察隊在原團防隊員李炳輝的煽動下叛變，回城圍攻縣農會。時城內力量絕對不堪與城外叛變隊伍對抗，危在旦夕，千鈞一髮!吳謙鎮定自若，模仿三國時的諸葛亮唱起了“空城計”。他不是在城頭扶琴，也不是用老兵掃街，而是立即派人在叛變隊伍途經之地及縣城街巷，到處張貼歡迎水口鄉工人糾察隊進駐縣城的標語，嚇得叛亂分子不敢貿然進城，為縣城農會等機關於當晚轉移贏得了寶貴的時間。
不久，吳謙參加了朱德、陳毅領導的工農革命軍。不幸的是，在一次執行偵察任務時，他被挨戶團殺害，時年24歲。
