1929年2月27日，紅四軍來到張連生的家鄉，點燃了大金竹一帶農民運動的烈火。這年冬天，張連生秘密串連雷打石附近一些青年，成立了雷打石農民協會，在大金竹黨組織領導下，開展打土豪分浮財運動。經過革命鬥爭的鍛鍊，張連生很快成為大金竹一帶農民運動的帶頭人。1930年春，他加入中國共產黨，不久調樂安縣蘇維埃政府工作。
1931年，為適應革命形勢的發展，儘快恢復和擴大紅色區域，中共樂安縣委根據上級精神準備全面開闢樂安東南山區根據地。由於時間緊迫，敵我情況複雜，縣委經過深思熟慮，決定委派有豐富基層工作經驗的縣委委員張連生帶隊進駐嚴塘一帶工作。剛進駐時，由於民眾不了解黨的肅反政策，怕誣為“AB團”，加上一些土豪劣紳的造謠恐嚇，許多民眾都不敢加入農會，有的還躲避工作隊。面對這種狀況，張連生沒有氣餒，而是帶領工作隊走村串戶，訪貧問苦，安撫因“肅反”擴大化受到錯誤對待的革命民眾及其親屬。對一些同志要求成立區委和區蘇維埃政府的急燥情緒，他耐心地告誡大家，應先做細緻的思想工作，切實解決存在的實際問題，只有水到渠成，不可急於求成。為此，他還吸收進步青年參加“活動分子”(即積極分子)小組，以此為陣地灌輸先進思想和革命道理，啟發和激發他們革命的反抗精神。在開展思想宣傳工作的同時，他還緊密依靠民眾，領導和組織民眾開展打土豪分浮財、抗租、抗稅、抗糧鬥爭，讓更多的民眾看到窮人團結一條心的力量。經過不懈的努力，1931年11月，嚴塘區委和區蘇維埃政府成立了，使樂安紅色區域得以鞏固和擴大。
張連生雷厲風行的實幹精神和辦事公道的高尚品德，深受領導和同志們的讚譽。1932年2月他當選為樂安縣職工委員會委員長；同年9月又當選為樂安縣第三屆蘇維埃政府執行委員。他任工會委員長時，主要任務是貫徹《中華蘇維埃共和國勞動法》。當時樂安蘇區製造草紙和毛邊紙，成為根據地當時主要的支柱產業，也是根據地的重要經濟來源。他上任碰到的首要問題是紙廠老闆抽走資金、轉移造紙工具、設備和產品，藉故解僱工人和關閉紙棚，使蘇區80%的造紙工人失業，蘇區經濟也受到嚴重損失，無法擺脫敵人經濟封鎖造成的各種困難。為此，張連生帶領職工委員會幹部分頭深入到招攜、杭村、坪溪等地進行調查研究，並根據黨的政策實事求是地採取措施：對不理解黨的政策、害怕民眾打土豪而抽走資金、停止生產的紙廠老闆，作好思想工作，並迅速組織他們恢復生產；對無故關、停的紙廠則限其恢復生產；對逃亡在外的老闆、資本家的生產資料及山場、紙棚全部沒收，由蘇維埃政府組織工人生產。由於上述措施得當，樂安蘇區的造紙業不僅沒有因戰爭而衰敗，反而有了一定的發展，對打破敵人的經濟封鎖起著重要作用。毛邊紙運往白區，換回蘇區急需的藥材、食鹽、煤油等重要物資，有力地支援了反“圍剿”戰爭。
1933年12月，張連生任縣蘇維埃政府主席、中共江西省委執行委員、省蘇維埃執行委員會委員。這期間，他認真貫徹中央、省委精神，積極領導蘇區人民發展生產，特別是發展蘇區的土特產業。全縣辦紅色毛邊紙廠70多個，紅色飯店4個，還發展了一批消費合作社、糧食合作社等。為解決根據地勞動力不足，他在全縣組織了規模不同的幫工組、犁田組、割禾組100多個，開展了轟轟烈烈的換工互助活動。為搞活樂安蘇區的經濟，打破敵人的封鎖，鼓勵和保護白區商販進根據地從事商業活動，他不顧個人安危，經常到赤白交界的游擊區籌集資財和推銷公債。由於成績突出，張連生受到省蘇表彰。
在參戰支前工作中，張連生更是任勞任怨地忘我工作。1933年2月下旬第四次反“圍剿”作戰在樂安登仙橋打響時，他正在善和、萬崇等地組織游擊隊、赤衛軍及蘇區民眾完成支前運輸任務。此時家裡也派人捎來口信，叫他回家看一下即將逝世的父親，以了卻老人最後的心愿。領導和同志們也勸他快去快回。張連生愛自己的父親，但他更深知當時的革命工作不允許自己離開崗位，他捎話回家，說：“前線正在激烈地戰鬥，我們的紅軍戰士正在浴血拚殺，我怎能離開工作崗位回家呢?就讓我用勝利來告慰他老人家吧!”蘇區軍民粉碎蔣介石第四次反革命“圍剿”後，他領導的善和區獲得軍區的嘉獎。1933年8月的一個傍晚，張連生剛剛從鄉下回到縣蘇駐地南村，就聽說家鄉雷打石的擴(大)紅(軍)運動冷冷清清，9個“擴紅”任務只完成1個。特別是自己的堂叔張昌慶，有兩個符合條件的兒子，居然躲進深山去了。他向中共樂安中心縣委書記李富槐說明回家的情況後，連晚飯也不吃，披星戴月趕了30多里路，回到了家裡。他先做母親的思想工作，動員18歲的弟弟張發遠報名參軍。後到堂叔家耐心、細緻地宣傳黨的政策及“擴紅”的重要意義，並親自上山找到兩個堂弟。他曉之以理，動之以情，使他們很快消除了疑慮，愉快地報名參軍。短短几天，雷打石超額完成兩名“擴紅”任務，並出現了父送子、妻送夫，兄送弟參加紅軍的動人場面。
1934年，由於“左”傾錯誤路線的指揮，紅軍第五次反“圍剿”失利。樂安、宜黃、崇仁3縣蘇區也逐漸縮小。1934年，樂安中心縣委在火嵊金竹召開三縣黨政領導骨幹會議，根據省委檔案精神，決定成立樂安、宜黃、崇仁3縣蘇維埃聯合政府，張連生任聯合縣蘇維埃主席。他和中心縣委(又稱聯合縣委)書記李富槐一道，領導三縣蘇區軍民開展靈活機動的游擊戰爭，先後消滅了十餘股捲土重來的“還鄉團”反動武裝。同年11月，因工作需要，他調到省蘇維埃政府工作，轉戰永豐、樂安、寧都等山區。
1935年初，張連生率領一支以樂安黨政機關和地方武裝為主體的隊伍，輾轉於永(豐)、樂(安)、寧(都)邊界山區，與敵軍周旋。他們儘量避免正面作戰，有時也選擇有利時機、有利地勢，襲擊敵人的小股部隊和地方武裝，使敵人防不勝防，遭受創傷。1月中旬，省蘇維埃一支武裝被敵重兵包圍在永豐上溪。一天夜晚，張連生遵照突圍命令，指揮一支部隊殺出重圍，後由於大部隊仍未衝出敵包圍圈，於是他又帶領部隊殺回去，吸引大部分敵人，為主力的安全轉移爭取了有利時機。戰鬥中，張連生英勇捐軀，時年37歲。
