1925年青滬慘案發生後，張四維將在長沙的湘陰籍學生組織起來，成立了以他為駐省代表的救國講演團，投入反帝愛國鬥爭。7月初，他帶領救國講演團成員，返回湘陰開展宣傳活動。他們在縣城興化寺召集各界人士開會，並分區進行化裝講演，動員湘陰各界人民參加反帝愛國鬥爭。隨後，在張四維等倡導下，“青滬慘案雪恥會湘陰分會”成立，一場有組織、有廣泛民眾基礎的反帝宣傳和抵制仇貨的鬥爭，在湘陰縣城轟轟烈烈地開展起來。為了有效地抵制仇貨，張四維還與縣城高級國小校的教師商議，印製了“本店永不買賣英日貨物”的誓條，令各鋪店老闆領受，貼在門上，照章執行。
1926年初，張四維根據黨組織指示，以個人身份加入國民黨，並奉調到國民黨湖南省黨部工作。8月，為了支援北伐軍在湖南的勝利進軍，張四維與傅光夏等以特派員的身份返回湘陰縣城，開展工農運動，並參與籌組國民黨湘陰縣黨部。8月16日至9月5日，國民黨湖南省第二次代表大會在長沙召開，張四維作為湘陰代表出席會議，並被選為候補執行委員。會後，他立即返縣傳達貫徹會議精神，幫助建立了國民黨湘陰縣黨部。
是年10月，張四維奉調到中共武昌市委工作，公開身份是武昌師範大學附屬國小教師。1927年5月長沙發生馬日事變後，他積極協助大批到武漢避難的湘籍共產黨員赴武漢國民政府進行請願活動。寧漢合流後，面對白色恐怖，他繼續以國小教師身份作掩護，堅持地下鬥爭，擔任武漢至南京之間的秘密交通工作，多次出色完成了上級交給的傳遞黨的重要檔案的任務。
1928年5月，張四維被調往中共南京市委工作。當時，南京的黨組織因出內奸而遭到嚴重破壞，張四維臨危受命，挑起了地下聯絡工作的重擔，在敵特密布、軍警橫行的環境下，冒著隨時都有殺頭的危險，參與恢復和健全市委的工作。他依靠原市委的一些倖存者，尋找到一批失散的黨員，先後組建了中共下關區委和浦鎮區委，為恢復市委打下了良好基礎。同時，他還經常利用在南京軍政界供職的堂舅及湘陰籍同鄉的關係，蒐集敵人的情報，營救被捕同志。當時中共南京市委兩名遭逮捕的同志就是經他想方設法營救出來的。
1930年春，中共中央為了加強各蘇區的領導力量，迎接新的革命高潮，派出了一批精幹的軍政幹部到各蘇區工作。張四維奉命來到湘鄂贛蘇區，任紅五軍第一縱隊宣傳科長，不久，隨軍參加了兩次攻打長沙的戰鬥。同年8月中旬，紅十六軍成立，張四維調任軍政治部宣傳科科長，隨軍轉戰於湘鄂贛邊區。部隊每到一地，他即組織力量，因地制宜開展宣傳活動，貼標語，發布告，散傳單，教唱歌曲，演文明戲，深受指戰員和駐地民眾的歡迎。在他的推動下，當時在湘鄂贛蘇區流行著很多革命歌謠，如《四季怨》、《工農聯盟歌》、《暴動歌》、《歡迎白軍反水歌》等。其中影響最大的是他借用《孟姜女哭長城》的曲調改寫的《四季歌》：“春季里來暖洋洋，怨恨軍閥打仗忙，炮火塵煙漫中華，勞苦民眾淚汪汪……”這首歌詞，悲憤地道出了在戰亂中呻吟的勞苦大眾的心聲，激發了他們投身革命的巨大熱情，從而在革命根據地里湧現了父母送子、妻送夫參加紅軍的一幅幅感人情景。
1930年11月20日，紅十六軍一舉攻克湘陰縣城，張四維利用自己熟悉情況的有利條件，積極開展宣傳工作，讓民眾了解紅軍是解救民眾苦難的工農子弟兵，了解共產黨的政策主張。在他的宣傳鼓動下，湘陰各界民眾積極擁護紅軍，有的出錢獻物支援部隊，有的乾脆報名參加紅軍。
1931年春，在反“圍剿”鬥爭中不斷壯大發展的紅十六軍，在原轄第七、第九兩個師的基礎上，以平江、修水、銅鼓、宜豐等地游擊隊為主，增建了第八師，侯金武任師長，張四維調任師政治委員。紅八師組建後，張四維針對部隊的實際情況，首先大抓了思想政治教育工作。他經常深入連隊，向戰士們進行階級教育、紀律教育，從而使這支由地方游擊隊改編的政治、軍事素質較差的部隊，面貌迅速煥然一新。此後，他與師長侯金武率部轉戰於修水、武寧、宜豐、銅鼓等地，為粉碎敵人的“圍剿”、保衛贛北蘇區做出了重要貢獻。
1931年8月，張四維因積勞成疾病倒了，得的是嚴重的肺病，被組織秘密送往南京治療，住進了鼓樓醫院。1932年秋，年僅27歲的張四維帶著對生命的無限眷戀溘然離開了人間，給人們留下了深深的懷念。
