當時漣水城北門鎮地痞流氓邵小喜認賊作父,為虎作倀,成為日軍幫凶。抗日義勇隊多次警告無效,便派張勝武、朱慕萍、王兆貞等七人伺機幹掉他。民國28年(1939)4月下旬,張勝武等人混在趕集的人群中進鎮,見邵小喜正在集上轉悠,便貼近他的身旁。
張勝武迅速扭住他的手臂,繳了他的槍,當眾宣布他的罪狀。朱慕萍讀完了事先準備好的判決書,立即處決了他。槍聲一響,市面大亂。張勝武等人隨炸集的民眾安全撤離。此一除奸速決行動,打擊了漢奸們的反動氣焰。至今,漣水城鄉還傳頌著當年七勇士大鬧北門鎮的事跡。
民國28年(1939)6月,張勝武任八路軍隴海南進支隊第八團特務連連長,並加入中國共產黨。民國30年春,他奉命率特務連到余莊、王集一帶打擊土匪。這裡的鬥爭形勢很複雜,南邊有張漢武叛匪常來騷擾,北邊要對付王培坤偽軍的搶劫和偽化活動,西邊要對付陳師庵偽軍和王凝之股匪,而漣城之敵也常常來“掃蕩”,想擠走他們。6月的一天上午,漣城日偽軍北渡鹽河,向王集方向“掃蕩”。
離王集一里許,突然折向西行,直撲特務連駐地余莊。張勝武即派一個班順八尺溝前往王大殿阻擊敵人,然後指揮戰士們沿土圩子構築工事,準備戰鬥。半小時後,擔任阻擊任務的一個班分兩個戰鬥組相互掩護撤回余莊。敵人遭阻擊後,舉棋不定,直到午後一時許才向余莊發起進攻。特務連在張勝武指揮下,憑藉工事固守,打退了敵人一次次衝鋒。激戰至下午四點,敵人不敢在鄉間戀戰,倉忙竄回漣水城。此戰打死日偽軍多人,而特務連無一傷亡,士氣大振,便經常主動突襲張漢武叛匪。經半年多較量,終將張匪擊潰。
民國30年(1941)秋,張勝武被調回漣水縣大隊。不久,縣大隊改為警衛團,他任副團長,後升為團長。民國34年冬;就在漣水人民慶祝抗日鬥爭勝利的時候,他卻因抗日日夜奔波而積勞成疾。經軍分區醫院搶治無效,不幸逝世。
張勝武逝世後,淮海軍分區、淮海專署批准他為烈士。漣水縣民主政府將他的家鄉命名為“勝武鄉”、“勝武村”。