1966年4月，張紹雲光榮加入了共青團。1969年3月，光榮入伍，同年6月入黨，歷任戰士、班長、排長等職。
張紹雲只有國小文化，學習對他而言是比較困難的，但他捨得下功夫，不怕吃苦。他在部隊一直堅持每天寫日記，經常做讀書筆記。張紹雲在部隊服役10年，記了20餘本讀書筆記。1969年、1970年兩次被評為“五好戰士”。
張紹雲十分 注意軍事知識的學習，特別注重對地形與地圖的研究，在地貌判讀、山的各部形態判讀方面練出了一身過硬功夫。他做了大量的對變形地判讀的讀書筆記，並發表了自己的見解。擔任排長後，他帶領戰士們深入探討坦克進攻特點。他總結出外軍戰鬥坦克的進攻特點是：①強調阡進進攻；②強調包圍迂迴對敵雙側和後方實施突擊；③強調與其他兵種的密切組織協同動作；④重視同敵坦克兵作鬥爭；⑤強調高速度的發動進攻；⑥強調寬正面高速度的快機動的進攻。
張紹雲擔任排長期間，對戰士的訓練要求十分嚴格，並很注意對戰士進行細緻的思想教育。他經常告誡戰士：“練兵就是打仗，來不得半點虛假。”由於他帶的排平時訓練刻苦，因而個個戰士練就了一身硬功夫。每次打靶，他帶領的排都是優秀。
張紹雲當兵10年，從來沒有回家過春節。1974年冬天，他回家探親，臘月28日與未婚妻王桂蘭訂婚，第二天就返回部隊，30日趕到連隊陪戰士們團年。對此王桂蘭難免有些想法，張紹雲便向她解釋說：“排里新兵多，他們年紀小，都是剛離娘的崽，逢年過節總想家，丟下他們我不放心。”王桂蘭也深明大義，看到自己的心上人這樣誠實可靠，也就不計較了。樸素的愛，不在甜言蜜語、卿卿我我中，而在真心相許。
1975年，張紹雲與王桂蘭結婚。婚後，王桂蘭五次到部隊，每次住兩三個月，雖然夫妻恩愛，但張紹雲從不因此影響部隊工作。他清早出去，吹熄燈號才回來，其他時間夫妻很難見到面。部隊駐地距桂林市只有50多公里，張紹雲從來沒有陪妻子去玩過。
1977年夏，張紹雲回家探親。當時正值雙搶，張紹雲參加了“雙搶”，隊上給他記了5分工，算在王桂蘭名下。但張紹雲不許王桂蘭要，王桂蘭想不通：“不要優待，多勞多得也不行!”張紹雲生氣地說：“脫離上級監督的時候，更加要自覺。在部隊我是領了國家工資的，怎么能夠得雙份。”
1977年10月，張紹雲與王桂蘭的女兒張妍梅出生了。當時生產隊收入低，家裡口糧不足，張紹雲不許家裡向社、隊申請“救濟糧”，自己也從不向上級申請困難補助，寧願從自己每月54元的工資中，擠出30元寄回家買高價糧。
張紹雲1971年當排長，在連隊算是老資格了，但他沒有“老味”，對後上來的比自己年輕的連營幹部很尊重，絕對服從。有時他想：自己文化水平低，不適應更重要的工作，不如早退役回家種田。他與妻子也商量過此事，但他從來沒有向部隊寫出申請。親戚朋友勸他遲回家不如早回家，他卻說：“總要等上級決定呀!自己提要求不好!”
一個重實幹、少言詞、樸實無華的人，平時可能不易引人注意，但在緊急關頭，卻顯出英雄本色。張紹雲就是這樣一個人。
1979年2月，對越自衛還擊戰打響了，張紹雲奉命率領炮排配合步兵八連攻打越南茶靈地區的八達嶺主峰陣地。由於炮排的密切配合，八連只用了20分鐘就奪取了敵人陣地。當八連占領八達嶺主峰後，突然遭到八達嶺北側和西北側半山腰敵方火力射擊，指揮所受到嚴重威脅。在這緊急關頭，張紹雲挺身而出，親自肩炮射擊，一發炮彈就打中了敵方火力點。隨後，又接連發射了6發炮彈，摧毀了敵方4個火力點。一個殘敵想逃命，他順手拿起衝鋒鎗，消滅了這個敵人。
激烈的戰鬥進行了10天后，八連駐守的八達嶺陣地，又突然遭到西南側石頭山敵人3挺重機槍和一挺高射機槍的猛烈射擊，部隊傷亡很大。必須火速摧毀敵方火力點，才能改變部隊的不利處境。但由於地形不利，不能發揮我方火力優勢，九班新任班長紀文奇兩次射擊沒有命中，敵人的子彈雨點一樣落在我方陣地上，戰友的安全受到嚴重的威脅。這時，張紹雲不顧個人安危，搶過九班長肩上的炮身，運動到戰壕的尾端，利用有利地形，向石頭山敵火力點實施射擊，一發炮彈就摧毀了一個敵火力點。敵人發現了張紹雲，馬上轉向他射擊，一發敵彈落在他身邊爆炸，他迅速隱蔽。十班長陳振平扛著裝有炮彈的炮身，運動到他的身邊，要替換他。張紹雲不由分說，搶過炮身，順手推開陳振平，接著又發射了一炮，摧毀了另一個敵火力點。敵人慌了，集中火力向張紹雲射擊。張紹雲完全暴露在敵人火力的直接射擊之下。他毫不畏懼，迅速裝上新的炮彈。正在他即將發射第三發炮彈之際，不幸中彈壯烈犧牲。
張紹雲摧毀了敵方7個火力點，又吸引了敵方火力向自己轉移。八連的同志乘機迅速占據了有利地形，壓制了敵方火力，陣地轉危為安。
戰後，八連指戰員為張紹雲請功。1979年3月21日，部隊政治部批准他為革命烈士；師黨委給他追記一等功；4月19日，廣州軍區授予他“戰鬥英雄”光榮稱號。中共新寧縣委於1979年5月12日作出決定，號召全縣人民學習張紹雲烈士的崇高品質和獻身精神，為祖國建設貢獻力量。
