張予三1949年2月參加革命,在蘇北軍區特務二團政治處任戰士、文書、技術書記。1950年1月至1954年5月在大連海軍學校、旅順海軍潛艇學習隊學習。1954年6月至1963年12月在海軍某部任潛艇航海長、副艇長、艇長。1964年1月至1981年5月任總參謀部作戰部參謀、副處長。1981年5月至1984年5月任海南島海軍榆林基地副參謀長、編隊司令員。1984年任南京海軍學院研究員。1987年1月任青島海軍潛艇學院副院長。1988年8月任海軍司令部副參謀長。
中國海軍艦隊編隊出訪國外的第三次出訪就是由海軍副參謀長張予三任指揮,即1990年12月5日至28日,海軍副參謀長張予三任指揮、大連艦艇學院院長姜可續任副指揮,率海軍“鄭和”號訓練艦,從湛江港啟航,對泰國進行了為期一周的訪問。