質生少時隨父任所讀書，父亡歸里。光緒二十三年(1897)中秀才，應循化參將之聘教其子。後至趕坡、唐汪川、蒙城教義學。知州楊增新選優秀生員入署衙讀書，質生亦入選，並與鄧隆等賃顯慶寺僧舍，攻讀學業。光緒三十三年(1907)游幕四川之新寧、打箭爐、南充等地，為縣令王典章、鄧隆佐助兼課子弟。
辛亥革命後返回甘肅。民國元年甘肅省臨時議會成立，質生任秘書課長。次年，應寧夏護軍使署馬福祥之聘，任寧夏護軍使署副官長，後任綏遠都統署參謀長、綏遠墾務會辦、歸綏清理地畝局長、綏遠菸酒事務局長等職。後任北京政府臨時參政院參政等職。鑒於軍閥混戰，時政腐敗，民國15年辭官回蘭州，居家不出。
民國17年，馬仲英與國民軍戰於河州城，次年時逢大旱，天災人禍，鄉里塗炭。質生與鄧隆聯合旅蘭同鄉積極募捐，出任甘肅賑務會委員，奔走呼籲，以資助逃難至蘭州的災民返鄉。並同鄧隆到臨夏調查災情，組織發放賑款，掩埋餓殍。外逃難民上莊後，無籽缺種，省政府聘請質生偕委員魯光華到臨夏、寧定、臨洮等縣與當地回漢知名人士協商，調劑發放籽種，適時下種。
民國19年，與宣撫使馬麟同往臨夏地區撫慰。抗日戰爭爆發後，質生攜眷回臨夏，與地方人士創辦私立興華國小，首任董事長，還籌辦臨夏紡織股份有限公司和治理大夏河事業，均末如願。
1949年8月22日中國人民解放軍進入臨夏，質生偕同各族各界人士前往大夏河橋頭熱誠歡迎解放軍入城。同月，被任命為臨夏地區民族事務委員會副主任。1952年參加甘肅少數民族參觀團赴北京觀禮，返臨後，由政務院任命為臨夏專署副專員。還先後任甘肅省民族事務委員會、臨夏專區中國人民政治協商會議、臨夏專區土地改革委員會。並被選為甘肅省人民代表大會第一、二屆代表。臨夏回族自治州成立，選任副州長。在任期間雖年事已高，仍致力於臨夏建設。
1958年9月3日，張質生在家病逝。中共臨夏州委在輓詞中給予“熱愛共產黨、熱愛人民革命事業，在加強民族團結和各項社會主義事業中貢獻了很大力量”的評語。
質生擅長詩文，著有《退思堂詩集》42卷，《退思堂文稿》16卷，《枹罕碧血》2卷。參加土改賦詩百餘首，臨夏回族自治州成立，曾作長歌祝賀。
質生好讀書，喜收藏，平生薪資所得，悉購圖書字畫。積書5000冊，藏字畫等文物500餘件。於1966年10月，由其子張思溫主動捐獻，現存甘肅省圖書館。
