尋除安西將軍、秦州刺史。彝務尚典式，考訪故事。及臨隴右，彌加討習，於是出入直衛，方伯威儀，赫然可觀。羌夏畏伏，憚其威整，一方肅靜，號為良牧。其年冬，太極初就，彝與郭祚等俱以勤舊被征。及還州，進號撫軍將軍，彝表解州任，詔不許。彝敷政隴右，多所制立，宣布新風，革其舊俗，民庶愛仰之。為國造佛寺名曰興皇，諸有罪咎者，隨其輕重，謫為土木之功，無復鞭杖之罰。時陳留公主寡居，彝意願尚主，主亦許之。僕射高肇亦望尚主，主意不可。肇怒，譖彝於世宗，稱彝擅立刑法，勞役百姓。詔遣直後萬貳興馳驛檢察。貳興，肇所親愛，必欲致彝深罪。彝清身奉法，求其愆過，遂無所得。見代還洛，猶停廢數年，因得偏風，手腳不便。然志性不移，善自將攝，稍能朝拜。久之，除光祿大夫，加金章紫綬。
彝愛好知己，輕忽下流，非其意者，視之蔑爾。雖疹疾家庭，而志氣彌高。上表曰："臣聞元天高朗，尚假列星以助明；洞庭淵湛，猶藉眾流以增大。莫不以孤照不詣其幽，獨深未盡其廣。先聖識其若此，必取物以自誡。故堯稱則天，設謗木以曉未明；舜稱盡善，懸諫鼓以規政闕。虞人獻箴規之旨，盤盂著舉動之銘，庶幾見善而思齊，聞惡以自改。眷眷於悔往之衢，孜孜於不逮之路，用能聲高百王，卓絕中古，經十氏而不渝，歷二千以孤郁。伏惟太祖撥亂，奕代重光。世祖以不世之才，開盪函夏；顯祖以溫明之德，潤沃九區。高祖大聖臨朝，經營雲始，未明求衣，日昃忘食，開翦荊棘，徙御神縣，更新風軌，冠帶朝流。海東雜種之渠，衡南異服之帥，沙西氈頭之戎，漠北辮髮之虜，重譯納貢，請吏稱籓。積德懋於夏殷，富仁盛於周漢，澤教既周，武功亦匝。猶且發明詔，思求直士，信是蒼生薦言之秋，祝史陳辭之日。況臣家自奉國八十餘年，紆金鏘玉，及臣四世。過以小才，藉廕出仕，學慚專門，武闕方略，早荷先帝眷仗之恩，末蒙陛下不遺之施。侍則出入兩都，官曆納言常伯，忝牧秦籓，號兼安撫。實思碎首膏原，仰酬二朝之惠；輕塵碎石，遠增嵩岱之高。輒私訪舊書，竊觀圖史，其帝皇興起之元，配天隆家之業，修造益民之奇，龍麟雲鳳之瑞，卑官愛物之仁，釋網改祝之澤，前歌后舞之應，囹圄寂寥之美，可為輝風景行者，輒謹編丹青，以標睿范。至如太康好田，遇窮後迫禍；武乙逸禽，罹震雷暴酷；夏桀淫亂，南巢有非命之誅；殷紂昏酣，牧野有倒戈之陳；周厲逐獸，滅不鏇踵；幽王遇惑，死亦相尋；暨於漢成失御，亡新篡奪；桓靈不綱，魏武遷鼎；晉惠暗弱，骨肉相屠。終使聰曜鴞視并州，勒虎狼據燕趙——如此之輩，罔不畢載。起元庖犧，終於晉末，凡十六代，百二十八帝，歷三千二百七十年，雜事五百八十九，合成五卷，名曰《歷帝圖》，亦謗木、諫鼓、虞人、盤盂之類。脫蒙置御坐之側，時復披覽，冀或起予左右，上補未萌。伏願陛下遠惟宗廟之憂，近存黎民之念，取其賢君，棄其惡主，則微臣雖沉淪地下，無異乘雲登天矣。"世宗善之。
彝又表曰："竊惟皇王統天，必以窮幽為美；盡理作聖，亦假廣采成明。故詢於芻蕘，著之周什，輿人獻箴，流於夏典。不然，則美刺無以得彰，善惡有時不達。逮於兩漢、魏、晉，雖道有隆污，而被繡傳檄，未始闕也。及惠帝失御，中夏崩離，劉符專據秦西，燕趙獨制關左，姚夏繼起，五涼競立，致使九服搖搖，民無定主，禮儀典制，此焉堙滅。暨大魏應歷，撥亂登皇，翦彼鯨鯢，龕靖神縣，數紀之間，天下寧一，傳輝七帝，積聖如神。高祖遷鼎成周，永茲八百，偃武修文，憲章斯改，實所謂加五帝、登三王，民無德而名焉。猶且慮獨見之不明，欲廣訪於得失，乃命四使，觀察風謠。臣時忝常伯，充一使之列，遂得仗節揮金，宣恩東夏，周曆於齊魯之間，遍馳於梁宋之域。詢采詩頌，研檢獄情，實庶片言之不遺，美刺之俱顯。而才輕任重，多不遂心。所采之詩，並始申目，而值鑾輿南討，問罪宛鄧，臣復忝行軍，樞機是務。及輦駕之返，膳御未和，續以大諱奄臻，四海崩慕，遂爾推遷，不及聞徹。未幾，改牧秦蕃，違離闕下，繼以譴疾相纏，寧丁八歲。常恐所采之詩永淪丘壑，是臣夙夜所懷，以為深憂者也。陛下垂日月之明，行雲雨之施；察臣往罪之濫，矜臣貧病之切。既蒙崇以祿養，復得拜掃丘墳，明目友朋，無所負愧。且臣一二年來，所患不劇，尋省本書，粗有仿佛。凡有七卷，今寫上呈，伏願昭覽，敕付有司。使魏代所采之詩，不堙於丘井，臣之願也。"
肅宗初，侍中崔光表曰："彝及李韶，朝列之中唯此二人出身官次本在臣右，器能幹世，又並為多，近來參差，便成替後。計其階途，雖應遷陟，然恐班秩猶未賜等。昔衛之公叔，引下同舉；晉之士丐，推長伯游。古人所高，當時見許。敢緣斯義，乞降臣位一階，授彼泛級，齊行聖庭，帖穆選敘。"詔加征西將軍、冀州大中正。雖年向六十，加之風疾，而自強人事，孜孜無怠。公私法集，衣冠從事；延請道俗，修營齋講；好善欽賢，愛獎人物。南北新舊，莫不多之。大起第宅，徽號華侈，頗侮其疏宗舊戚，不甚存紀，時有怨憾焉。榮宦之間，未能止足。屢表在秦州預有開援漢中之勛，希加賞報，積年不已，朝廷患之。
第二子仲瑀上封事，求銓別選格，排抑武人，不使預在清品。由是眾口喧喧，謗讟盈路，立榜大巷，剋期會集，屠害其家。彝殊無畏避之意，父子安然。神龜二年二月，羽林虎賁幾將千人，相率至尚書省詬罵，求其長子尚書郎始均，不獲，以瓦石擊打公門。上下畏懼，莫敢討抑。遂便持火，虜掠道中薪蒿，以杖石為兵器，直造其第，曳彝堂下，捶辱極意，唱呼嗷嗷，焚其屋宇。始均、仲瑀當時逾北垣而走。始均回救其父，拜伏群小，以請父命。羽林等就加毆擊，生投之於煙火之中。及得屍骸，不復可識，唯以髻中小釵為驗。仲瑀傷重走免。彝僅有餘命，沙門寺與其比鄰，輿致於寺。遠近聞見，莫不惋駭。
彝臨終，口占左右上啟曰："臣自奉國及孫六世，尸祿素餐，負恩唯靦，徒思竭智盡誠，終然靡效。臣第二息仲瑀所上之事，益治實多，既曰有益，寧容默爾。通呈有日，未簡神聽，豈圖眾忿，乃至於此。臣不能禍防未萌，慮絕殃兆，致令軍眾橫囂，攻焚臣宅。息始均、仲瑀等叩請流血，乞代臣死，始均即陷塗炭，仲瑀經宿方蘇。臣年已六十，宿被榮遇，垂暮之秋，忽見此苦，顧瞻災酷，古今無比。臣傷至重，殘氣假延，望景顧時，推漏就盡，頃刻待終，臣之命也，知復何言？若所上之書，少為益國，臣便是生以理全，死與義合，不負二帝於地下，臣無餘恨矣！一歸泉壤，長離紫庭，戀仰天顏，誠痛無已。不勝眷眷，力喘奉辭，伏願二聖加御珍膳，覆露黔首，壽保南嶽，德與日升。臣夙被芻豢，先後銜恩，欲報之期，昊天罔極，亡魂有知，不忘結草。"彝遂卒，時年五十九。官為收掩羽林凶強者八人斬之，不能窮誅群豎，即為大赦以安眾心，有識者知國紀之將墜矣。喪還所焚宅，與始均東西分斂於小屋。仲瑀遂以創重避居滎陽，至五月，創得漸瘳，始奔父喪，詔賜布帛千匹。靈太后以其累朝大臣，特垂矜惻，數月猶追言泣下，謂諸侍臣曰："吾為張彝飲食不御，乃至首發微有虧落。悲痛之苦，以至於此。"
初，彝曾祖幸，所招引河東民為州裁千餘家，後相依合，至於罷入冀州，積三十年，析別有數萬戶。故高祖比校天下民戶，最為大州。彝為黃門，每侍坐以為言，高祖謂之曰："終當以卿為刺史，酬先世誠效。"彝追高祖往旨，累乞本州，朝議未許。彝亡後，靈太后云："彝屢乞冀州，吾欲用之，有人違我此意。若從其請，或不至是，悔之無及。"乃贈使持節、衛將軍、冀州刺史，諡文侯。
始均，字子衡，端潔好學，有文才。司徒行參軍，遷著作佐郎。世宗以彝先朝勛舊，不幸疹廢，特除始均長兼左民郎中，遷員外常侍，仍領郎。始均才幹，有美於父，改陳壽《魏志》為編年之體，廣益異聞，為三十卷。又著《冠帶錄》及諸賦數十篇，今並亡失。初，大乘賊起於冀瀛之間，遣都督元遙討平之，多所殺戮，積屍數萬。始均以郎中為行台，忿軍士重以首級為功，乃令檢集人首數千，一時焚爇，至於灰燼，用息僥倖，見者莫不傷心。及始均之死也，始末在於煙炭之間，有焦爛之痛，論者或亦推咎焉。贈樂陵太守，謚曰孝。
子暠，襲祖爵。武定中，開府主簿。齊受禪，爵例降。
暠弟晏之，武定中，儀同開府中兵參軍。
仲瑀，司空祭酒、給事中。
子台，儀同開府參軍事。
仲瑀弟珉，著作佐郎。
評論：張彝風力謇謇，有王臣之氣，銜命擁旄，風聲猶在。並魏氏器能之臣乎？遭隨有命，俱嬰世禍，悲哉！始均才志未申，惜也。
