早期經歷
魏嘉平初年（250年左右），楊肇在河內郡的軹縣擔任縣令，後遷升治書侍御史併兼統大理之職。後又轉為河內郡野王縣的典農中郎將。後為大將軍司馬昭參軍，之後五等爵位初建被封為東武子（子爵），265年，晉受魏禪後典戎朝廷內武衛，後以清宮勳勞，進封東武伯。之後領東莞相、荊州刺史，又加折衝將軍。
西陵之戰
272年，楊肇受命領兵救援降晉的步闡，但被陸抗打敗。
十一月，晉楊肇率援軍到西陵，巴東監軍徐胤率水軍至建平。陸抗分令張鹹固守其江陵，派公安督孫遵於長江南岸機動，防備羊祜軍南渡；水軍督留慮、鎮西將軍朱琬攔截晉徐胤水軍順流東下；自率大軍憑據長圍與楊肇對峙，以待戰機。時吳將朱喬、都督俞贊叛逃。陸抗說：“贊軍中舊吏，知吾虛實者，吾常慮夷兵素不簡練，若敵攻圍，必先此處”（《三國志·吳書·陸抗傳》）。於是連夜調整部署，把該地防軍全部換上了善戰精兵。次日，楊肇果集中攻擊原吳兵防區弱處，陸抗即命吳軍反擊，矢石雨下，肇眾傷死者相屬。經過數月的戰鬥，楊肇軍已到極限，打算趁夜撤退。陸抗欲追之，而慮闡畜力項領，伺視間隙，兵不足分，於是但鳴鼓戒眾，若將追者。肇眾凶懼，悉解甲挺走，抗使輕兵躡之，肇大破敗，羊祜等也引軍而還。
戰後，楊肇因戰敗之責，被罷免官職，成為平民。
在潘安的《荊州刺史東武戴侯楊使君碑》中，稱此戰楊肇是“懸軍深入，親薄寇壘，躬行天誅；既而救兵不進，糧盡道窮，因乃憮然回慮，殿其眾而返。”戰後雖因戰敗被貶，卻是“天下服其勇，世主思其忠”。
成為平民後的楊肇在家閉門不出，研究儒術，於275年病逝，他死後，司馬炎對他的死表示哀傷，並派遣謁者，祠以少牢，並謚曰戴侯。
軼事典故
楊肇與潘安的父親潘芘是好友，在兩家交往中，潘安在十二歲時便被楊肇所賞識，並招其為女婿，將自己女兒嫁給了潘安。潘安也不負楊肇的所望，最終成為著名的文學家。楊肇去世後，潘安為他寫了誄文《楊荊州誄》， 並且立碑《荊州刺史東武戴侯楊使君碑》紀念， 又作《懷舊賦》來懷念楊肇父子。 潘安為楊肇所作的此三篇作品至今尚存。
後世影響
民國時期書法家譚延闓，曾學習東武（楊肇為東武伯，故稱東武）的書法。
家庭成員
祖父
•楊恪，字仲義，魏驍騎將軍。
父
•楊暨，魏國大臣，官至中領軍。
子女
•楊潭，字道元，楊肇長子，東武康侯，善草隸。
•楊歆，字公嗣，楊肇次子。
•楊容姬，潘岳（潘安）妻，楊肇長女。
•楊氏，任護（字子鹹，樂安人，奉車都尉）之妻，楊肇次女，潘岳曾為其作《寡婦賦》。
孫
•楊彧，字長文，楊潭長子。
•楊綏 （一作楊經） ，字仲武，楊潭次子，母為鄭默之女， 善草隸。
歷史評價
潘岳：詳見《楊荊州誄》。
山濤：肇有才能。
