1921年，他加入了中國社會主義青年團。1922年他在團中央和鄧中夏同志的領導下，發動組織“南京民權運動大同盟”，同年，加入中國共產黨。1923年，奉黨中央指示到徐州開展革命工作。公開身份為徐州第三女子師範教師。1924年6月，在他辛勤的工作下，發展了一批先進青年加入中國共產主義青年團，並建立了徐州地區第一個團支部，他任書記。1924年徐州團支部擴建地方委員會，他任書記，並以徐州團代表身份出席在上海召開的團三大。
1925年8月，吳肅調至鄭州豫豐紗廠從事工人運動。1926年又調南京，任中共南京地委宣傳委員。不久組織派遣他參加北伐部隊，任國民革命軍第十一軍第二十四師政治部宣傳科長。1927年參加南昌八一起義和廣州起義。其後任中共福建臨時省委委員、常委、秘書長。1930年11月，他調任中共山東臨時省委秘書長兼宣傳部長。1932年，赴上海負責互濟會救援工作，兩次遭捕第一次因查無實據，敵人只得將他釋放。第二次被捕被判刑3年6個月，關押於法租界監獄。後經柳亞子營救出獄。
1937年，吳肅來到長沙，任湘、鄂、贛邊區特委秘書。1939年任特委秘書長兼新四軍平江嘉義通訊處秘書主任。同年6月，在國民黨當局秘密指令製造的平江慘案中，吳肅慘遭殺害。
