1955年12月,何玉轉業到紫金縣。先後任縣百貨公司副經理、縣醫藥公司經理、縣商業局幹部科長。1960年1月任縣商業局副局長。他始終保持老紅軍艱苦樸素的本色,1981年,惠陽地區為老紅軍建造了“紅軍樓”,要他去住,他不去,寧願在紫金住得艱苦些;他辦事廉正,工作勤懇,聯繫民眾,受到廣大商業職工尊重。
1982年4月,何玉病重住院。他反覆囑咐守護在身邊的同志和親人:我一生只是為黨為人民做了一些應該做的工作,與千千萬萬的革命先烈比起來微不足道。去逝後,不要舉行遺體告別,不要開追悼會,不要送花圈。高尚情操,溢於言表。同年5月1日,在縣醫院病逝,終年73歲 。