1923年，丁廉考入武岡中學，翌年因缺學費而棄文從武，考入雲南講武堂。1927年，丁廉考入中央陸軍軍官學校第六期南昌分校炮科，1929年畢業，在畢業考試的1400名考生中，丁廉名列第四，任準尉排長。後任連長、營長，參加了蔣桂戰爭、蔣馮戰爭、蔣唐戰爭和中原大戰以及在江西“圍剿”中央紅軍的各次戰役。
1937年7月，抗日戰爭全面爆發，丁廉任第七十三軍第十五師第四十三團團長，隨部參加淞滬會戰，守衛瀏行，丁廉與日軍苦戰月余，英勇負傷。當時，師長之侄梁道生作戰不力，軍長下令槍斃，梁師長不好討保，恰好丁廉來了，他把“手令”拿在手中一看，知道槍決了梁道生，師長難受，丁廉靈機一動，將“手令”捲成紙捻點火給軍長抽菸，軍長裝作不知抽起煙來，這樣三蔸水煙把“手令”燒成灰燼，師長對他十分感謝。隨後，丁廉隨部參加了第一、二次長沙會戰，予日軍重大打擊。
1943年11月，日軍進犯常德，派機古師團據守熱水坑。第七十三軍奉命攻擊熱市之敵，軍長汪之斌不聽參謀長徐亞雄之言，沒派重兵扼守澧縣大堰檔，讓日軍輕易渡過澧水，丁廉團被迫後撤，從楊家溪、通津鋪過埡門關，通守慈利縣城。10月下旬，丁部來到岩泊渡，接受整編。不久，第七十三軍奉命反攻常德，首攻熱水坑，第四十三團在左翼發起進攻，二個小時占領平頂山，向縱深突破時，日軍乘南風點燃茅草，一片火海直燒過來，部隊退卻，丁廉率特務排趕了上去，大叫“不能退，”並說“如有擅自後退者就地槍決。”部隊攻擊前進，占領了縱深陣地，第二天攻下了熱水。戰後，丁團所剩無幾，只好與暫編第五師合編。
1944年夏，第七十三軍由寧鄉調赴湘鄉，途中，士兵王某搶了老百姓衣服一包，事為丁廉所聞，下令將其槍斃。湘鄉會戰後，第七十三軍第十五師追擊日軍至藍田休整，第十五師師長梁祗六免職，暫編第五師師長梁化中調任第十五師師長，丁廉調升副師長，全軍改為美械裝備。日軍投降後，第十五師擔任長沙警備，梁化中任警備司令，丁廉與第四十三團駐撈刀河，獲贈“勇敢絕倫”及“戰鬥金剛”榮譽，並獲戰區司令長官薛岳頒發的“精忠救國模範”之匾牌，並獲雲麾、寶鼎、華胄、恩勤、干城、勝利及青天白日勳章。
1946年5月，丁廉從陸軍大學第二十期畢業，評語為智勇兼備，衝鋒陷陣允為能手。王東原任湖南省主席後，把保全團隊擴編成旅，任丁廉為保全第二旅旅長，下轄保全第四團（團長雷觀壯）、第五團（團長劉磐）、第六團（團長謝成章）及旅直屬部隊，駐常德。常澧警備區司令陳子賢指派丁廉任澧縣“建碉委員會”主任委員，強征民工，在澧城、津市、鹽井等要隘，建築碉堡102座。1948年秋，丁廉任邵陽縣長。
1949年4月下旬，丁廉配合第十四軍及李彌第十師一部圍攻毓蘭賀鋤非部。5月，丁廉得悉新八軍獨立第五旅旅長鄧希文宣傳減租退押，便組織 “圍剿”。6月初，唐生智來到邵陽，在縣參議會（武聖街）開會，丁廉與會，同意參加湖南和平起義，並在同意回響程潛的和平起義紅綢上籤了字。6月中旬，尹如圭在邵東起義，丁廉調集二個保全團，三個警察大隊以及陳齊、鄧傑、匡國章、謝鵬飛等地主武裝共5000多人“進剿”。7月16日，尹如圭因叛徒出賣被俘，丁廉密令邵東警察大隊將尹如圭就地處決，並將其頭顱掛在縣政府門前示眾。8月4日，程潛、陳明仁在長沙宣布起義，丁廉鼓動成剛進攻邵陽。還派人至起義部隊封官許願，致使部分起義官兵叛變。
8月6日，黃杰飛抵邵陽，出任“湖南省政府主席”兼湘贛綏靖總司令、全省保全司令、第一兵團司令。第二天，黃杰任丁廉為第六行政督察區專員兼保全司令。丁廉以警察局長鬍惕升任縣長，鄧耀楚當警察局長，並把四個警察大隊合編為自衛總隊，由縣長鬍惕兼總隊長，將兵力集中於城郊布防。8月下旬，解放軍沿潭寶公路向邵陽挺進，在青樹坪受到阻擊，國民黨吹噓為青樹坪大捷。丁廉組織邵陽各界捐獻財物，組織慰問團，赴青樹坪勞軍。白崇禧對丁廉大加稱讚，並為他向廣州政府請頒青天白日勳章。9月中旬，中國人民解放軍第四野戰軍突破白崇禧的湘粵聯合防線，黃杰委派劉建章接替丁廉的專員和保全司令職務。10月初，黃杰率部退往往廣西。重組在武岡被殲的第六十二師，任丁廉為師長，以逃到靈川的邵陽專署及第六區保全司令部人員編為第六十二師第一八四團，將第六十三師袁錫權的第一八九團撥編到第六十二師，改稱為第一八五團，撥調第一00軍一部改編為第六十二師第一八六團，將第八十七軍黃英部撥到第六十三師，編為第一八七團，蘇值綱的第六十三師第一八八團在武岡被滅，以李中興的補充團改入，以第十四軍警衛營改為第六十三師第一八九團，任黃英為團長。10月底，解放軍由湖南綏寧經龍勝入桂，丁廉星夜前往柳城堵擊解放軍，掩護第一、四、十一兵團撤退，為中國人民解放軍所殲，丁廉率殘部逃走，並奉黃杰之命回湘西集結湘鄂黔邊區的殘餘部隊開展游擊戰爭。不久，丁廉出走香港。
1951年5月，丁廉見來到台灣，受到蔣介石的接見，委為湖南軍事專員，在香港之家屬則由台灣“大陸工作處”接來台灣。1953年，丁廉任竹子門農場場長。1987年，丁廉患老人痴呆症。1991年5月13日下午3時，丁廉因心臟衰竭病逝於台北榮民總醫院，終年86歲。5月22日，丁廉安葬於台南縣白河鎮竹子門農場丁氏墓園。
