芍陂是我國古代四大水利工程（芍陂、漳河渠、都江堰、鄭國渠）之一，創建於春秋楚莊王時（前613—前591年），距今已有2500多年的歷史。據《後漢書》和《水經注》記載，芍陂為楚相孫叔敖所建。今安豐塘北岸有孫公祠，即後人為紀念孫叔敖而立，祠內殿閣儼然，碑石林立。
芍陂選址科學，工程布局合理。據《安徽通志·水系稿》載，芍陂有三源：“一淠水，今湮塞；一淝水，今失故道；一龍穴山水”。芍陂承蓄南來充沛水源，居高臨下，向西、北、東三個方向灌溉田地，銜控1300多平方公里的淠東平原。蓄溉關係考慮十分周到。它的創建，為後起的大型水利工程，提供了寶貴的經驗。
1959年，安徽省文化局工作隊曾在安豐塘越水壩附近，發掘出漢代水利工程——草土混合結構的堰壩遺址。出土遺物中有“都水官”鐵錘，證明至少在漢代就曾設官管理此陂。
芍陂陂徑及灌溉面積，古代記載，多不相同。《後漢書》、《通典》、《太平御覽》、《太平寰宇記》、《無和郡縣誌》等書都說：“陂徑百里”，或“凡逕百里”、“芍陂周二百二十四里”，或“周二百里”。酈道元《水經注》則說“芍陂周一百二十許里”。夏尚忠《芍陂紀事》亦載“周圍凡一百餘里，此孫公當日之全塘也。”酈注和夏紀所載陂周相當，考之地望，較為可信。芍陂灌溉面積，在籍所載，也多分歧，多數是“灌田萬頃”，最多的說“數萬頃”，少的說“五千餘頃”以至“數百頃”。
芍陂興建後，歷代都有修治，東漢王景、劉馥，晉劉頌，南北朝劉義欣，隋時趙軌，以及其後宋、元明清名代均有修竣。由於歷代豪強搶占，戰亂頻繁，到建國前夕芍陂灌溉面積已不足8萬畝。
新中國成立以來，芍陂灌區人民在黨和政府的領導下，艱苦奮鬥，對芍陂進行了綜合治理，溝通了淠河總乾渠，引來了大別山區的佛子嶺、磨子潭、響洪甸3大水庫之水，成為淠史杭灌區一座中型反調水庫，蓄水1億立方米，灌溉面積63萬畝。灌區糧產量6億斤以上。1983年被列為國家商品糧基地重要水利設施後，越來越受到世界各國的注目。近年來，美國、羅馬尼亞、西德及聯合國大壩委員會的專家、學者前來參觀，國內前來考察的專家了民絡繹不絕。
1986年，安徽省人民政府公布芍陂遺址為安徽省重點文物保護單位。
1988年，國務院將其公布為全國重點文物保護單位。
