大青山鄉名源於境內大青山山名。原屬肇州縣管轄。東北淪陷後期,設福利村。1945年“九三”抗日戰爭勝利後,1948年隸屬第十二區管轄。1956年4月,撤區劃鄉,設定民眾鄉。1958年9月,改稱民眾人民公社。1960年5月,劃歸安達市管轄,同年11月改為老江身公社。1962年6月,撤銷老江身公社,分建大青山、祝三兩個公社。1965年5月,劃歸安達縣管轄。1978年4月,劃歸安達市(大慶)管轄,隸屬大同區。1984年4月,改為大青山鄉。
大青山鄉全境屬平原區。全鄉總面積157平方公里,耕地面積8.5萬畝,以生產糧食和油料作物為主,是全區葵花籽重點產區之一。全鄉共轄大青山、老江身、國強、民眾、聚寶、發展、奮鬥、青山、雙發等9個村。1992年末全鄉總人口1.4萬人,全部為漢族。鄉政府駐地大青山村。