1938年10月,日本侵略者攻占武漢後,中共地方組織即在鄂豫皖發動民眾,開展抗日救國鬥爭。1939年1月,李先念領導的新四軍獨立游擊大隊從河南竹溝出發,挺進鄂中。4月,與信陽挺進隊一部合編為新四軍鄂中游擊支隊。1939年11月,新的中共豫鄂邊區委員會成立,邊區各武裝力量統一整編為新四軍豫鄂挺進縱隊,李先念任司令員,朱理治任政治委員。以白兆山、大悟山為中心的豫鄂(也稱鄂豫)邊抗日根據地初步創立。
1944年10月,中共鄂豫邊區委改稱中共鄂豫皖湘贛邊區委,並成立了鄂豫皖湘贛軍區,由新四軍第五師師部兼軍區領導機關。