清順治二年（1645年）由蘇州總鎮統兵駐松江後，即建立江南提督衙署於松江（也稱提督江南昭武將軍府），由李成棟任江南提督。管理蘇州、松江、常州、鎮江四府各綠營兵營的軍務。並轄有提標中營中軍參將署、提標左營游擊署、提標右營游擊署、提標前營游擊署、提標後營游擊署、提標城守營游擊署，下轄金山衛、松江所、南匯所、青村所等。
順治十八年（1661年），關中梁化風以平南明大軍北上有功，晉升為太子太保左都督，都督府仍設在松江，之後，又命為提督府。
清康熙元年（1662年），江南提督統理江南全省的軍務。
康熙十四年（1675年）設安徽提督管理上江七府（合江寧等府）營務，不久又改為江南提督管理下江七府營務，仍駐署在松江（上海的軍務也屬該提督管轄）。
康熙十七年（1678年）裁去安徽提督名義，江南提督仍管江南全省軍務。乾隆年間又循舊制管理全省軍務。時江南提督為南天祥，衙署仍駐松江。當時江南提督節制三鎮（松江府、鎮江府、常州府）、二協〔太湖協（左、右兩營）及松北協〕、本標五營（左、右、中、前、後營，編有馬兵、守兵、戰兵等約3100名兵員）以及統制各地十六營（松江城守營、鎮江城守營等）。
嘉慶八年（1803年）加安徽巡撫兼提督銜，節制安徽省軍務，江南提督的許可權又限於下江各府縣本標、協、營外，江南提督還節制狼山（含揚州營、泰州營）及蘇松（駐崇明，轄本標三營及川沙、吳淞各營）兩鎮總兵。
