背景
1938年春，中央要求新四軍派出先遣部隊到江南偵察敵情，創建以茅山為中心的蘇南抗日根據地，為主力部隊向敵後發展創造條件。4月24日，毛澤東電令新四軍副軍長項英，強調“須派電台及一有軍事知識之人隨去”。剛剛到達皖南岩寺集中的粟裕被任命為先遣支隊的司令員兼政治委員，4月28日他率先遣支隊出發，揭開了新四軍東進抗日的序幕。
此時的江南早已淪陷，國民黨幾十萬大軍不戰而潰，日軍如入無人之境，燒殺淫掠。飽受蹂躪的老百姓以為先遣支隊是吃了敗仗的國軍，不準進村，甚至開槍自衛。粟裕命令部隊在野外露宿，以乾糧充飢，遇到下雨無處躲避，寧肯澆成“落湯雞”，也不擾民。
粟裕派出3個組對常州、南京、鎮江方向偵察，了解江南平原的地形及風俗民情，摸清敵人的軍事部署和行動。
經過
為了振奮江南民眾的抗日情緒，粟裕決定主動出擊，打個勝仗。經過多次偵察，他把戰場選在韋崗。韋崗位於鎮江西南15公里處，是鎮（江）句（容）公路必經之地，每天有五六十輛日軍汽車通過這條公路。
6月15日，粟裕帶隊進至南京、鎮江間的下蜀鐵路段，執行破壞京滬鐵路的任務，破路後，即率部直奔韋崗設伏。6月17日，雨霧蒙蒙，公路彎曲，5輛日軍汽車一個接一個地鑽入了伏擊圈。粟裕一聲令下，新四軍機、步槍齊發，手榴彈猛擲，激戰半小時，斃日軍十餘名，傷數十名，擊毀汽車4輛、繳獲長短槍10餘支。
江南首戰告捷！新四軍一支隊司令員陳毅聞訊，當即口占七絕一首：“故國旌旗到江南，終夜喧呼敵膽寒，鎮江城下初遭遇，脫手斬得小樓蘭。”國民政府軍事委員會也發來嘉獎電：“葉軍長：所屬粟部，襲擊韋崗，斬獲頗多，殊堪嘉尚。”韋崗戰鬥的勝利打破了日軍不可戰勝的神話，樹立了新四軍在江南的威望。
後續行動及影響
6月下旬，勝利完成先遣偵察任務的粟裕回到二支隊，率所部在京蕪鐵路以東、京杭國道以西迅速部署。為配合正面戰場的武漢會戰，新四軍二支隊作戰百餘次，兵鋒直指南京近郊機場、麒麟門和雨花台，還首次生俘日軍一名。
新四軍的頻繁活動，迫使日軍將寧、鎮、蕪地區的兵力由不足3個聯隊猛增到2個多師團，據點則由20多個密布至百餘個。8月22日，日、偽出動重兵，分8路水陸並進，企圖聚殲位於小丹陽的新四軍二支隊。粟裕接到情報，馬上率部隊跳到外線，變被動為主動。他分兵三路，一路出擊當塗；一路進襲南京以南的陶吳；一路奪占南京雨花台制高點，攻擊中華門敵目標。新四軍一支隊和地方武裝也將各條公路悉數破壞，兵逼南京麒麟門。到達小丹陽的日偽軍，得知後方告急電報，驚慌撤退。粟裕抓住戰機，回攻退敵，斃敵50餘人，粉碎了日軍的合擊計畫。
粟裕在三年游擊戰爭中練就的游擊戰術，在蘇南敵後發揮得淋漓盡致，奇襲官陡門可謂游擊戰之經典。官陡門位於安徽蕪湖附近，駐有偽軍200餘人，河溝縱橫，易守難攻，周圍都是敵軍據點，距離最近的僅8里路。粟裕卻說：“敵人認為最安全的地方，也正是我們出奇制勝的地方。”1939年1月18日，他率二支隊三團出發，且行且止，迷惑敵人，於20日晨進至官陡門以西35公里處隱蔽。傍晚三團再次出發，21日4時抵官陡門，分兩路發起攻擊。此時敵軍尚在睡夢中，三團僅用8分鐘就攻占了偽軍司令部。20分鐘後，部隊已帶著57名俘虜和繳獲的武器彈藥踏上歸途。
新四軍二支隊挺進江南敵後不到一年時間，軍事上打擊了日軍，政治上擴大了影響，部隊也得到了發展，從1700餘人迅速擴大到6000餘人，作戰範圍南至高淳、郎溪，西南抵蕪湖，東北到鎮江、金壇。
1939年11月7日，由新四軍一、二支隊組成的新四軍江南指揮部在溧陽縣水西村正式成立，陳毅任指揮、粟裕任副指揮。兩人一個長於謀略，一個精於戰術，合作堪稱珠聯璧合。就在江南指揮部正式成立的當夜，寶堰日軍一個加強中隊突然出動攻擊延陵，卻撲了個空。次日下午，在陳毅、粟裕指揮下，王必成團在賀甲村將回撤的日軍攔截包圍，斃敵168人，開創了江南敵後殲敵的新紀錄。
到1939年初，江南新四軍在敵後建立起茅山等10多塊小型游擊基地，擁有人口40萬，為蘇南抗日根據地的發展奠定了堅實的基礎。
