新組建的新四軍槍支彈藥匱乏，多次與國民黨當局交涉均無結果。陳毅主張到敵後去自行解決。恰在這時，收到了毛X東2月15日電示：“目前最有利於發展的地區在江蘇境內的茅山。”毛X東的電示與陳毅等人的想法不謀而合。
經過深思熟慮，陳毅正式提出了向蘇南敵後挺進的計劃，經過與葉挺、項英等人商議，決定首先組織一個先遣支隊，由第1、第2、第3支隊各抽一個加強連，組成先遣支隊。由粟裕擔任先遣支隊司令員，鍾期光任先遣支隊政治部主任。盡快東進，然後由陳毅率第1支隊主力跟進，向蘇南茅山地區發展。
4月28日，粟裕率先遣支隊出發，他們順利地通過了封鎖線，並衝破了餘忠承、朱永祥、陳德功等國民黨潰軍，及土匪們的發難和阻礙。於5月19日正式進入江南敵後戰場。
5月4日，毛X東致電項英，明確指示：在偵察部隊出去若幹天之後，主力就可準備跟進，在廣德、蘇州、鎮江、南京、蕪湖5區之間廣大地區創造根據地，發動民眾抗日鬥爭，組織民眾武裝，發展新的遊擊隊，是完全有希望的。在茅山根據地大體建立起來之後，還應準備分兵一部渡江進入江北地區。在一定條件下，平原也是能發展遊擊戰爭的。條件與內戰時候有很大不同。當然，無論如何，應有謹慎的態度。具體的作戰行動，應在具體情況許可之下，這是不能忽視的。
陳毅認為，毛X東的指示及時重要，建議新四軍主力隨先遣支隊之後迅速跟進，以建立茅山根據地為第一目標。5月14日，陳毅率新四軍第1支隊由潛口到達涇縣茂林。6月1日離開南陵東進，夜間穿過日軍控製的蕪湖、宣城鐵路封鎖線，3日即抵達蘇南敵後的目的地――蘇皖邊界的高淳。
粟裕得知陳毅率領第一支隊來到蘇南敵後，即率先遣支隊向他靠近。8日在溧水會合。
陳毅與粟裕很快取得了共識，決定先抓住戰機打幾個勝仗，殺一殺日軍的凶焰，鼓舞民心士氣，戳穿日軍不可戰勝的神話。恰在這時，第三戰區司令部，向深入蘇南敵後的新四軍先遣支隊下達了破壞鎮江至南京之間鐵路，以牽製日軍進攻武漢的命令。
新四軍首戰韋崗，伏擊戰鬥打得幹脆利落，清掃戰場，計擊斃日軍少佐土井、大尉梅津武四郎以下共30餘人。擊毀汽車5輛，繳獲長短槍20餘支，鋼盔18頂，日鈔7000餘元。
6月13日，粟裕又率部在下蜀街破路成功，日軍一節火車出軌，造成重大損失。此後，新四軍又在竹子崗伏擊日軍1個中隊大獲全勝。7月1日，襲擊京滬鐵路上的新百火車站，日軍80餘人全部被殲，京滬鐵路停運1天多。8月13日，夜襲句容城，偽縣政府被搗毀。高資、新塘、小丹陽等戰鬥，新四軍頻頻告捷。
隨著接二連三的勝利和民眾抗日熱情的高漲，抗日民主根據地的建設便提上了議事日程。在新四軍第1支隊活動地區，很快建立了鎮江、句容、丹陽、金壇4縣人民抗敵自衛委員會和共X黨的工作委員會。這些表麵看是群眾組織，實則是受中共和新四軍領導的抗日行政機關，具有抗日政權的性質。負責減租減息、改善民眾生活、處理地方民政事務和為新四軍籌款籌糧、偵察帶路，救護傷員、擔負戰地勤務等等，受到地方開明紳士和民眾的支持的擁護。
在此期間，武裝力量也得到一定發展。並收編和聯合了一些地方抗日武裝。管文蔚的丹北自衛軍是其中最大的一支。陳毅親自做管文蔚的工作，擴大統一戰線，清除過左思想，管按照陳毅的指示進行工作，武裝力量發展很快，不久，丹北自衛總團擴編為挺進縱隊，成為江南新四軍的一支重要武裝。
新四軍挺進江南半年多，先後對日作戰200多次，消滅日偽軍3000餘人。多次擊破京滬鐵路和京杭、鎮句等公路，一度奪取雨花台。陳毅還親自指揮管文蔚的丹陽挺進縱隊，兩次進駐長江江心洲揚中縣，徹底解決了偽化頑軍保安第9旅賈長富團，為新四軍向江北發展搭好了跳板。
1939年初，周恩來以中共中央軍委副主席和國民政府軍事委員會政治部副部長的雙重身份，來到新四軍軍部，傳達中共六屆六中全會精神。經過兩天會議，大家認識逐漸趨於一致，確定了新四軍今後發展的戰略方針：向南鞏固，向東作戰，向北發展。
3月，陳毅立即著手部署東進北上的工作。此時的江南敵後，新四軍第1、第2支隊共有第2、第4、第6三個主力團。葉飛的第6團是半年前才調到茅山的，經多次與日軍作戰，已成為一支勁旅。
陳毅把葉飛請到指揮部來，開門見山地說：“想派你的第6團到京滬路以東地區活動，給你們改個名叫江南抗日義勇軍。你們幾個領導人的名字也改一下。另外再組建一個新6團堅持原地鬥爭，仍使用你們原先的電話，讓外人看來你們仍在原地未動。你有什麼意見？”
葉飛心領神會，響亮地回答：“沒有意見，堅決完成任務。”
葉飛態度非常明確：不能輕易改變東進的決心，軍事上不必擔心被日偽軍消滅。至於會不會刺激第三戰區的問題，刺激是那樣，不刺激也是那樣，沒有顧慮的必要。若執行軍部電令，向東作戰的計劃就無從實現。
葉飛所部不辱使命，軍紀嚴明，捷報頻傳。所部在路東不過3個月，部隊由原先500人劇增到5000餘人，槍支彈藥翻了幾翻，還源源不斷地運回茅山和皖南軍部。他們多次截斷京滬鐵路，襲擊滸墅關，一度攻進上海虹橋機場，火燒敵機4架。
在派葉飛率第6團去路東的同時，陳毅又把管文蔚找來研究如何向長江以北發展的問題，隨後又在管文蔚的陪同下，視察長江北岸焦家蕩一帶地形，聽取了挺進縱隊領導人管文蔚、惠浴宇、梅嘉生等人的彙報。一個發展蘇北抗戰局麵的“滅敵、聯李、反韓”的六字方針很快形成了。
就在江南新四軍向東發展的同時，江北新四軍也迅速向外擴展。彭雪楓在河南率領豫南遊擊隊，向東挺進，建立了豫皖邊遊擊根據地。
高敬廷的第4支隊和江北遊擊縱隊也出兵蘇皖邊，挺進淮南北，建立了蘇皖遊擊根據地。部隊都得到了很大的發展。
隨著局勢的變化，敵後抗日根據地也得到了迅速發展。應該說，就在日軍全力攻占長江流域中下遊期間，正是中共領導的敵後武裝迅速發展的大好時機。那麼，中共在這一時期又取得了哪些戰績呢？