1938年1月10日，在阜平召開了晉察冀邊區軍政民代表大會，到會共各界代表149人，代表會會議共開了6天。大會通過了政治、軍事、財政、經濟、文化、教育、群眾運動、婦女運動等七個決議案，使晉察冀的各項工作有了初步的行動準則。稍後，新成立的晉察冀邊區政府――臨時行動委員會又先後擬定了邊區政府組織法，優待抗日軍人家屬暫行辦法、減租減息暫行條例、區、村、鎮公所組織法及村、鎮長選舉法等法律、法令。
3月20日，邊區政府宣布成立晉察冀邊區銀行，發行邊區貨幣，這對日後的經濟鬥爭發揮了很重要的作用。
1937年9月9日，八路軍120師除留下718團和幾個直屬營保衛河防和陝甘寧邊區外，主力第358、第359旅（欠1個團）和教導團共8227人，在賀龍率領下，東渡黃河，向抗日前線挺進。此時，日軍已占大同、察南、晉北地區，並分兵三路向太原進攻。
鑒於敵情發生變化，根據毛X東的意見，決定變更原定八路軍全部去恒山的計劃，改為3個師分開配置。八路軍總部指示，第120師以寧武、神池為中心，在五寨、苛嵐、嵐縣、河曲、偏關、保德一線地區組織和武裝群眾，進行遊擊戰爭。再派一支部隊出雁北，到敵後開展遊擊戰爭。
賀龍即率部進入管涔山區的晉西北山區。晉西北地處黃河沿岸，有寧武、神池、保德、興縣、五寨、苛嵐、嵐縣、河曲、偏關、靜樂、臨縣、離石等縣。這一地區土地貧瘠，糧食產量低，百姓貧困。9月28日，賀龍主持召開軍政委員會議，決定協助友軍，打擊日寇，發展晉西北遊擊戰爭。建立晉西北與雁北抗日根據地。
太原失守以後，毛X東指示八路軍由正規戰全麵轉為遊擊戰。賀龍、關向應等即率第120師在汾陽、離石公路以北、同蒲路以西的晉西北全境，展開遊擊戰。同時進一步開展地方工作。在此期間，他們指揮部隊先後攻占了平社、豆羅、關城鎮、石嶺關、麻會等據點，襲擊了舊關、井陘、原平、太原飛機場和火車站，殲日寇500餘人，完全切斷了正太路、同蒲路、太原至忻縣的鐵路和公路。
1937年底，對部隊進行了整訓和整編工作。經過整訓和擴編，第120師已由出發時8200多人擴大到2.5萬人。全師由每旅2個團發展成了3個團，宋時輪支隊也由1個營擴大到5個營。
作為華北遊擊戰爭骨幹和支柱的八路軍，東渡黃河時全軍隻有2萬8千餘人，其中第115師1.4萬人；第120師8200多人，第129師6千多人。進入抗日前線後，各部隊在創建自己的根據地的同時，大力擴大和充實武裝力量。各師派出大批幹部，到自己活動範圍的人口稠密地區進行擴軍，到1937年底，八路軍擴大到8萬多人。晉西北、晉西南、晉察冀和以太行、太嶽為中心的晉冀豫抗日根據地都有了一定的基礎。
1934年10月，中央紅軍長征開始以後，在中央蘇區設立中央分局、中華蘇維埃共和國中央政府辦事處和中央軍區。項英擔任分局書記和中央軍區司令員，陳毅擔任中央政府辦事處主任。紅軍第24師和10多個獨立團，及地方部隊都留下來了，加上3萬多名傷病員，共有4.6萬多人。
紅軍主力長征後，在國民黨軍隊優勢兵力的進攻下，紅軍第24師等部隊遭受嚴重損失。但是，留守下來的指戰員們克服各種困難，轉移到南嶺山脈繼續開展遊擊戰爭。這些區域的遊擊戰爭槍聲不斷，蘇區始終是國民黨政府的一塊心病。
紅四方麵軍和紅25軍長征後，鄂豫皖蘇區重組了紅28軍，在高敬亭等人領導下，一直堅持在鄂豫皖進行遊擊戰爭。西安事變發生後，毛X東主持下的中共中央推動了西安事變和平解決。當時，要改編的不僅有經過長征到達陝北的主力紅軍，還有湘、贛、粵、浙、閩、豫、鄂、皖8省的紅軍遊擊隊。
1937年8月18日，蔣介石同意紅軍改編為國民革命軍第八路軍。但對於南方8省的紅軍遊擊隊，仍不肯給正式番號，不承認其合法地位。在這特定環境下，紅軍遊擊隊又經過了半年多艱苦、複雜的鬥爭，不斷挫敗國民黨軍隊的清剿。於是，蔣介石改變方法，企圖通過“談判”改編。
在這重大的轉折關頭，中共中央針對兩黨談判中堅持的獨立自主的原則，拒絕國民黨派人到遊擊隊中任職；遊擊隊駐地應背靠有險可守的山地，不能無條件地完全集中，不與國民黨軍隊、民團混雜；嚴防國民黨軍隊的暗算、襲擊和破壞。
早期中共的軍事領導人葉挺，也為紅軍遊擊隊改編而奔走。當時葉挺在上海，8月13日，日本侵略軍大舉進攻上海，對上海市區狂轟濫炸。久經戰陣的葉挺將軍登上寓所屋頂，當他看到奮起應戰的中國機群英勇搏擊時，心中油然升起一種奔赴抗日前線，為國殺敵立功的激情。不久，葉挺去找陳誠，表明希望參加改編南方的紅軍遊擊隊。陳誠時在上海指揮作戰，聽了葉挺的一番話後表示同情，答應由他出麵向蔣介石疏通。
蔣介石正在上海指揮淞滬會戰。上海、南京的嚴峻形勢令他發愁，對於陳誠的建議，蔣介石較為重視。正在同國民黨談判的葉劍英，也同葉挺聯係，共同磋商紅軍遊擊隊的改編問題。
9月下旬，葉劍英、博古等人一起與國民黨代表談判，商定把南方8省的紅軍遊擊隊主力編為1個軍。經過中共中央的努力，加之日軍進攻上海，威脅南京。國民政府同意與中共達成紅軍遊擊隊改編的協議。
葉挺在上海同陳誠談話時，建議成立1支名為“國民革命軍新編第四軍”的正規部隊，共同抗日。葉挺提議把紅軍遊擊隊改編後的部隊稱為新四軍，是希望這支部隊，繼承北伐戰爭時期的國民革命軍第四軍的優良傳統。“老四軍”是北伐時期的一支很有名氣的部隊，葉挺對這支部隊有一種特別的感情。蔣介石接受了葉挺的這一建議，隻是加了“陸軍”兩個字。
1937年10月12日，國民政府軍事委員會宣布，南方8省13個地區的紅軍遊擊隊，改編為國民革命軍陸軍新編第四軍，簡稱新四軍。
國民革命軍陸軍新編第4軍由葉挺任軍長、項英任副軍長、張雲逸任參謀長、袁國平任政治部主任。新四軍編有第1、第2、第3、第4支隊、江北遊擊縱隊，遊擊支隊等部隊。
第1支隊司令陳毅、副司令傅秋濤；第2支隊司令張鼎丞、副司令粟裕；第3支隊司令張雲逸；第4支隊司令高敬亭。全軍10個團，1個特務營，約1萬餘人，槍6200支.。