抗日戰爭爆發後，同周恩來、葉劍英代表中國共產黨赴南京參加國防會議，就共同抗日問題同國民黨進行談判。後任中共中央革命軍事委員會副主席，國民革命軍第八路軍總指揮(後為第十八集團軍總司令)，還兼任軍委前方軍事委員會分會(後改稱華北軍分會)書記。指揮八路軍開赴華北前線，積極配合國民黨軍對日作戰，取得平型關等戰鬥的勝利。爾後指揮八路軍各部隊深入敵後，放手發動群眾，廣泛開展獨立自主的遊擊戰爭。1937年10月，經他和彭德懷、任弼時向中共中央提議，恢複了在改編為八路軍時取消的政治委員製度，加強了部隊的政治工作。同月，率八路軍總部和第129師挺進晉東南。1938年4月，同彭德懷等指揮部隊，挫敗日軍向晉東南抗日根據地發動的“九路圍攻”，創建了晉冀豫抗日根據地。隨後，按照中共中央關於在平原地區開展遊擊戰的指示，命令第129師主力及第115師一部從太行山區挺進冀南、豫北，開展平原遊擊戰爭。根據中共中央六屆六中全會製定的戰略方針，領導八路軍鞏固和發展華北敵後抗日根據地。1938年發表《論抗日遊擊戰爭》一文，全麵論述了抗日遊擊戰爭的重大意義和各種戰法，對指導和推動敵後抗日遊擊戰爭的發展起了重要作用。1938～1939年間，他先後兼任過第二戰區東路軍總指揮和第二戰區副司令長官，曾指揮部分國民黨軍隊與八路軍一起對日作戰。朱德堅持中共抗日民族統一戰線政策，維護國共兩黨合作抗日的局麵，對國民黨軍進行細致的團結工作，爭取他們共同抗日。當國民黨頑固派軍隊製造摩擦時，則堅決進行有理、有利、有節的鬥爭。1940年2月，國民黨頑固派軍隊朱懷冰部進犯太行抗日根據地，他同彭德懷指揮八路軍主力一部，在平漢鐵路東西兩側先後進行衛(河)東戰役和磁武涉林戰役，打擊朱懷冰部，對擊退國民黨頑固派發動的第一次反共高潮起了重要作用。
1940年5月返回延安後，直接參與中共中央和中央軍委的領導工作，協助毛澤東指揮全國各抗日根據地的抗日戰爭。同年冬，首倡“南泥灣政策”，指示部隊在不妨礙作戰的條件下開荒種地，開展大生產運動。1941年10月，在延安參與發起成立東方各民族反法西斯聯盟，並被選為聯盟執行委員，從事東方各民族反法西斯的統一戰線工作。11月，根據中共中央、中央軍委決定，成立軍事教育委員會和軍事學院，他負責領導軍事教育委員會並兼任軍事學院院長。1945年4月，在中共第七次全國代表大會上作《論解放區戰場》的軍事報告，總結了中國共產黨領導革命武裝鬥爭特別是八路軍、新四軍對日軍作戰的經驗，論述中國人民抗戰的軍事路線、人民軍隊的建軍原則以及養兵、練兵、用兵的方法。同年6月，在中共七屆一中全會上，當選為中央政治局委員、中央書記處書記。蘇聯宣布對日作戰後，他同毛澤東一起領導八路軍、新四軍向日偽軍開展全麵反攻，解放了華北、華中等廣大地區。