與此同時，劉少奇領導北方局，用極大的力量，重建和加強遭受嚴重破壞的華北各地的黨組織。北平、天津兩個市委很快就健全了；河北省京東、津地、保屬、直南等地區的黨組織都恢複了；山東省委、山西工委和河南工委也先後成立起來；還根據中央交給的任務，派幹部到華中、華南一些地區協助恢複黨的組織。一年多的時間裏，華北地區的黨員，發展到5000多名。黨領導下的華北各界救國聯合會成立了。由華北的一些進步團體發起，又在上海成立了全國各界救國聯合會。以平、津為活動中心的民族解放先鋒隊，很快擴展到全國的大中城市。在華北地區，北平、天津和各省出現了大批宣傳隊、戲劇隊、歌詠團和下鄉工作隊等等，抗日救亡運動迅速活躍起來。
黨的正確主張，也影響到國民黨軍政係統的上層人物。當時，蔣介石實行不抵抗主義，多次命令駐北平的二十九軍軍長宋哲元撤退到保定。宋猶豫不定。劉少奇親自起草了主張抗日救國的三條意見，通過二十九軍的一位參謀處長作為自己的意見拿給宋看，宋認為很好，就沒有執行撤退的命令。那時候，北平的愛國學生還喊“打倒賣國賊宋哲元”的口號，少奇同誌派人勸大家改喊“擁護宋哲元將軍抗日”，“擁護二十九軍抗日”。
不久，宋哲元和二十九軍的廣大愛國官兵就轉上了同情抗日救亡運動的立場。
從1936年春到“七七事變”，隻有十幾個月的時間，劉少奇果斷地糾正了“左”傾錯誤路線，使黨組織恢複和發展了，黨的領導加強了，群眾發動起來了，抗日統一戰線工作開展起來了，創造了黨在白區工作中前所未有的成績。黨中央對北方局的這一段工作，評價很高。當時，中央書記處在給北方局和河北省委的一封信上說：“我們認為北方黨的工作，自胡服同誌到後，有了基本的轉變”，“這些主要轉變，足以奠定勝利的基礎，開展著光明燦爛的偉大前途。”
在劉少奇來到北方局工作的時候，薄一波和一些同誌還被關在北平的國民黨監獄裏，獄中的黨支部，組織他們學習了1935年黨中央政治局瓦窯堡會議的決議和毛澤東的報告，又學習了劉少奇的文章。大家注視著華北和全國出現的新形勢，看到了黨領導的革命事業，經過艱苦鬥爭和多次挫折之後，重又展現出廣闊天地和勝利曙光！
當時，擺在華北地區黨組織麵前的首要任務，就是堅決執行黨中央瓦窯堡會議的決議，開展抗日民族統一戰線的工作，廣泛發動群眾，壯大進步力量。在這一工作中，既要團結反日基本力量，又要通過談判、協商和必要的妥協、讓步，爭取其他黨派和無黨派人士中可能合作的分子。於是，北方局把當時可能抽調的幹部都陸續派往華北各省、市。薄一波和幾位同誌一起被派往山西。
1936年8月下旬，薄一波剛從監獄出來，閻錫山的代表來見他，拿著閻的電報，邀他回山西，“共策保晉大業”。他過去一直做黨的秘密工作，沒有做過上層的統戰工作，也不願意同閻錫山打交道，所以婉言謝絕了。
過後，把這件事報告了北方局。第二天，徐冰來告訴薄一波：“胡服同誌說，機會難得，要去！”又告訴我，劉少奇還指出：不想去，大概還是認為我們不能同閻錫山合作抗日，隻應當做基層群眾工作，不應當搞上層工作，這也是對形勢認識不足。一定要看到，現在形勢正在發生大的變化，日本要滅亡中國，蔣介石繼續搞不抵抗主義，閻錫山在動搖中。當前，黨的任務是，既要搞好基層群眾工作，又要搞好上層統一戰線。閻錫山找你去，是個好機會；找上門來，不去，就失掉了這個好機會。
9月，薄一波來到太原，找到做地下工作的同誌，並通過各方麵的關係，包括一個同閻錫山曆史淵源很深的老軍閥，進行了四十多天的調查研究，對山西情況有了進一步的了解，他深深地體會到劉少奇同誌對形勢的估計和提出搞好上層統一戰線工作的要求，是非常正確的。隨後，他見了閻錫山，表示回山西幫助搞抗日救亡工作，還要同遠方朋友商量商量。閻錫山完全意識到他是要向黨組織請示去的，表示理解。他返回北平作了彙報，北方局分析了山西的情況和閻錫山的動態，研究了今後的行動方針。
閻錫山是一個老奸巨滑的封建統治者，是個地方實力派。他在山西經營了20多年，在“西北實業公司”的名義下，辦了35家大企業，修了同蒲路，還有銀行、錢莊之類。
他的家當和他的勢力都在山西。他總是要千方百計保住這些的。當時，閻錫山處境十分困難，經濟破產，民怨沸騰，統治搖搖欲墜。日本侵略者向華北步步緊逼，山西不可避免地要遭到日軍的進攻。在這種情況下，閻錫山和日本侵略者的矛盾，就成為主要的、不可調和的矛盾，而且隨著日軍的進逼而激化。
與此同時，閻錫山還有同蔣介石的矛盾，在反共這點上，雖然他們是一致的，但蔣介石一直想吃掉山西，一麵暗地策動河東道獨立，一麵收買閻的高級軍官，挖山西的牆腳。在這種情況下，閻和蔣的矛盾也激化了。
這時，在閻看來，降日、迎蔣都不是好辦法，抗日、拒蔣又沒有力量，他不得不尋找暫時的同盟者，借用我黨的力量。1936年紅軍東渡黃河開赴抗日前線，使閻錫山感到共產黨也是一個很大的威脅，同時，他又看到共產黨要搞抗日民族統一戰線，認為聯共可能還是一條出路。在他的頭腦裏，聯共和反共是並行不悖的，隻是次序先後和分量輕重的問題。於是，想出了一條計策，就是打起抗日的旗號，用上一批共產黨員，依照共產黨的辦法，采取某些暫時性的進步措施，擴充實力，去對付日本人和應付蔣介石，同時和共產黨周旋，目的是保持他對山西的統治。閻錫山說過：“同共產黨搞統一戰線，這中間有風險。但是，不跟共產黨合作，又有什麼辦法呢？現在我隻有用共產黨的辦法，此外都不能抵製日本人和蔣介石。我是用共產黨的辦法削弱共產黨。”
盡管閻錫山有自己的打算，對抗戰是動搖的、不徹底的，但是，他表示願意抗戰和同我們合作，這一點還是好的。因此，北方局認為，應當從抗日救亡的大局出發，積極地爭取他、推動他抗日，並且通過合作來發動群眾，壯大進步力量。劉少奇提出對閻錫山的方針是：與閻合作抗日，並且開展群眾運動，同時又要提高警惕性，隨時都戒備他來反對我們和群眾；要盡可能地通過閻的組織形式，例如“山西省犧牲救國同盟會”，去進行工作，但又不受他的框框的限製。
經過分析研究，北方局認為在山西大有可為，決定加派楊獻珍、董天知、韓鈞、周仲英等同誌同薄一波一起，第一批去太原。臨行前，徐冰傳達了劉少奇對他們的指示：
一、這次到山西去，首先要爭取站穩腳跟。不要搞“左”傾冒險主義和空談主義，不要提閻錫山根本不能接受的口號，不要怕到上層機關去和戴“官辦團結”的帽子。二、要踏踏實實地做群眾工作，發動群眾，組織群眾。不能做“清客”，不要“抬轎子”，要爭取抗日民族革命的領導權。三、決定成立做山西統戰工作的黨的工作委員會，直接受北方局領導；同時成立山西工委，由張友清同誌負責。黨的公開工作和秘密工作完全分開。黨的公開工作要為黨組織的發展創造有利條件。
到了太原，薄一波等就同閻錫山正式談了一次。
薄一波等提出：第一，宣傳共產黨抗日救亡的主張，不應受到限製。第二，對抗日救亡有利的事情，我們都做；不利的事情，我們不做。第三，在用人方麵應給予方便，對於我們用的人，要保障安全。當時閻錫山一一同意。
為了便於發動群眾，薄一波工作一開始，就接過了閻錫山的“山西省犧牲救國同盟會”。這個組織，名義上閻錫山還是“會長”，實際上領導權很快轉到我們手裏。他們把它適當加以改組，擴大群眾基礎，通過它發動群眾、組織群眾參加抗日救亡運動。他們按照劉少奇提出的要抓實權，做實際工作，反對空談主義的方針，製定了犧盟會的行動綱領，迅速把工作開展起來，在工廠（包括兵工廠）、學校（包括軍事學校）、農村，廣泛發展犧盟會組織。為了迅速培養幹部，他們在“山西軍政訓練委員會”的名義下，辦起了“臨時村政協助員訓練班”、“軍政幹部訓練班”、“犧盟會特派員訓練隊”、“民政幹部訓練團”和“國民兵軍官教導團”等，把山西當地的和全國各地來到太原的成千上萬進步青年吸收起來，加以培養訓練。這些訓練單位，實際上成了我黨的軍事政治幹部學校，造就了一大批骨幹力量。應當指出，經過培訓的犧盟會特派員，都是比較優秀的黨員，派往各縣工作，同時擔負著黨組織交給的建黨任務。
犧盟會工作的迅速開展，引起了頑固分子驚慌。閻錫山的親信、十九軍軍長王靖國，帶領反共軍官七八十人，向閻錫山請願，要求解散犧盟會，驅逐共產黨。閻錫山對王靖國等說：你們目光短淺，看不到前途。
在劉少奇提出的正確策略原則指導下，在實際工作的過程中，我們同閻錫山建立了特殊形式的統一戰線。在閻錫山的眼裏，薄一波等是共產黨員，但又不是共產黨的正式代表，而是他請來幫助做抗日救亡工作的，用的是他的形式、他的口號，戴的是“山西帽子”，搞起來的組織還是他的。而對共產黨來說，則是利用合法形式和“官辦組織”，積極開展工作，推動閻錫山抗日，壯大抗日救亡的力量。
偉大的抗日戰爭爆發後不久，劉少奇和北方局先後來到太原，直接加強了對山西黨的工作的領導。
劉少奇來到後，立刻向薄一波等傳達了1937年8月在陝北洛川召開的黨中央政治局擴大會議的精神，為動員一切力量爭取抗戰勝利而鬥爭。劉少奇指示他們不要放鬆一刻工夫一個機會，要用極大的力量發展抗日的群眾運動，劉少奇向他們指出：一年來，你們在山西站住了腳，打開了局麵。但是，一定要看到，現在抗戰開始了，全國的政治形勢從此進入了一個新的階段。過去是準備抗戰，現在是實行抗戰，而且要從單純的軍隊抗戰，過渡到全麵的民族抗戰。因此，在我們的策略上應當有所改變。要擴大和鞏固統一戰線，放手發動群眾。“左”傾關門主義還是要反對的，但是主要的注意力應該放在防右上。當形勢不利於我們前進的時候，要善於等待，不要冒險前進；但當客觀形勢的發展，是來潮，是高漲，就不要再等待，就要大膽地前進。現在，要按照洛川會議精神，努力使自己成為抗戰的核心，不怕打破閻錫山的杠杠，要確實掌握領導權。隻有我們的力量壯大到足以控製局麵，合作才能持續下去。他批評我們當時的做法還不夠放手，還有包辦群眾運動的味道。劉少奇後來還一再強調統一戰線中的獨立自主，反對遷就主義的“一切經過”。他說過：如果所謂“一切經過”就是經過蔣介石和閻錫山，那隻是片麵的服從，無所謂“經過統一戰線”。毛澤東同誌在一次黨的會議說過：劉少奇同誌說的很對。並且強調指出：“我們的方針是統一戰線中的獨立自主，既統一，又獨立。”