繼蘇維埃革命政權成立後，迅速組建起農民赤衛隊，在政府裏還設立了農民委員會、士兵委員會，以及郵政委員會等機構。為了保衛紅色根據地，鞏固工農民主政權，蘇維埃阜平縣政府在紅二十四軍的大力幫助下，很快逮捕和處決了一些土豪劣紳。縣裏有個惡霸大地主叫趙義，人稱“二知縣”，又叫趙大吹，他家裏就設“公堂”，在大門上還掛著打人棒，哪個佃戶“得罪”他，捆來就審就打，在縣裏無人不曉，無人不怕。這次，趙義被蘇維埃縣政府逮捕（後被鎮壓），同時還槍決了保安團頭子二郎成，這就成為全縣的一件大喜事，人心大快。與此同時，還在境內肅清了一部分殘餘的反革命武裝，在五丈灣、王快鎮一帶消滅了民團，解散了保安隊，沒收了地主鄉紳的武器等。
為了給開展土地革命作準備，紅二十四軍和蘇維埃縣政府、各群眾團體，還聯合組成工作組，深入到部分村莊進行土地調查和階級狀況調查，登記土地、產量，以及人口、牲畜數量等。紅二十四軍宣傳隊還在這些村莊裏，通過張貼宣傳畫、漫畫以及演出活報劇等多種形式，揭露地主階級殘酷壓迫剝削農民的罪行。準備下一步就要發動群眾分田分地，實現耕者有其田。蘇維埃縣政府還積極興辦小學，紅二十四軍政治部派人幫助編寫了課本。第一課是：“人，你是人，我是人，人人讀書，做好人。”第二課是：“窮和富，為什麼多數人窮，少數人富……。”為此有一首民謠在傳唱：“窮人上學堂，感謝共產黨。邊學習，邊站崗，準備打老蔣。”
經過上述一係列的工作，阜平縣的廣大群眾對紅二十四軍有了真切的認識，深深感到在政治上、經濟上確實翻了身，極大地激發了他們的革命積極性，除積極參加各項工作外，還掀起了踴躍參加紅軍的熱潮。10多天裏就有500多名青年參軍。剛入伍的戰士，個個衣帽整齊，每人都圍著紅巾，英姿煥發，給紅二十四軍增添了一批有生力量。
紅二十四軍曾將這段工作的情況向中共山西特委送過報告。為了防備敵人的檢查，這個報告是采用普通書信方式寫的。它巧妙的用一個放假回家的在校學生的口氣，以他回鄉所見所聞給學校老師寫信的方法，比較具體的彙報了工作情況。首先描寫這裏的風景，意在說明這裏的形勢。然後又寫在街麵上看到群眾集會開倉分糧，接著又寫看到了縣政府的門口換了一個蘇維埃政府的牌子等等，用此方法報告他們的工作狀況，表示他們正在站穩腳根要建立革命根據地的決心。
紅二十四軍如火如荼的革命活動，蘇維埃阜平縣政府的出現，如晴天霹靂，震驚了冀晉大地，震驚了整個北方，它像一把利刃插入了敵人的心髒，國民黨反動派不寒而栗，惶惶不可終日，在很短的時間內，北平、天津的《益世報》竟連篇累牘地發表消息報導、社論等文章40餘篇。他們驚呼這是“江西第二”、“北方之朱毛”。天津《益世報》在一篇題為《高部變兵，急應剿滅》的社論中這樣寫道：“高部兵變，一部首開其端，他部不難步其後塵。而竄人太行，則其形勢較之江西廣昌寧都，尤為險要……太行山脈，蜿蜒千裏。北可經蔚縣入宣大，橫截平綏一線。南可出井陘，掠石邑，斬斷平漢要衝。下臨則易定可取，遠征則平薊可窺……假使有共軍千人，則不久即能滿萬。候其羽翼養成，則包圍無所施，竄擾不及防。較之江西，有過之無不及也。故吾人於高部變兵之深入冀境認為情勢已極為嚴重。張副司令（指張學良）統兵華北，有維持治安之責，即應迅派大軍，相機剿滅，以免貽害於將來。”