阜平縣位於太行山東麓，與山西省五台縣緊鄰。全境起伏的群山連綿，山陡溝深，山地占境內麵積的75%，境內最高山峰為歪頭山，海拔2286米，綿亙縣境南北。東西橫貫一條大沙河，將縣境分為南北兩大塊，縣城位於大沙河北岸，大脈山的腳下。阜平是從河北平原進入山西的交通要道，可直逼北平（京）、天津、保定、石家莊，以及太原、大同等戰略要地。由於土地貧瘠，交通閉塞，長期處於封閉狀態，加之自然災害頻繁，軍閥連年混戰，地主豪紳又殘酷掠奪，阜平縣的廣大人民群眾長期處於饑寒交迫的水深火熱之中，受到痛苦的煎熬。縣城內住有500多戶人家，地主、豪紳、官吏以及商戶多集中於此。阜平縣是中國共產黨開展工作較早的地區之一。1926年就建立了城關、城南莊黨的支部組織，在一些村莊開展了農民運動，陸續成立農民協會的組織，因而有著較好的群眾基礎。
當紅二十四軍大隊人馬向阜平縣城逼近的時候，城內已經亂成一團。縣保安團、巡警隊慌忙整理隊伍，檢修槍械，做抵抗紅二十四軍的準備。一些地主、豪紳和官吏們則驚慌失措地往山裏運財物藏東西，甚至全家老小一齊往城外逃。一些窮苦百姓和商戶，也摸不清頭腦。當時群眾還從來沒有聽說過什麼是紅軍，在人們的傳統觀念中，認為軍隊和土匪也差不多，無非是殺人放火，搶劫奸淫，無惡不做。因此，聽說有大兵快到了，自然也顯得驚慌害怕，有的人也跑到城外的山溝裏暫時躲藏起來，看看究竟再說。
7月17日，紅二十四軍進入阜平境。阜平縣縣長企圖負隅頑抗，命令保安團300多人到城南白石嶺阻擊紅軍。紅軍一方麵向敵軍正麵進攻，另一方麵分兩路迂回包抄敵人。紅軍戰士奮武揚威，個個如出林乳虎，一邊高喊著：我們是工農紅軍，你們快投降吧！一邊奮不顧身地向敵人發起衝鋒。敵保安團這支從未打過仗的懶散隊伍，哪裏經得住紅二十四軍的打擊，頓時個個都嚇得魂飛魄散，丟盔棄甲，抱頭鼠竄。敵縣長和下屬官員也紛紛棄城而逃。第二天，部隊到達阜平縣城，在城南關的沙河灘上舉行了入城的動員大會。紅二十四軍的軍政領導分別做了動員講話，他們要求部隊進城後嚴格執行紀律，要公買公賣，絕不允許擾害百姓，要按照革命綱領發動群眾開展鬥爭。然後，部隊在縣城內外分頭駐紮，一縱隊駐縣城附近，二縱隊駐東、西莊一帶。
在紅二十四軍向阜平進軍的同時，中共保定特委根據中共北方局的指示，已派人先期到達阜平縣，會同當地黨的基層組織一齊前來迎接紅軍部隊。紅二十四軍的領導同誌與地方黨組織的同誌會麵後，相互介紹了有關情況，並研究了近期的工作計劃。中共中央曾對工農紅軍的基本任務做出過明確的指示，即是：第一，發動群眾鬥爭，實行土地革命，建立蘇維埃政權；第二，開展遊擊戰爭，武裝農民，並擴大自身組織；第三，擴大遊擊區域及政治影響於全國。根據黨中央的指示精神，他們研究認為，當前紅二十四軍的任務應當是，在隨時準備迎接作戰的同時，部隊的中心工作，要放在發動群眾、組織群眾，準備建立蘇維埃政權方麵。
紅二十四軍進入縣城後，馬上就展開了大張旗鼓的宣傳活動，蓋有紅軍鮮紅印章的安民告示，以及紅紅綠綠的標語、傳單貼滿了大街小巷。紅軍戰士不僅不搶不奪群眾財物，而且還幫助群眾挑水砍柴，清掃街道院落。人們看到個個脖子上都圍著一條紅巾的戰士，態度和藹可親，見人先笑，大娘大伯的叫聲不離口。城裏的男女老少都用既感動又詫異的眼光望著這一切，心裏在納悶：這也是軍隊嗎？這是什麼軍隊從來沒聽說過？他們和國民黨的“白軍”，和一年來一次的土匪“黑軍”，怎麼完全不一樣呢？再加上他們看到那些地主惡霸和官吏，一聽說這支部隊要來，便嚇得屁滾尿流逃之夭夭，足見這個隊伍既不同於“白軍”更不像“黑軍”。人們由開始害怕到懷疑，而逐步敢於接近，以至幫助。有一些老年人主動組織起來，幫助部隊做飯、安排住房等等。人們一傳十，十傳百，原來因害怕而躲藏的群眾很快都回來了，街麵上的店鋪也敢開門了，集市也逐步恢複了。
阜平縣連年遭災，加上地主、兵匪的掠奪，老百姓家中幾乎沒有什麼多餘的存糧，又逢青黃不接之時，有不少人家已經斷炊。於是，紅二十四軍便把開倉放糧濟貧當成當務之急。進城第三天便召開群眾大會，宣布要開倉放糧。在大會上，人們隻見一個個頭不算高，白淨的臉，濃眉毛大眼睛、很精幹的年青軍官，正站在土台子上講話。下邊黑壓壓的一片人，都瞪著好奇的眼睛，靜悄悄的聽著。這正是紅二十四軍政委穀雄一在講話，他說：“鄉親們，今天要給大家分的糧食，你們知道這是誰的嗎？這些糧食既不是國民黨的，也不是地主官僚的，本來就是咱們勞苦大眾種田人的，是咱們窮人用血汗換來的。多少年來，反動軍閥、地主老財騎在我們的頭上，壓迫我們、剝削我們，咱們窮人風吹日曬，千辛萬苦種糧食，到頭來卻吃不飽穿不暖，打下的糧都被他們不勞而獲霸占了。今天就要把他們霸占的這些糧食歸還給咱們窮苦百姓，這叫物歸原主。我們是工農紅軍，是中國共產黨領導的革命軍隊，也是我們勞動人民的子弟兵。我們要打倒那些地主惡霸、貪官汙吏，為咱們窮人打天下，咱們還要成立自己的政府，勞苦人民自己起來當家作主，以後還要沒收地主的土地，分給咱們種田人，再也不受他們的壓迫和剝削了。”站在台下的人們，開始懷著好奇的心情，直眉瞪眼的聽著，可是越聽越愛聽，好像句句都說到自己的心坎裏，這些都是過去自己敢想而不敢說的話。人們聽著聽著不覺個個舒眉展眼，人人眉開眼笑。有些飽經滄桑的老人，不禁感動得熱淚盈眶。這時，有人竟情不自禁地大聲歡呼：咱們窮人的大救星來啦！紅軍萬歲！一時群情激動，萬民歡騰。