孟津縣獲得了一些資料，弄清了當時的渡河情況：原來在濟源蓼塢村附近，日軍隻有一個據點，建有碉堡，由一個日軍小隊（16人）把守，碉堡中心區域駐防有不少偽軍，偽軍頭目名叫馬明山。
皮定均決定策反偽軍，就讓手下閔學勝（團長）去做工作。馬明山被說動，決定起義，遂設下“鴻門宴”，請日軍小隊長小島前來喝酒。小島不知是計，還沒端起酒杯就當了俘虜。趁著天黑，馬明山裝作喝醉了酒，帶著換了服裝的八路軍，來到據點前喊話：“快開門！小島隊長喝醉了！”一邊喊話，一邊把被控製的小島往前麵推了推。
日本兵一開門，八路軍就衝了進去，日軍開槍抵抗，被早有準備的八路軍擊斃12人，其餘的都做了俘虜。當地百姓很高興，說：“這個據點戳在這裏6年了！日本人經常出來禍害百姓，現在可好了，被你們拔掉了。你們要過河，俺們去備船！”他們找來四五隻大木船，80名船工輪流作業，用了一夜時間，拂曉前把隊伍渡過了黃河。
這支隊伍渡過黃河，便如一把利劍直插敵後。所謂“敵後”，就是指敵占區，在日軍占領區抗戰，就是“敵後抗戰”。當時洛陽以及豫西大部分地區被日軍占領，凡在此範圍內進行抗日鬥爭，都是敵後抗戰。
話說這支部隊渡過黃河後，迅速取得了戰果。他們在中秋節前夕襲擊了日軍登封機場，殲敵一部，解救民工數千人。10月12日，他們攻打鞏縣（今鞏義市）黑石關據點，消滅日軍一個小隊和偽軍百餘人，解放修鐵路橋的民工兩千多人。
為了站穩腳跟，盡快開辟抗日根據地，支隊在登封縣白栗坪召開會議，分析形勢，部署任務，決定把鄭州以南、洛陽以東地區劃為箕山、嵩山兩個戰略區，把正規部隊分散開，采取小部隊活動，打擊敵偽力量。至10月底，支隊建立了偃師、鞏縣、伊川、登封4個抗日民主縣政府和伊洛（陽）辦事處，初步打開了豫西抗日局麵。
據偃師一些老人回憶：“皮旅”（老百姓稱皮定均領導的抗日隊伍）一來，就到處撒傳單，發動群眾抗日，鬧得敵偽軍人心惶惶。這支部隊像一把尖刀，戳到敵人心口了！”
根據形勢需要，1944年10月，中共中央決定建立中共河南區黨委、河南軍區和河南人民抗日軍，任命王樹聲為河南軍區兼河南人民抗日軍司令員，戴季英為中共河南區黨委書記兼河南軍區和河南人民抗日軍政委，劉子久為中共河南區黨委副書記兼河南軍區、河南人民抗日軍副政委。
黨中央明確指出：這次深入河南敵後，要以嵩山為依托，在三點（洛陽、許昌、鄭州）兩線（隴海鐵路和平漢鐵路線）之間，深入發動群眾，開展遊擊戰爭，建立敵後抗日根據地，緊緊咬住敵人，牽製三點兩線之敵人西進，保衛大西北!
10月底，進軍河南的準備基本就緒。11月份，部隊分兩批開赴河南。出發前，中央機關舉行歡送會，毛澤東、朱德、周恩來都來了，他們號召南下的同誌挺進河南奮勇殺敵。11月14日，繼皮徐支隊挺進豫西之後，由太嶽軍區組建的豫西抗日遊擊第二支隊近2000人，在司令員兼政委劉聚奎的率領下渡過黃河，進入新安、澠池等地，開展遊擊戰。到11月底，他們在新安、澠池、陝縣及隴海鐵路南北地區開辟了一塊近1250平方公裏的抗日根據地。
12月24日，劉子久、韓鈞（新安縣人）率領的部隊和幹部也進入豫西，與劉聚奎部會合。到12月底，“皮徐支隊”及豫西抗日第二支隊共作戰139次，解放村莊4676個，人口100餘萬。1945年1月3日，八路軍南下支隊近5000人，在王震的率領下，途經豫西，配合劉聚奎在澠池縣千秋鎮附近，將阻止我軍前進的反動民軍喬明禮部徹底打垮，生俘700餘人，解放了澠池縣全境及新安、洛寧、宜陽、陝縣一部分。我軍聲威大振，偽軍紛紛向我投降，我軍在豫西迅速打開了局麵，接下來的抗日烽火越燒越大，遍布豫西諸縣……