７月下旬，在海倫的日軍第28聯隊長平賀英雄偵知海倫以東正白旗二井一帶駐有馬占山部騎兵1000餘人，判斷其可能將渡河北上，急令步兵第50聯隊及騎兵第18聯隊至正紅旗十井子一帶阻止馬部北進。馬占山部的騎兵於27日晨進至安固鎮至劉家店間公路上，由於警惕性不高，未派出警戒，以旅次行軍隊形沿公路行進。上午９時許進入伏擊圈內，日軍四麵襲擊，一經發覺，形勢已極嚴重，經奮力死戰方突出重圍，士兵傷亡數百，一切輜重損失幾盡。馬占山亦於此役麵部受傷，此後轉戰東山一帶。途中山高林密，人跡罕至，糧鹽俱絕，殺戰馬充饑。經40餘日始脫離山林絕境，於９月９日到達龍門。日軍在戰場發現馬占山所用物品，認為馬占山已戰死；９月間知馬占山未死，即派兵到處堵截。馬由龍門轉進到訥河。
日本關東軍在1933年上半年以４個師團又２個旅團及偽軍31個旅和４個支隊的兵力展開全麵圍攻，不僅未能消滅抗日義勇軍，而且也未能遏製義勇軍的發展。因而日本軍事最高當局於８月間撤換了本莊繁，並改組了關東軍司令部，任命武藤信義為關東軍司令官，分別任命小磯國昭、岡村寧次為正、副參謀長，同時從國內再增調騎兵第４旅團和混成第１４旅團到東北。武藤信義改變本莊繁全麵出擊的戰法，采用重點圍剿的作戰方針，決定集中兵力，根據義勇軍活動的區域，按先南滿、後北滿的順序進行圍攻，企圖各個擊破。為此，將騎兵第１旅團調至遼寧。黑龍江的日軍兵力減少。日軍為守衛黑龍江省城齊齊哈爾，主力部隊多部署於附近地區。義勇軍乘機展開廣泛出擊，致使各地日偽軍夜間不敢出門。馬占山掌握時機，派人到各地聯係，準備聯合黑龍江省各抗日部隊收複省城。為便於指揮，將所部再次整編為６個軍：第１軍鄧文部，第２軍吳鬆林部，第３軍李海青部，第４軍徐海亭部，第５軍才鴻猷部，第６軍邰斌山部。另外，在拜泉的樸炳珊（轄３個步兵團、１個炮兵團）和在海拉爾的蘇炳文（轄２個步兵旅）表麵上雖然和偽黑龍江省政府保持著隸屬關係，但實際上補充兵員，加緊訓練，積極作抗日的準備，並與馬占山等暗中聯係，隨時準備起義，參加抗日隊伍。
馬占山與各地抗日將領聯絡後，計劃分兵四路進攻齊齊哈爾，分兩個階段實施。第一階段以鄧文軍和樸炳珊部為東路軍，進攻昂昂溪；蘇炳文部為西路軍，進攻富拉爾基；馬占山率徐海亭軍為北路軍，進攻拉哈站；另以才鴻猷軍沿呼海路襲擾敵人，並對哈爾濱實施佯攻，以牽製日軍。俟各路攻占預定目標後，第二步再共同對齊齊哈爾實施向心攻擊。預定10月20日開始行動。
９月27日，蘇炳文和樸炳珊聯名通電起義，公開投入抗日陣營。９月30日，張殿九、謝珂、樸炳珊、李海青、鄧文等黑龍江省救國軍的10名將領聯名通電擁戴蘇炳文為總司令。10月１日在海拉爾成立東北民眾救國軍，蘇炳文任總司令，張殿九任副總司令，謝珂任參謀長，張挺玉任前敵總指揮，向全國通電，聲明決心“消滅偽國，鏟除漢奸，揭發暴寇鬼蜮之伎倆，收複中國固有之土地”。此時，滿洲裏、海拉爾、博克圖、紮蘭屯、富拉爾基等要地均已為蘇炳文起義軍占領；李海青與鄧文兩軍亦於10月１日、２日先後攻占了昂昂溪和安達。從當時形勢看，蘇炳文軍實力最強，且又控製了整個中東鐵路北段，對齊齊哈爾威脅最大。因而日本參謀本部於10月７日致電關東軍：“考慮到必要時勢必不等討伐東邊道取得成果，即在嫩江以西發起積極作戰”，要求立即向蘇炳文部發起進攻。鬆木直亮遂集中其第14師團兵力，分別向昂昂溪和富拉爾基發動反攻。李海青部很快被日軍擊潰，向南撤走。蘇炳文部經10月7、8兩日激戰，也撤出富拉爾基。由於第14師團主力被鉗製在嫩江以西地區，齊齊哈爾以東、以北義勇軍的進展稍順利，至10月中旬，已先後攻克拜泉、克山、訥河、安達、青岡、通北、龍鎮、巴彥等城鎮。10月20日，馬占山、蘇炳文分別向拉哈和富拉爾基發起進攻。激戰至29日，義勇軍攻占了拉哈街區，日軍退縮至車站堅守。31日，得而複失的富拉爾基又為義勇軍占領。這時齊齊哈爾已陷入義勇軍的包圍之中。
日關東軍司令官武藤信義鑒於北滿形勢嚴峻，於10月27日決定：將騎兵第１旅團和騎兵第４旅團急開北滿，將關東軍飛行隊的轟炸第12大隊和偵察第３中隊亦轉場至齊齊哈爾，均歸第14師團長指揮，以加強北滿的作戰力量。日軍逐次集中於齊齊哈爾地區後，武藤信義決定先肅清嫩江以東地區的義勇軍，解除後顧之憂，再轉移兵力至嫩江以西。
從11月12日開始，鬆木直亮以第14師團主力和２個騎兵旅團、３個飛行中隊向明水、拜泉、依安、拉哈及其以東地區發起進攻。在日偽軍強大攻勢的打擊下，至11月20日，嫩江以東各部義勇軍相繼受到嚴重挫折。馬占山等撤至紮蘭屯地區與蘇炳文部會合；鄧文、李海青等部逐漸向南轉移，在大賚附近渡過嫩江，經瞻榆，於1933年１月中旬轉進至熱河開魯地區。
11月24日，武藤信義為加強進攻能力，又將獨立混成第14旅團配屬給第14師團。鬆木直亮決定以步兵第27旅團守備齊齊哈爾，以２個步兵旅團、２個騎兵旅團和３個飛行中隊向中東鐵路沿線地區進攻。預計分兩步實施作戰：第一步以步兵第28旅團、騎兵第４旅團沿鐵路兩側進攻富拉爾基以北至紮蘭屯以南鐵路沿線之蘇炳文軍，而以獨立混成第14旅團和騎兵第１旅團由鐵路北的梅裏斯、甘南迂回攻占紮蘭屯，切斷蘇炳文軍退路；第二步再由迂回至紮蘭屯的獨立混成第14旅團和騎兵第１旅團繼續進攻海拉爾和滿洲裏。飛行隊除偵察義勇軍活動外，主要轟炸義勇軍各據點及部隊調動的軍用列車，直接支援地麵部隊作戰。預定發起總攻的時間為11月28日。