民國二十一年一月，得到補給和整訓的遼南義勇軍，再次進入錦州地區，在遼南一帶重新掀起反抗日軍的遊擊戰爭。張老大成了這支幾乎煥然一新的遼南義勇軍的首領，但是軍事指揮權全權委托給副首領黃煒，最精銳的主力分隊則由王河山負責。
如果不是日本人緊急調走了戰力強大的第二師團，使得遼南地區兵力出現短暫空缺，一頭撲進遼南打遊擊的義勇軍隊伍，估計會馬上碰到舉步維艱的境地了。
第二師團是日本陸軍戰鬥力最凶悍的主力師團之一，長期作為關東軍的骨幹部隊，駐紮在南滿地區，適應東三省的作戰環境，因此幾乎被當成了關東軍南征北戰奪取滿州的開路先鋒。第二師團不僅是九一八事變中發動第一波攻擊的元凶，而且也是甲午戰爭時期攻占威海衛的日本陸軍主力。
在這個當口，精銳的第二師團自然是被總兵力依然相當薄弱的關東軍予以重用，北上進攻最後一個東北軍重要據點哈爾濱。
在九一八事變爆發後近六個月，得到駐朝鮮日軍和本土大力支援的日本關東軍，也不過辛辛苦苦聚集了六個師團的兵力而已，完全不能徹底控製廣袤的東三省腹地。尤其是當關東軍順利擊敗齊齊哈爾東北軍後，為了防止北方軍從海拉爾一帶的突襲，至少牽製了一個半師團的兵力常駐齊齊哈爾。
為了進攻錦州，又調集了第二十師團和第二師團等部隊，再加上遼東半島基地的一個師團防守力量，能夠用於向哈爾濱進攻的關東軍兵力已經捉襟見肘。
因此在民國二十年末，在關東軍的支援下，大漢奸、吉林剿匪司令於深澄絞盡腦汁搜羅了五個旅的偽軍部隊，主動承擔起關東軍進攻職責，向哈爾濱駐守的東北軍餘部發起大規模的攻勢。
隻是於深澄部偽軍的戰鬥力實在值得懷疑，在關東軍飛機狂轟濫炸的掩護下，五個齊裝滿員的步兵旅，居然被由東北軍、警察部隊、胡子武裝等雜七雜八人員組成的哈爾濱自衛軍打得屁滾尿流。
就在關東軍為兵力不足一籌莫展之時，錦州東北軍再一次上演不戰而逃，將關外重點拱手讓給日本人。意外騰出手來的關東軍，大喜之下，立即將原準備在錦州苦戰一場的第二師團北調進攻哈爾濱，以彌補於深澄部偽軍的無能造成的北滿局勢被動。
就在關東軍第二師團磨刀霍霍向北進的時候，日本海軍在上海發動了大規模進攻，一二八事變爆發。一邊內訌不斷，一邊看著北方唱戲的南京政府，立馬被卷入了實質抵抗日軍侵略戰爭之中。
日本軍部是一個矛盾的混合體，不僅陸軍和海軍內部溝壑深深，就是日本陸軍之間都是充斥著扯後腿和不合作問題。
日本關東軍在東三省的高歌猛進，所獲豐厚，讓無所事事的海軍大為惱火，東京軍部海陸之爭的巨大裂痕差點就明晰化了。不少海軍少壯派軍官瘋狂叫囂，不能讓關東軍再這麼勝利下去，否則會對海陸軍費劃分造成巨大壓力，以至於減少了海軍經費的撥付。
於是，在緊急磋商之後，在上海外海的日本海軍第一遣外艦隊悍然發起上海的進攻，大批海軍陸戰隊士兵在軍艦和飛機火力支援下，以大批裝甲車為先導，直撲南京政府第十九路軍以及剛好趕來接防的憲兵第六團陣地。上海保衛戰爆發。
第十九路軍和憲兵第六團倉促接敵，在火力劣勢的情形下，差點被突襲的日軍一舉突破陣地。所幸這些部隊都接受了東北軍慘遭國民痛罵的教訓，第一時間自發反擊，在巨大的傷亡代價下勉強擊退了兵力稀少的日本海軍陸戰隊進攻。