波瀾壯闊的抗日義勇軍運動到1933年大部分失敗了，但是它為反對外來侵略所作的貢獻是不可泯滅的。其失敗的教訓也應該總結吸取。東北抗日義勇軍的失敗有它主觀與客觀方麵的原因。
從客觀上來看，東北的抗日戰爭是在孤懸敵後的情況下進行的。“九一八”事變後，在蔣介石的不抵抗政策下，戰爭從一開始就處在外無援軍、內無裝備給養補充、完全獨立奮戰的境地。馬占山在江橋抗戰中向國民政府請求支援，蔣介石、張學良沒給一兵一卒，馬占山部在傷亡慘重、後援無繼的情況下隻好退出江橋。王德林、李杜、蘇炳文等也多次向國民政府求援，但都未得到實質性的援助，使他們終於敗散。
不僅如此，1933年５月31日，國民政府同日本簽訂了屈辱的《塘沽協定》。此《協定》規定取消關內外一切抗日行動，不準支持關外的抗日義勇軍。６月初，《塘沽協定》簽訂的消息傳到東北各地的抗日義勇軍中，不僅引起了廣大官兵的憤慨，同時也動搖了部分抗日軍民的決心，悲觀失望情緒增加，少數意誌不堅強分子公開叛變投敵，極大地削弱了抗日義勇軍的戰鬥力。７月10日，北平軍分會代委員長何應欽下令解散東北民眾抗日救國會和後援會等抗日組織，使抗日義勇軍失去來自關內的後援。1934年，國民政府和偽滿洲國通車、通郵，等於變相承認了偽滿洲國。這都極大地挫傷和打擊了抗日義勇軍，直接、間接地造成了東北義勇軍的最後失敗。
導致東北義勇軍失敗的另一個客觀原因是敵人異常強大，手段十分毒辣。為撲滅義勇軍的抗日烽火，關東軍急驟增加，到1932年９月已達６個師團、15萬餘人，以後一直保持５個師團。如果加上偽軍、守備隊、憲兵隊和特務警察隊，其總數不下20萬至30萬人。日偽軍不僅數量多，而且戰鬥力強，尤其是關東軍裝備精良，訓練有素，給養充足，每次出動，均配備有裝甲車、大炮，有飛機偵察、轟炸。而抗日義勇軍除原東北軍的部隊有一些步兵武器外，民眾武裝使用的不過是長矛、大刀和獵槍。日軍為在東北鞏固其殖民統治，從1932年初至1933年10月，以關東軍為主，統轄偽軍、警進行了19次的大討伐。在大討伐中，日軍采取定期、定點、定線方式，以分兵包圍、篦梳山林、鐵壁合圍、陸空配合等戰法窮追不舍，致使抗日義勇軍遭受嚴重挫折。
從主觀上講，導致抗日義勇軍失敗的原因首先是沒有一個堅強的抗日領導核心，沒有明確的政治綱領。
東北遼、吉、黑三省及熱河的義勇軍作戰基本上是在孤軍奮戰的狀況下進行的。東北抗日義勇軍興起後，國民政府自動放棄了抗日的領導權。而東北的愛國人士和軍警人員為了驅逐日寇、收複東北，在北平組織了“東北民眾抗日救國會”、“後援會”等愛國團體和組織，但沒有明確的政治綱領和具體的奮鬥目標。他們也曾煞費苦心，力圖領導，並從軍費上、物質上給予支持，但從全局上看，仍沒有形成一個統一的領導核心。他們不可能根據一省乃至全東北的情況製定出正確的政策和策略，因此不能從根本上改變義勇軍長期分散、各自為戰、各自為政、缺乏協同配合的弱點，這就難免不被敵軍各個擊破。如遼寧義勇軍攻打沈陽，吉、黑兩省義勇軍攻打哈爾濱，最後都是大的行動導致了大的失利。******指出：“沒有一個明確的具體的政治綱領，是不能動員全軍全民抗日到底的。”這用於對東北義勇軍失敗的分析，也是十分中肯的。
抗日義勇軍的廣泛性，導致其成分複雜、派係較多。抗日義勇軍中不乏抗戰熱忱高、立場堅定、意誌堅強的人物。但在********上升時，一些流氓、兵痞和一些富豪子弟一度參加抗日，一些“胡匪”也掉轉槍口下山參加了抗日隊伍，一時魚龍混雜。這些人一方麵是抗日的，另一方麵又有一些危害人民利益的行為，有的人重操舊業，掠奪魚肉人民，這樣就失去了人民的支持，最後歸於失敗。
抗日義勇軍內部不團結，也是導致失敗的重要原因。參加抗日義勇軍的東北軍官中的一部分人打著抗日救國的旗幟來擴充實力、騙取人民的支持和捐款；有的人總想割據一方，因而互相鬧成見，少數部隊之間相互摩擦、衝突的事件時有發生；有的人在戰鬥中暗自保存實力，作為爭名奪利的資本。由於抗戰思想不穩固，他們一遇挫折或作戰失利就出現“內訌”，當抗日處於低潮時甚至動搖、叛變。這都嚴重地削弱了部隊的戰鬥力，最終導致失敗。
從作戰形式上看，東北抗日義勇軍在本鄉本土進行戰鬥，地形、人情等非常熟悉，應該同人民群眾密切配合，采取靈活機動地襲擊敵人的作戰方法，采取伏擊戰、偷襲戰等戰術，給敵人以殺傷。但抗日義勇軍大多采取正規軍所采取的正規戰鬥。如馬占山的江橋抗戰、遼寧義勇軍進攻沈陽的作戰，還有王德林、馮占海、李杜等進攻哈爾濱的作戰等，采取的就是正規戰，但敵人機動性強，裝備好，義勇軍都沒能取勝，反而暴露了自己，使自己處於被動的境地，最後不得不退出東北。