当时东北各地，除了抗日武装力量之外，还有一批为地方豪绅所掌握的所谓民团、大团等反动武装，如辽阳刘仁堡民团、辽中北大会、铁岭大团等等。他们打着保境安民的幌子，实际上与敌伪沆瀣一气，为虎作伥;见日军就开门欢迎，见抗日军就闭门不纳，甚至加以袭击。他们都是东北人民的死敌。
东北义勇军在抗战期间，曾经受到全国人民的热情支持和援助。全国报纸刊物以大量的篇幅报道了义勇军的抗战事迹，国内外各阶层人民源源不断地捐助大批的物资和款项。东北当地人民更为支持义勇军抗战作出了不可磨灭的贡献。江桥抗战时期，群众自动帮助马占山部队挖掘战壕，铁路工人昼夜不息，输送军队;昂昂溪车站上各方面支援的被服、食物和其他物资，堆积如山。哈尔滨保卫战发生后，哈市市民协助守军赶筑巷战工事，捐助军用物资。苏炳文在海满宣布抗日，札赉诺尔矿工立即自动捐献工资，以助军饷;满洲里召开市民大会，附近各县和各蒙旗代表在海拉尔举行会议，表示支持。各地农民和青年学生参加各部义勇军，直接拿起武器抗击敌寇的，更难以胜数。这些事实，都充分表示东北和全国各地人民对义勇军的抗战所给予的巨大支持。
不足
东北义勇军也有许多严重的弱点。其中主要的是:它的领导人物大多数都是一些旧军官，他们在政治上是落后的;他们之间派别繁多，非但不能团结一致，而且意见分歧，甚至往往互相火并;他们所率领的部队成分复杂，有的纪律很坏，往往抗敌不足，扰民有余。这样，他们就不仅没有能够担负起领导群众进行抗日斗争的任务，而且严重地危害群众的利益，从而影响了广大群众支持义勇军的积极性。
由于东北义勇军存在着这些弱点，他们虽然在东北沦陷初期曾经风起云涌，盛极一时，并且予日寇以相当的打击;但是在敌军全面进攻、各个击破的压力之下，为时年余，便陷于土崩瓦解，烟消云散。有些领导人物如丁超、程志远、王之佑等甚至出卖民族利益，变节降敌。
东北义勇军从兴起到失败，它的面积甚广，系统又多，变化起落也很复杂。我当时虽然参加过一部分义勇军的组织工作，对于全部情况也并不完全清楚，况且已事隔三十年，现在要把它的整个过程作一个全面的追述，是相当困难的。下面所写的内容，错误和遗漏在所难免，希望熟悉当时情况的同志加以指正。
败退原因
东北抗日义勇军作战图东北义勇军兴起之时如雨后春笋，遍地开花，最高时〔一九三二年夏〕达三十万人上下，乃一经敌人进攻，便节节溃败。到一九三三年初，义勇军主要部分基本上都被敌军消灭，残灭部分如李春润、邓铁梅、苗可秀等到三四年七月以后，也完全被消灭。
日寇在一九三三年以前，对于东北武装抗日力量，除了使用武力之外，还没有施行那些以后用来对付中共领导的东北抗日联军的保甲连坐、经济封锁、“三光”政策等残酷手段，而且当时在东北各战场活动的敌军有多门第二师团、坂本第六师团、西义一第八师团、广濑第十师团、松木第十四师团以及铁道守备队等，固然义勇军装备和训练远不如敌，但人数上则是敌人两倍以上，主客形势又对义勇军有利，但历时年余，义勇军却逐渐势弱。其主要原因约不外下列三点:首先，东北义勇军是以旧军队为基础所组成的自发武装抗日力量，领导各部义勇军的都是一些旧军官，他们虽然在东北人民抗日浪潮的促使之下，为形势所迫，起而抗战，但是他们在政治上大多数是落后的，他们对于抗日救国并没有信心。他们虽然一面抗战，但是一面仍然希望保存实力，静候国联制裁日寇。马占山通电曾说:“明知势孤力薄，难支大厦”;苏炳文通电也说:“倘再坚持，势将同归于尽。”这些话都表明他们的抗日思想是动摇的。各部之间，彼此观望，互不支援，也都是由于“徒损实力，无济于事”的保存实力的想法在作祟。他们的思想既然没有武装起来，他们的军事行动就不可能有政治灵魂，从而他们一遇到困难挫折，自然就不能坚持下去，甚至有人变节投降，作了汉奸。
义勇军的将领们因为在政治上没有正确的指导思想，他们在军事上也是非常保守的。他们在当时环境之下，仍然墨守成规，袭用正规军的阵地战的战略战术，不知采取游击战争。因此，他们作战时，一经敌军迂回抄袭，顿即陷于包围，全线溃败。江桥战役和海满抗战的失败，即其显例。至于收编的胡匪，则在对敌作战时往往一仍其剽掠的惯技，更无战略战术之可言了。
其次，脱离群众也是东北义勇军遭致失败的一个重要因素。由于它是以旧军队为基础和大量收编胡匪所组成的，虽然也有不少农民和各阶层抗日群众参加，但是它在本质上并不是人民的武装。一方面它是抗日的，另一方面，它又有危害人民利益的行为。因此，它也就不能联系群众、依靠群众，甚至还脱离群众。
东北义勇军各部往往滥发空白委任状，滥收胡匪;有的委任贪官污吏，纵使搜刮人民，借机发财;还有部分军队纪律很坏，尤为东北人民所不满。旧奉军原来的纪律本已不够好，时有扰民情况，但是多少还能保持旧军队的纪律;至于收编的胡匪，更是纪律荡然了。例如李海青部进入大赉县城时，将商店抢光，到老百姓家翻箱倒柜，把农民的马匹全部牵走，见着行人就强换鞋帽，拿不走的东西丢弃满街，甚至还有强拉青年妇女成婚之事。后援会委任的义勇军司令武中原不去东北抗日，竟在北平前门外旅馆大卖委任状敛财。甚至还有义勇军到北平后，竟有在北新桥、东城一带进行抢劫的。因此，许多地方的群众，往往一听到义勇军要来，便坚壁清野，逃避一空。象这样严重脱离群众、危害群众利益的队伍，怎么能不失败呢?
最后，各部义勇军互相之间，不能团结一致，合力御侮，甚至互相掣肘，摩擦冲突，也是它的一个致命的失败因素。江桥之战，盯李、冯各部按兵不动;及至盯李、冯在哈尔滨和敌伪发生战斗，马也坐视不救。最后到苏炳文抗日的时候，已成了孤军奋斗的局面了。而吉林的义勇军刘万奎部在撤退途中竟把李杜的旅长马宪章击毙，王德林和自己的副司令孔宪荣不和，唐聚五和东边的将领闹意见，到北平后还公开地互相攻讦。辽南、辽西各部亦有自相火并、大鱼吃小鱼的互相残杀行动。
除了上述原因外，国民党政府不抵抗政策也是失败的主要因素。当时国民党政府如能出兵东北，坚决抗战，这三十万抗日部队一定能起很好的配合作用，其结果当不至如此。
大转移
1931年918事变时，张学良下令不得抵抗，他认为日军仅仅是挑衅而不是大规模发动战争。部分东北军队纷纷败退，但一些爱国将领、地方士绅及胡子部队，纷纷行动起来打击日军。但因种种原因，东北抗日义勇军遭遇不利局面，一些义勇军不得不进入关内休整，但是最北面的抗日义勇军却前退两难，后退是苏联，前面是汹汹日伪军。
在这种情况下，一直关注这支部队的国民政府与苏联政府进行了艰辛的谈判，最后，双方议定:东北抗日义勇军经过苏联西伯利亚区域，转折进入中国新疆，途中，苏联政府提供便利保障，国民政府支付三百七十万美元，作为此次转移的费用支付给苏联。这部义勇军出发时四万多人，其中家属婴幼儿一万多人，到达新疆后，军队残余1万多人，家属仅有5千人，家属和部队全数不足二万人，其中在距离新疆200公里处牺牲尤多。期间，由于食物不足，曾发生“易食”现象，国民政府提出增加美元请苏联政府提供更多食物，但苏联政府自己部队的供应尚且不足，此事已经不是美元的问题了。在距离新疆国门不足200公里的最后一段路程中，因心理放松，许多义勇军憋着一口气松懈，眼看归国有望，牺牲万人之多。此乃我中华民族历史悲壮惨烈之一幕也。
入境后，新疆地方政府和人民热烈欢迎义勇军将士，将士被热烈欢迎的新疆群众紧紧围住，行军速度大大减慢，日行二三里，一些新疆各族人民群众更是为此不计成本而倾家荡产，或负债累累而不计。如一家史姓家族，把自己的财物换成食物，供给大军食用。而锡伯族根据清政府指示由大东北迁徙新疆守边，乾隆皇帝原本答应他们70年后到沈阳生活，但清王朝灭亡了30年，这些锡伯族也没有迁徙沈阳，有朝一日见到来自家乡的亲人，无不热泪盈眶，锡伯族群众紧紧抱着衣衫褴褛的义勇军将士官兵，泪流满面不肯撒手。
义勇军到达新疆后，高级将领希望借道回到抗日前线，新疆地方政府希望留在本地，而经历重重磨难的部分军官和士兵担心国民政府歧视等，于是就留在新疆，被新疆地方政府改编为9个骑兵团和炮兵大队、战车大队、工兵队、通信队、教导团，分别驻守南、北、东疆广大地区;另外以东北抗日义勇军为骨干，组建了喀什、和田、阿勒泰、塔城4个边卡大队。此后，以东北抗日义勇军进疆和整编为标志，新疆开始出现了真正意义上的、具有强大威慑力的现代化军队，新疆的边防事业也进入了一个“守边固防“的新时期。如中印交界处的赛图拉哨所，原本安排边防军一百余人，经义勇军补充后，安排200余人参与边防，防止英军渗透进入中国境内，保证中国西部领土在《中俄伊犁条约》后不再丢失领土，也及时预防了克什米尔问题牵涉到中国境内。
轰轰烈烈、自发起来的东北义勇军的抗日斗争虽然很快地失败了，但当时参加义勇军的广大将士的爱国热情是值得我们尊敬的;而在抗日战斗中牺牲了的烈士们更是永远受到中国人民歌颂的。同时，他们的失败也为中国共产党领导的抗日联军坚持东北十四年的抗日斗争及以后八年的全民抗日战争提供了经验。因此，九一八事变后东北义勇军的抗日事迹应当本着实事求是的精神分别加以整理，既要肯定他们的成绩，也要指出他们的缺点，作为信史存入我们伟大祖国的史册。