“九一八”事变后，东北人民在中国共产党的号召、影响和领导下，掀起了规模宏大的抗日救国的高潮。先是蜂起各地的义勇军抗日运动，接着是中国共产党领导的东北抗日联军的游击战争，到1937年7月全国抗战爆发前后，东北抗日联军已发展到11个军共3万余人。其具体分布是：
由中共南满省委领导的第1路军（辖第1、第2军）活动于辽宁和吉林省的通化、柳河、磐石、长白、桓仁、本溪、抚顺、清原等地；
由中共吉东省委领导的第4、第5、第7、第8、第10军和由中共北满临时省委领导的第3、第6、第9、第11军则活动于松花江下游和牡丹江部分地区，以及榆树、五常、舒兰地区。
东北抗日联军在南起长白山，北至小兴安岭，东起乌苏里江，西至辽河的广大地区内，在与中共中央失去联系的情况下，独立地坚持东北抗日游击战争。
日本帝国主义发动全面侵华战争后，东北抗日军民在全国抗战形势鼓舞下，掀起了新的抗日斗争高潮。东北抗日联军各军主动出击，袭扰日伪军，不断破坏敌人兵站、仓库、交通，通讯等军事设施，直接威胁日本侵华后方基地的安全。东北抗日联军的发展壮大，东北抗日游击战争的广泛开展，成为日本侵略者的心腹之患。日军为确保东北占领区，巩固全面侵华的战略后方，加紧推行“三年（1936年至1939年）治安肃正计划”，实行所谓“治标”与“治本”相结合的方针，加强军事“讨伐”和殖民统治。同时，为对苏战备，至1937年7月初，日关东军总兵力增至4个师团、2个独立混成旅团、3个骑兵旅团和5个独立守备队，共10余万人，另外，还扩充伪军，使伪军总兵力达33个旅，约10万人。
“七七”事变后，日军从关东军先后抽调4个旅团和2个支队的兵力到华北，并以其中大部组成察哈尔派遣兵团。由于其在东北的兵力减少，被迫对东北抗日联军改取重点“讨代”，并于1937年底将重点置于北满，采取由南向北、由西向东，逐步压缩包围的战法，企图将抗日联军第3至第11军聚歼于松花江下游、黑龙江与乌苏里江之间的三江平原。
1937年秋，活动于松花江下游地区的东北抗日联军第4、第5、第7、第8、第10军，在中共吉东省委领导下，积极协同中共北满临时省委领寻的东北抗日联军第3、第6、第9军，重创下江地区敌军，先后取得袭击宝清县凉水泉子伪警察所、摊川盂家岗伏击战、奇袭聚宝山伪警察署等战斗的胜利。
为加强统一指挥，协同作战，1938年1月5日，中共吉东省委在吉林饶河（今属黑龙江）境召开下江特委扩大会议，决定成立东北抗日联军第2路军，周保中任总指挥，下辖第4、第5、第7、第8，第10军。
活动在松花江下游地区的东北抗日联军各军不断打击敌军。日关东军为了围歼活跃于伪三江省的抗日部队，特制定一个大规模的“讨代”计划，以其第4师团为主力，纠集伪军混成第16、第23、第27、第28旅团等部，共25万余人，于1937年底开始对活动在下江地区的东北抗日联军各军进行大规模的军事“讨伐”。日伪军采取分割包围，“蓖梳式”进剿，肃清一地，巩固一地的手段，企图将抗日联军各部驱于一隅，聚而歼之。
东北抗日联军各军遂开始进行艰苦的反“讨代”作战。虽然取得了一些胜利，但由于日伪军的疯狂进攻和严密封锁，抗日联军部队处于越来越困难的境地。
为了冲破日伪日益加紧的军事“讨伐”，粉碎敌人企图将活动在松花江下游地区的抗日联军部队“聚而歼之”的阴谋，打通与活动在东南满的抗日联军第1路军和挺进到热河的八路军的联系，中共吉东省委决定，以第2路军第4、第5军主力向西部的五常、舒兰一带进行远征，开辟新的游击区。
1938年4月，第2路军总部决定第4、第5军主力西征，总部率第4军1个团、第5军第3师和第7军在宝清、饶河等地坚持斗争，牵制敌人，掩护西怔。
根据第2路军总指挥部的部署，西征部队分为东、西两路。
西路，以第4、第5军之骑兵为主，由第4军统一指挥，首先夺取苇河县之楼山镇，攻占苇河县，建立临时游击根据地；尔后，越中东路前出至五常、榆树、舒兰等地，再视情况西进，争取与活动在南满的第1路军取得联系，进而与关内八路军沟通联络。
东路，以第4、第5军之步兵力主，由第5军统一指挥，首先强袭中东路上的绥芬河，并留少数部队建立后方基地；尔后，主力转向东宁、宁安、汪清、珲春等县开展游击活动，并争取恢复东老爷岭游击根据地，5月中旬，参加西怔的第4军主力和第5军一部分别从富锦、宝清等地出发，向牡丹江方向前进。6月上旬，部队进至勃利、林口县以南大小杨木背等地。由于日伪军围堵，沿途均经过苦战，6月下旬才抵达依兰、方正和牡丹江东岸，与活动在该地区的第5军军部及第1师会合。
此时，日军正在中苏边境挑起武装冲突，中东路沿线日军加强了封锁，给在牡丹江地区集结的西证部队的行动带来极大困难。
6月底，西征部队于林口刁翎召开干部会议，决定将东。西两路部队集中，统一向五常、舒兰方向前进，与在五常地区活动的第10军取得联系。具体部署是：以第5军第1师为先遣队；以第4军一部，第5军第2师为前梯队；以第4军第2师、第5军教寻团为后梯队。
7月初，在袭击牡丹江畔之江东和三道通解决给养后，西征部队即由林口以西之四道河子越过张广才岭，于12日拂晓攻占苇河县之楼山镇。袭击楼山镇战斗惊动了日伪军。当西征部队从楼山镇撤出后，敌人从中东路沿线及延寿、方正调来大批日伪军，对西征部队进行围追堵截。在此情况下，西征部队开始分兵活动。第5军军长柴世荣率第5军教导团、第1师第2团等部东返牡丹江地区；第4军主力和第5军第1、第2师分路向五常前进。但因地形不熟，第5军第1师误人苇河。第4军主力和第5军第2师误人延寿县境，又被日伪军“讨伐”队追踪，在荒沟进行反击战，歼敌一部。
7月下旬渡蚂蚁河进入苇河县境时，与第5军第1师相遇。于是，两部集合一处，共同行动，决定跨越中东铁路突入五常以后，再向东，与第2军第5师取得联系。
为解决部队给养，西征部队袭击了珠河（今尚志）元宝镇附近的“集团部落”，得到一些补充，7月29日，西征部队在一面坡附近遭日伪军追击，退至该镇南面的山地密林中，在此内无给养，外有追兵的关键时刻，担任西征部队军事政治领导贡任的中共吉东省委书记、第5军政治部主任宋一夫对抗日战争悲观失望，发生动摇，于7月30日借巡岗查哨之机，携款叛逃，给西征部队带来了极大的危害，引起了二些动摇逃跑事件的发生，但西征部队广大指战员在第4军军长李延平，副军长王光宇的率领下，仍坚定执行西怔计划，继续向五常进发。
8月初，西征部队为破袭中东铁路，在苇河小五站附近与日伪军遭遇，发生激战。虽然没有大的伤亡，但破袭中东铁路的计划却己无法实现，并且引起日伪军的更大注意。为全歼西征部队，日伪军从哈尔滨、长春等地空运1000亲人，对西证部队进行围堵。西证部队与日伪军连续苦战，伤亡很大，受到十分严重的损失。至9月初，始突破日伪军的堵截，进入五常县境。
为缩小目标，摆脱敌人，第4军主力和第5军第1、第2师分兵活动。
此时，第4军西征部队仅剩100余人。在李延平、王光宇率领下，摆脱前堵后追的敌人，隐蔽于小山子附近的密林中，准备与抗日联军第10军打通联系，坚持在五常开展游击活动。但是，这时第10军处境也十分困难。当第10军得知第2路军西征部队袭击楼山镇的消息时，军长汪雅臣曾率部北上，准备去苇河接应第4、第5军西征部队，进到小山子，不意遭敌阻击，汪雅臣身负重伤，只得撤回五常九十五顶子山后方基地。之后，日伪军封锁更加严密，第10军被围困在深山密林之中，无法出山活动。第4军西征部队欲与第10军会合，在五常开展游击活动的计划未能实现。9月下旬，第4军西证部队遭日伪军包围。战斗中，部队被冲散，60余人被俘，第4军第1师师长曲成山叛变投敌。11月20日，军长李延平被叛徒杀害。年底，副军长王光宇牺牲，部队失散。
第5军西怔部队与第4军分兵活动后，向舒兰挺进。夜间过牤牛河时，与敌遭遇，战斗中，第1、第2师失掉联系，第1师遭强敌追击，活动艰难，遂决定突围东返牡丹江地区。10月上旬，在牡丹江支流乌斯浑河岸边与日伪军“讨伐”队遭遇。随该师行动的第4、第5军军部妇女团8名汉族、朝鲜族女战上，为掩护部队突围，与敌激战，直至弹尽，毅然跳人乌斯浑河激流之中，为中华民族的解放事业献出了宝贵的生命。11月初，第1师余部到达刁翎第5军后方基地。第5军第2师余部冲破敌人包围，由五常东返宁安，几经辗转，方与第2军第5师会台，转战于额穆，敦化一带，继续与敌人进行英勇的斗争。
东北抗日联军第2路军第4、第5军主力西征，历时5个多月，打乱了日伪军重点“围剿”松花江下游地区抗日联军部队的计划，分散和牵制了日伪军的兵力。但是，由于敌我力量悬殊，西征部队经常遭到日伪军的围追堵截，西证目标五常、舒兰地区被日伪军严密控制，得不到群众的有力支持，加之西证部队缺乏坚强统一的领导，故西证行动未能达到恢复哈东旧区和打通与东南满抗日联军第1路军联系的目的。抗日联军第4，第5军部队受到严重损失，其中，第4军主力损失三分之二以上，第5军主力损失三分之一以上。