1941年上半年，日华北方面军为巩固占领区，确保重要资源开发地区及主要交通线的安全，先后对鲁西、冀鲁豫边、冀东、冀中等平原抗日根据地进行分期、分区的大规模“扫荡”，企图利用平原地区青纱帐未起的时机，围歼八路军的主力及其领率机关，摧毁抗日根据地。各抗日根据地军民齐心协力，艰苦奋战，粉碎了日军的“扫荡”，坚持了平原根据地的抗日斗争。
日华北方面军根据其大本营和中国派遣军总部关于适应形势演变，加强占领区的“治安肃正”作战，将华北建设成为南进的巩固后方的指令和年度的“治安肃正”计划，决心继上半年“扫荡”平原各抗日根据地之后，重点“扫荡”山区各抗日根据地。其特点是：以其机动兵团及由各地抽调的兵力，构成暂时的局部的兵力优势，在方面军或军的统一指挥下，采取“铁壁合围”、“梳篦清剿”，进行较长时间的、大规模的残酷的“扫荡”，力图围歼各抗日根据地的党政军领率机关和主力部队，摧毁抗日根据地，使八路军失去生存的条件。
1941年7月9日，日华北方面军司令官多田骏下达对晋察冀抗日根据地作战的命令。其方针是：“在击溃晋察冀边区共军及消灭其根据地的同时，结合封锁，破坏其自给自足，进而消耗、困死该地区的共产势力。”参战兵力为方面军直辖兵团及第1、第12军、驻蒙军各一部，区分为进攻兵团和封锁兵团。进攻兵团又区分为甲、乙、丙3个兵团，统由方面军直辖，任务是深入抗日根据地内作战，甲兵团以第21师团1个联队为基干编成，作战开始前部署在北平附近；乙兵团以第110师团第133旅团为基干编成，作战开始前部署于石家庄附近；丙兵团以第33师团为基干编成，作战开始前部署于太原附近。封锁兵团由华北方面军直辖部队及第1军、驻蒙军各一部组成，分别在平汉路北段、正大路全线、同蒲路北段及涞源、广灵、灵丘一线，对晋察冀边区构成封锁包困。其任务是：“切断与敌地区的一切交通，以防止敌人逃跑，在不得已情况下，应将逃出之敌予以歼灭”，并负责进攻兵团的供应、援助，必要时，派出部队深入抗日根据地配合进攻兵团作战。
计划作战分两期进行。第一期，预定约2个星期，“在此期间应向敌区进攻并击溃敌集体战斗力”；第二期，预定约7个星期，“在此期间，各进攻兵团应分别在备该作战区内搜索、扫荡残敌，并搬出和破坏敌资村设施”。日军参战兵力共6万亲人，另有伪军1万余人。8月14日，日军采取“铁壁合围”的战法，开始了对晋察冀抗日根据地的大“扫荡”，号称“百万大战”。由新任华北方面军司令官冈村宁次亲自指挥。
晋察冀军区根据八路军总部6月21日关于日军中条山作战后可能大举“扫荡”抗日根据地等指示和敌情的重大变化，于7月22日发布反“扫荡”训令和政治工作指示，要求全区军民做好长期反“扫荡”的各项准备。
8月14日，日军开始“扫荡”，对晋察冀军区部队实行“铁壁合围”，重点“扫荡”北岳和平西地区，日军为了隐蔽其“扫荡”企图，首先以甲兵团“扫荡”平北抗日根据地的古北口、密云地区；以乙、丙兵团“扫荡”冀中地区深泽、安平、无极、安国等地区。同时，以封锁兵团2万亲人对北岳、平西区实施封锁包围。晋察冀军区察明日军动向后，于8月21日发出作战命令，要求各部队继续完成反“扫荡”准备工作，严密组织对敌之纵深侦察，防敌突然袭击。
日军在对平北和冀中地区“扫荡”后，突然于8月23日将“扫荡”重点转向北岳和平西地区。其甲兵团3000余人由红煤厂、涿县、涞水等地分3路向平西十渡地区围攻；乙兵团8000余人由定兴、方顺桥等地分3路向北岳娄山、水泉地区围攻；丙兵团及其他部队共1.5万余人，由新乐、正定、井陉等地分3路向中共晋察冀分局等机关所在的陈家院、陈庄地区围攻。另以封锁兵团的5000余人由马家庄、东峪、上庄等地出动，配合丙兵团向晋察冀军区机关所在的蛟潭庄、湾子里、六亩园围攻。
当各路日军即将形成合围之际，晋察冀军区为避敌锐势，保存力量，遂以主力一部结合地方武装留在原地，开展广泛、分散的游击战，与日军周旋，消耗、疲惫日军；边区党政军机关迅速转至阜平西北的马驹石，主力部队则按预定计划进至平汉、正太路和进攻之敌的侧后，对敌交通线、据点进行袭击，在敌必经的干河、劳山、温塘等地伏击或阻击，速战速决，杀伤日军。日军合围扑空，31日，以甲兵团6000余人分6路合击位于蓬头、小峰口的平西地区党政军领导机关，再次扑空。与此同时，日军乙、丙兵团等部共5万余人，对转移至阜平地区的晋察冀边区党政军领导机关进行大规模合围。9月1日，晋察冀边区党政军机关、学校近万人被合围于阜平以北以雷堡为中心东西约25公里，南北约35公里的狭窄地区内，处境十分危急。晋察冀军区首长决定向西转移至常家渠一带山区。为迷惑日军，军区于1日黄昏派侦察分队携带电台，到雷堡以东的台峪一带，以“军区呼号”与各方联系，故意暴露目标，使日军误认为，八路军领导机关已向东转移并仍在其合围圈内。2日下午，日军果然分兵7000余人向台峪合击。晋察冀边区领导机关、学校乘机于当晚西进40公里，转移到常家渠一带山区。同时中断与各方的无线电联络，在日军重兵包围中成功地隐蔽了5天。7日，军区领导机关安全转移到平山的东西文玉地区，继续指挥反“扫荡”作战。日军围歼晋察冀边区领导机关和主力部队的计划遂告破产。
9月4日，日军转入第二期作战，对抗日根据地进行“梳篦清剿”。进攻兵团各部以大队或中队为单位分驻各要地，在封锁兵团一部配合下，一面“搜剿”八路军，破坏地方组织，捕杀群众；一面有组织地摧毁抗日根据地和掠夺物资。闯入根据地腹地的日伪军行动更为谨慎，手段更加狡猾，经常用化装、奔袭、杀回马枪等手段大肆“清剿”。日伪军先以主力控制制高点，再以小部队深入山沟搜挖“剔抉”，且多于夜间行动。为粉碎日军的“清剿”，晋察冀军区于9月7日和15日先后发出指示，要求各军分区，一面适当集结主力一部，打击日军的交通运输，消灭日军搜山“清剿”部队；一面采取更大的分散的游击战，打击日伪军和伪政权，恢复社会秩序。同时，要求地方武装和民兵以游击战掩护群众收割、保藏粮食，保卫秋收。北岳，平西地区军民遵照上述指示，积极开展反“清剿”斗争。
9月24日，日军以3500余人的兵力，“搜剿”狼牙山区。此时，在狼牙山区隐蔽着涞源、易县、徐水、满城4县的中共党政机关、游击队和周围村庄的数万群众。晋察冀军区第1军分区以第1、第3、第20团掩护狼牙山的数万军民转移。第1团第7连第2排第6班5位战士断后，25日，毅然将日军引向狼牙山绝境棋盘陀，先后打退敌4次冲击，毙伤敌90余人，直到打光最后一颗子弹利手榴弹，砸完最后一块能搬动的石头，誓死不屈，英勇跳崖，班长马宝玉、战士胡福才、胡德林壮烈牺牲，副班长葛振林、战士宋学义被山腰树丛架住，由群众救护脱险。后被誉为“狼牙山五壮士”。
9月24日，日华北方面军命令进攻兵团集结回撤。甲兵团首先于10月1日开始逐次回撤。到10月15日，日军进攻兵团、封锁兵团基本撤出抗日根据地。日军回撤时，晋察冀军区迅速集中主力部队，在地方武装和民兵配合下，袭击、伏击、追击日军，给日军以有力打击。在北岳、平西反“扫荡”期间，晋西北、太行、太岳、冀南、冀鲁豫、冀中、冀东抗日军民，遵照八路军总部指示，对平汉、同蒲、正太、北宁等铁路和部分公路展开破击作战，袭击日军据点，破坏其交通，有力地配合了北岳、平西军民的反“扫荡”斗争。
在2个多月的反“扫荡”斗争中，北岳、平西区八路军部队共作战800余次，歼灭日伪军5500余人，粉碎了日军企图消灭晋察冀边区领导机关和主力部队、摧毁抗日根据地的“百万大战”，但也付出了重大代价。八路军伤亡2000余人，人民群众伤亡4000余人，房屋被烧毁15万余间，粮食损失6000余万斤，给根据地人民的生产和生活造成了严重的困难。