8月20日，八路军总部所在地山西武乡县王家峪浓云密布，气压很低，闷热异常，预示着一场暴风雨即将来临。20时整，各兵团按总部统一规定的时间发起攻击。随着彭德怀一声令下，一颗颗攻击的红色信号弹腾空而起，刹那间，在5000里长的敌后战场上八路军全线出击，向华北的主要交通线开始了战役的总破击。这是一个永载史册的时刻。
亲自参加过战役指挥的聂荣臻元帅后来回忆说：
我清楚地记得那一时刻的情景，真是壮观得很啊！一颗颗攻击的红色信号弹腾空而起，划破了夜空，各路突击部队简直像猛虎下山，扑向敌人的车站和据点，雷鸣般的爆炸声，一处接着一处，响彻正太路全线。指挥所几个年轻参谋激动地对我说，他们参军以来，还没有见过这样红火的战斗场面。
由于事先成功的保密及佯动，正太路日军一点没有觉察这么大的战役行动。战斗一打响，沿线各据点同时被攻，日军猝不及防，处处被打，到处响起枪声和爆炸声，敌人的无数据点，同时发出了求援的电报和信号。石家庄、太原、阳泉各旅团司令部的日军指挥官，一时手足无措，不知从何处调兵，又往哪里增援。当日军清醒过来后，便开始组织顽强的抵抗，破击部队的攻击也更加猛烈，战斗十分激烈。
如同在前线激烈战斗的指战员一样，彭德怀在这一夜也是彻夜未眠。他的心情相当激动。这次行动是敌后抗战的第一次大的攻势行动，动员了八路军整个华北地区所有的力量，它将给日寇以沉重的打击，给那些认为八路军“游而不击”的人一记响亮的耳光，对全国的抗日形势产生重大的影响。一想到这里，彭德怀便心潮澎湃。他与左权坐在一起，沉思不语，任凭思绪像大海一样奔涌。
难熬的夜晚终于过去，源源不断的捷报随着曙光一道来到紧张而又安静的八路军总部。
聂荣臻所在晋察冀军区战报：杨成武部向正太路娘子关段及井陉以北各据点之敌突然发动猛攻，至今日获得序战胜利，连克乏驴岭、北峪、地都等据点，守敌共200余人被完全消灭，乏驴岭至地都段铁路及桥梁、碉堡、电线等悉被破坏。一部攻占井陉北贾庄镇、东王会，守敌百余人亦被消灭殆尽，并完全占领井陉煤矿，解放工人2300余人，所有矿井、机器全部炸毁，缴获正在清查中。郭天民部正向娘子关猛烈进攻中，双方枪炮声猛烈。
刘伯承第一二九师战报：在正太路西段破击的第一二九师左翼破击队陈赓旅，攻击了寿阳西南之芦家庄，生俘日军3名，连克碉堡4座，守敌被消灭净尽，完全占领芦家庄车站。芦家庄以西10里以内铁路桥梁完全被破坏。
贺龙第一二零师及冀南军区都发来了战报。八路军总部驻地一片欢腾。战役序战胜利，完全按照设想进展。作为战役的直接指挥者，彭德怀轻舒了一口气。
从21日到22日，八路军总部忙得不亦乐乎。刘伯承、聂荣臻等不断地报告正太路各袭击兵团破袭情况，其他配合破袭正太路战役的部队也纷纷传来捷报，同蒲路、平汉路、北宁路、津蒲路、德石路、白晋路等都战果辉煌，实现了预期的作战目的。
平常不苟言笑的彭德怀露出了难得一见的笑容。他问作战科长王政柱：
“我们参战兵力一共有多少个团？”
“正太线30个团，平汉线卢沟桥至邯郸段15个团，同蒲线大同至洪洞段12个团，津蒲线天津至德州段4个团，德石线4个团，白晋线6个团，北宁线2个团，平绥线2个团，汾阳至军渡公路线6个团，沧县至石家庄路线4个团，北平至大同公路线6个团，邯郸至济南公路3个团，代县至蔚县公路线4个团，辽县至平定公路线3个团，宁武、岢岚、静乐公路线4个团，一共105个团。”
王政柱话音刚落，左权说：“好！这是百团大战，作战科要仔细查对确数。”彭德怀听罢，接过话头说：“不管一百多少个团，干脆就把这次战役叫做百团大战好了！”从此，正太战役改称为百团大战。
此时，前线的战斗仍在激烈进行。
聂荣臻的晋察冀军区负责破袭正太路东段。此段有敌坚固设防的天险娘子关和重要燃料基地井陉煤矿。
娘子关是长城的第九座雄关，晋东的重要门户，是由冀入晋的咽喉要道。相传唐高祖的女儿平阳公主，曾率娘子军在此助父征战，故得名娘子关。早在三年前，八路军第一二九师就曾配合国民党军进行娘子关保卫战。娘子关在失陷前构有国防工事，日军占领后又依据险峻的山崖加修四个大堡垒，使该关防御能力进一步增强，可谓易守难攻。
20日20时，担任主攻任务的晋察冀军区右纵队第五团首先潜入娘子关村，解决了村里的伪军，然后依托村庄，仰攻日军堡垒。在日军密集的火力封锁下，攻关部队前仆后继，云梯被打断了，就搭人梯上，将绑腿带联结在一起搭上悬崖向上攀登。但占据有利地形的日军，凭借其优势装备，对进攻的八路军战士发起反扑，八路军正面攻击一时受挫。正当此时，由娘子关侧后迂回的部队，正好接近到日军堡垒群附近，由侧后向日军发起不停顿的攻击。日军被突如其来的攻击打乱，正面攻击部队乘胜登上陡峭的山崖。经过三小时反复冲杀，日军的堡垒最终被全部攻破，黎明时分，胜利的旗帜插上了被日军盘踞三年之久的娘子关。这是正太线最早攻克的重要战略据点。攻占娘子关后，第五团的勇士乘胜破坏了娘子关东面的铁路桥，并收割了敌人的大批电线。与此同时，右纵队第十九团对移粮、巨城、乱流和上、下盘石等日军据点发起猛烈攻击，歼灭了大量的敌人。
21日，日军得知八路军攻下娘子关，大为震惊，急忙抽调大批增援部队直扑娘子关，企图歼灭我攻占娘子关部队。聂荣臻早有所料，指示部队破坏敌堡垒后，主动撤离娘子关。当日军赶到时，已不见八路军的踪影，只好对着化为焦土废墟的娘子关发呆。
在井陉煤矿，中央纵队在年仅26岁的杨成武的指挥下，也取得了重大胜利。进攻部队在矿区工人的帮助配合下，切断矿区电源，靠夜幕掩护，向守敌展开猛烈进攻。经过一夜激战，到21日黎明，将敌人全部歼灭，并占领了东王舍新矿，对厂房、矿井进行了彻底破坏。14套开矿机器，10个锅炉，3台鼓风机，2个储水池，2个烟囱，1个绞车房，1个机电房，1个火车站，5座铁桥，以及矿区表面建筑全部炸毁。
正当晋察冀军区部队在聂荣臻指挥下，连克娘子关、井陉、贾元等车站的据点，破击正太路东段和日军的公路网时，负责破袭正太路西段的第一二九师，与日军展开了更激烈的战斗。
正太路西段，有日军独立混成第四旅团司令部、煤矿基地阳泉，还有榆次方面独立混成第九旅团的策应。针对这一敌情，熟谙兵法的刘伯承，经过缜密计算，认为敌指挥官第四旅团长片山骄横暴戾，器小易盈，战役发起之后，必会抽集大部兵力，进击八路军右侧背。为此，第一二九师把主要打击力量预伏在狮垴山一线，以防敌人侧背攻击，掩护破袭部队的破击行动。狮垴山虎踞阳泉大门，离城有八里之遥，控制着整个正太路的咽喉，地势虽不十分险峻，但位置重要。从石家庄往西直到阳泉，地形较为平缓，偶有高山。一过阳泉，则山势连绵，正太铁路从这里进入山区，狮垴山正是其进入山区的咽喉。
20日晚，战斗打响之后，第一二九师在全线投入40多个团的兵力，10倍于敌，造成了八路军占绝对优势的局面。敌人在八路军的强大攻势面前，只有招架之功，而无还手之力，战斗进行非常顺利，主动权一直掌握在八路军手中。经过一夜激战，第一二九师连续攻克芦家庄、和尚足、马首、桑掌等车站、据点，消灭了敌人的有生力量，为破路和进一步扩大战果扫清了障碍。到8月25日，正太路西段除寿阳等少数据点外，均为第一二九师所控制。刘伯承、邓小平利用这一机会，下令部队抓紧破路，提出“不留一根铁轨，不留一根枕木，不留一个车站，不留一个碉堡，不留一座桥梁，不留一根电杆”，动员组织民众，争取铁路员工，采取搬拆、爆破、火烧、水淹等方法，大力破坏铁路、车站及其附属设施。一条被日军视为命脉的“钢铁封锁线”就这样瘫痪了。
正太路全线大破袭的消息传到阳泉日军第四混成旅团司令部，片山省太郎旅团长惊得目瞪口呆。他慌忙把阳泉600名日军全部集中起来，并将500名侨民也武装起来，强迫他们投入战斗。不出刘伯承所料，日军倾其所有力量，动用了1500人，从21日起向狮垴山发起了猖狂进攻，企图夺取这一关系战役成败的要点，阻挠八路军战役计划的进行。
担任守卫狮垴山任务的是陈锡联的第七六九团。这个团的前身是红四方面军的第10师，作战历来有狠、硬、快、猛、活的作风。据当时任第一二九师参谋长的李达回忆，第七六九团发扬勇敢战斗的作风，凭险阻击，顽强战斗，仅21日，敌人就伤亡百余，遗尸40余具。22日晨，敌200余人又向狮垴山东北高地进攻，激战终日，仍无进展。眼见伤亡不断增加，而狮垴山阵地却久攻不下，片山恼羞成怒，于次日以优势的地面炮火对我阵地狂轰滥炸，并大肆施放毒气。午后，敌机20余架，又轮番低空轰炸、扫射，然而狮垴山阵地仍是岿然不动。就这样，狮垴山争夺战，整整坚持了六昼夜，有力地保障了左翼部队的行动，大煞了“赫赫皇军”的威风。左翼部队连日在高平、道坪、红凹、卷峪沟地区作战，全歼从太谷出犯之敌第三十六师团永野大队400余人后，安全转移。
根据八路军总部的整体部署，贺龙第一二零师的任务是配合正太线的破袭作战，破袭同蒲线大同至阳曲段、汾（阳）离（石）公路和忻（县）静（乐）公路，重点在阳曲南北，阻敌增援正太线。
师长贺龙、政委关向应决定投入20个团发起破袭战。第一二零师发起破袭战役后取得的第一个大胜利是收复康家会。
忻静公路远远地伸入晋西北抗日根据地腹地，对晋西北抗日根据地构成了极大威胁。康家会则是忻静公路上日军最大的据点，紧挨着据点是一个大粮站，由日军第九独立混成旅团第三十九大队一部50余名日、伪军守卫。康家会西侧利润村驻有10余日军，东侧石神树驻有30余名日军。如果能趁此次交通大破袭战，狠狠地收拾一下康家会据点的日军，就会把日军变成缩头乌龟，使其不敢轻举妄动。
21日夜，攻击康家会的战斗开始了。鬼子的掷弹筒和机关枪，像骤雨加冰雹一样，从碉堡里向外射出来。而战士们投出的手榴弹，也在小碉堡旁边爆炸了。突然听见“轰”的一声，鬼子的机枪像哑了似的，不再出声了。西边六连的一个战士，从房顶上掷下一颗手榴弹，在敌人的掷弹筒旁边开了花，掷弹筒也收起了它的鸣叫。此时，嘹亮的军号声响起，划破广漠的夜空，战士们一个个像猛虎一样，从临时挖掘的工事坑里跳出来，向前冲去。康家会的日军被全部歼灭。
空前规模的大破袭战，自正太线首先发起，尔后迅速扩展到除山东以外的整个华北地区和主要交通线。其中包括：冀察全境、晋绥大部和热河南部地区；正太、平古铁路全线，安阳以北的平汉铁路，德州以北的津蒲铁路，临汾以北的同蒲铁路，归绥以东的平绥铁路，北宁铁路的山海关至北平段，白晋铁路的平遥至壶关段，以及正在修筑的德石铁路、沧石公路等。
在5000里敌后抗日战场上，105个团，20余万人一起奋战，构成了中国抗日战争史上的宏伟景观。