9月16日，八路军总部发布第二阶段作战命令：
1.一二零师以切断同蒲路之交通目的，集结主力破击宁武、轩岗段同蒲路而彻底破坏之。
2.冀中、冀南部队以打击敌修筑沧石路、石德路、邯清路之目的，应集结主力毁灭各路之修复修成之部分及前线路基。
3.晋察冀军区以开展边区西北方面工作之目的，应集结主力破袭涞灵公路及夺取该两城，并以有力一部在同蒲路东侧积极配合一二零师之作战。
4.一二九师以收复榆社、辽县之目的，开展辽榆地区斗争，并以有力一部不断破击同蒲路北段。
5.晋察冀军区与一二九师原留在正太线行动之部队不变，并积极袭扰敌修复铁路。
6.挺进军应以有力部队在平汉路北段、平绥路及北平城郊积极活动；冀中应以有力一部在北宁路及津浦路北段积极活动，不断破路倾车，扩大影响，阻敌增援。
7.其余各大小交通线之配属作战部队，由各战略区自行配置之。……
百团大战发动后，从华北敌后到大后方的报刊都大力传播胜利的消息，祝捷电文、信件从四面八方飞向延安，飞向八路军总部，极大地鼓舞了人心土气。
连日来，延安一片热气腾腾，人们争先恐后传阅着每份《百团大战要报》，大街小巷贴满了庆祝百团大战胜利的标语。9月20日，延安全城放假，召开纪念“九一八事变九周年和庆贺八路军百团大战胜利”的大会。中共中央、中共中央西北局与陕甘宁政府机关人员，各大中小学的师生和各界群众，踏着《八路军进行曲》的雄壮节奏，排着整齐的队伍前来参加大会。毛泽东、朱德、洛甫、王稼祥、陈云、任弼时等在延安的政治局委员都出席了大会。
大会开始后，陕甘宁边区政府副主席高自立饱含激情地致开幕词。八路军总政治部主任王稼祥发表了演讲。朱德总司令代表党中央讲了话，他向在百团大战中光荣牺牲的4000余将士，表示至高无上的敬意，向光荣负伤和中毒的4000余将士，表示最热烈的慰问。他希望八路军继续发扬视死如归、勇往直前的精神，再接再厉，进一步扩大百团大战的伟大胜利成果。
在这一欢乐的气氛中，毛泽东也受到了强烈的感染。这位有着强烈诗人气质的领袖，用这样一封电报表达了他喜悦的心情：百团大战真是令人兴奋，像这样的战斗是否还可以再组织一两次？
在百团大战第一阶段宣布结束、各参战部队转入休整的1940年10月，中共中央发出了两个重要文件：《中央关于时局趋向的指示》和《中央关于“击敌和友”的军事行动总方针的指示》。《中央关于时局趋向的指示》郑重指出：“中央七七宣言及七七决定，对于国际国内形势的估计与我党政策的指示，经过两个月国内外事态的发展，已证明是完全正确的。目前国际国内的政治情况，正处在剧烈变化的前夜，我党对于这种变化，必须在精神上有所准备。”
根据对国际国内政治情况正处在剧烈变化前夜的这一科学分析，中共中央在《中央关于“击敌和友”的军事行动总方针的指示》中明确指出：
我八路军、新四军全部力量，在目前加强团结时期，应集中其主要注意力于打击敌人，应仿照华北百团战役的先例，在山东及华中组织一至几次有计划的大规模的对敌进攻行动，在华北则应扩大百团战役行动，到那些尚未遭受打击的敌人方面去，并在山东与华中方面继续扩大我军之数量，而给予二百万友军及国民党大后方与敌占区内千百万人民以良好之影响，给予敌人向重庆等地进攻计划以延缓的作用。
八路军总部领导人完全赞同中共中央在七七宣言和七七决定发布两个月后对国际国内政治形势所作的估计，完全拥护中共中央关于军事行动的指示。还在对正太路破击正酣的时候，彭德怀、左权等就按照毛泽东来电提出的“像这样的战斗是否还可组织一两次”的希望，开始考虑“在正太路不能继续坚持作战或已彻底完成正太战役任务之情况下，我军之行动方针”问题，曾经提出“乘胜开展正太线两侧之战斗，去收复敌深入各根据地内之某些据点”的设想，要求晋察冀军区组织涞（源）灵（丘）战役，打开边区北部之局面；第一二九师在榆社辽县公路组织以收复榆社、辽县为目的的榆辽战役。
9月12日，总部领导召开作战会议，总结第一阶段经验，布置第二阶段作战任务。彭德怀说：“同志们，这次战役部队确实打得顽强，打出了水平。可是，我们也付出了代价，没死的也累得走不动路了，许多部队十几天来没吃一顿饱饭，没睡过一宿好觉，不少战士眼睛熬得血红，累得倒头便睡。我们要通知各部队抓紧时间休整，改善伙食，吃饱了、睡足了，不要被胜利冲昏头脑，要作好充分的准备，准备第二阶段打得更漂亮。”然后，他站起身，走近地图说：“第一阶段正太路破坏得比较彻底，平汉、北宁、津浦、同蒲、白晋及其他公路，都已截断，第二阶段的目标是缩小敌占区，扩大根据地，在继续破路的同时，继续消灭敌人有生力量。”说罢，便向各部队下达作战任务：晋察冀军区发起涞源灵丘战役，力争夺取涞源和灵丘两城，破坏涞灵公路，派少量部队破坏同蒲铁路；一二零师破击同蒲路，将宁武至轩岗段彻底摧毁；一二九师发起榆辽战役，力争夺取榆庄、辽县城，并派一部兵力破坏白晋路；冀中吕正操部、冀南陈再道部重点破坏沧石、德石、道济路，攻克沿路据点。
四天后，八路军总部正式下达了百团大战第二阶段作战命令。
接到命令，八路军各部迅速行动起来。晋察冀军区以8个团、3个游击支队、2个独立营组成左、右翼队和预备队，于9月22日发起涞（源）灵（丘）战役，对该地区的日军独立混成第二旅和第二十六师及伪军各一部发动进攻。右翼队重点攻击涞源县城，由于缺乏攻坚器材，日军顽强抵抗，经通宵激战，未能得手。23日，转为攻击涞源外围日军据点。至26日，相继攻占叁甲村、东团堡等10余处据点。28日，由张家口增援的日军3000余人进抵涞源城，右翼队遂转移兵力于灵丘、浑源方向，协同左翼队先后攻占了南坡头、抢风岭、青磁窑等日军据点。10月9日，又有大同日军1000余人来援。晋察冀军区遂决定结束涞灵战役。此役共歼灭日伪军1000余人。
第一二九师以第三八六旅和决死队第一纵队两个团组成左翼队，以第三八五旅（附第三十二团）组成右翼队，于9月23日发起榆（社）辽（县）战役，向守备榆辽公路的日军独立混成第四旅展开攻击。至30日，左翼队经过艰苦奋战，攻占榆社县城，歼日军400余人。右翼队攻占榆辽公路上的小岭底、石匣等日军据点后，准备协同新编第十旅进攻辽县时，和顺、武乡的日军同时出援，第一二九师遂决定停止攻城，转移兵力于红崖头、关帝垴地区伏击由武乡出援的日军。第三八五旅在向伏击地域开进途中，与日军援兵600余人遭遇，经15小时激战，日军虽被消灭过半，但余部依托有利地形进行顽抗，双方形成对峙。同时，由和顺出援的日军突破新编第十旅狼牙山阻击部队阵地。在这种情况下，第一二九师遂撤出战斗，榆社复为日军占领。榆辽战役共歼日军近1000人。10月14日，第一二九师一部在和（顺）辽（县）公路上的弓家沟设伏，歼灭日军一支运输队，击毁汽车40余辆。
第一二零师为配合涞灵、榆辽地区的作战，对同蒲铁路北段进行了新的破击，再度切断了该线交通。第一二九师所属冀南军区以12个团的兵力，对日军正在修筑的德石铁路和邯（郸）济（南）铁路以及一些重要公路线，均进行了破击，共歼日伪军1700余人。晋察冀军区所属冀中军区部队于10月1-12日，举行任（丘）河（间）大（城）肃（宁）战役，攻克据点20余处，歼日伪军1500余人，破坏公路150公里。