张自忠的第59军在庞炳勋第3军团的配合下，在临沂县汤头镇一带将日军第5师团主力坂本支队包围住。让张自忠遗憾的是，这股残敌没有被歼灭。第五战区司令长官李宗仁的一份电报，把他的第59军给调走了。什么事会这么急呢？当然有事，很可能是大事，不然李宗仁长官是不会在这个节骨眼上给他发电报的。张自忠不敢怠慢，只好留下遗憾，将114旅调给庞炳勋指挥后，率领自己的部队朝费县去了。
第五战区当数张自忠最辛苦，战区的机动部队能不辛苦吗？方圆数千里的防区，什么地方顶不住了，什么地方吃紧了，什么地方日军又增兵了，这一系列的事都需机动部队去解决。所以碰到的全是残局、败局和恶仗。但是张自忠同他的第59军全体将士没有怨言，从没说过不满意的牢骚话。他们就这样南来北往，东奔西走。
这次战区的紧急调动，其缘由开始张自忠并不知道。他只是凭一个军人的经验断定出大事了。在通往费县的行军路上，张军长才陆陆续续接到战区给他发来的情况通报，了解到事情的原委。
就在第59军同日军板垣师团主力进行最后一搏的那天，在他的左翼，川军将士浴血奋战，万名中国军人同滕县共存亡，最终城毁人亡，在中国抗战史上写下了悲壮的一页。让张自忠心痛的是万名中国士兵和优秀将领王铭章的生命，他从王铭章的身上看见军人的气节，民族的气节，那是他所向往的，生当作人杰。他没有时间考虑个人的生死，当务之急是费县的防务，如何抵挡骄横的矶谷师团。
矶谷廉介师团占领了徐州的北大门滕县，狂妄的劲头无法用语言文字来表达。他们站在滕县的废墟上直指徐州。的确，滕县沦陷，徐州的左臂被斩，而右臂又被日军的第5师团给缠住。如同一个人，双手不能保护自己的身体，只好裸露着胸膛让别人捶打一样。徐州危在旦夕。
为阻止矶谷廉介师团南下台儿庄和徐州，第五战区制定了一个作战计划，想集中兵力，把津浦铁路正面的敌人彻底消灭掉，确保徐州战区的安全。所以才急电张自忠将军的第59军去费县一带，堵住滕县矶谷师团与板垣师团之间的通道。然而第五战区要击破铁路线上的正面之敌，从什么地方集中兵力呢？前线都非常吃紧，抽调不出一兵一卒。所以说，第五战区对津浦铁路正面之敌的作战计划，只是战区司令部的一厢情愿，根本无法实施。
唯一可以调动的部队，就是第59军的这支机动部队了。但是，当张自忠的第59军刚刚离开临沂，还没有到达费县的时候，庞炳勋便十万火急，一封接着一封的电报发往徐州：临沂告急，临沂危在旦夕。
李宗仁无奈。在丢了滕县之后，临沂不管怎么说都是丢不得的。如果临沂再守不住，徐州就没意义了，第五战区的整个防线便会土崩瓦解。李宗仁不得不发电报给张自忠将军，让他原路返回，解救临沂之危。
板垣师团见被围在汤头镇的坂本支队没有被攻击，第二天中国的围攻部队不翼而飞了，便知道其他什么地方发生变故。不到一天的时间，日军就获得大量的情报，知道张自忠的第59军去了费县，于是板垣征四郎开始对临沂进行疯狂地反扑。
板垣征四郎对临沂穷凶极恶，不仅仅是因为前次战役的仇恨，更重要的是矶谷师团已占领滕县，正在一路清剿着开往台儿庄。滕县到台儿庄路程不远，沿途又没有什么抵抗力量，凭着第10师团机械化的力量，要不了两天便能抵达。
板垣征四郎急啊！华北方面军寺内寿一大将倒还客气，来电只是询问情况，临沂打了快一个月的时间，怎么还没有拿下来呀？这话听起来像是柔和，然而板垣的后背却出了冷汗。第2军的统帅就没有这么客气了，西尾寿造很愤怒，他对第5师团的表现大为不满，限令板垣征四郎两天内占领临沂，并快速南下台儿庄，与矶谷师团会合，共同完成大日本帝国的侵略意图。
3月22日，从滕县南下的矶谷廉介第10师团已进入台儿庄地区。第二天，就深入到台儿庄的泥沟车站。板垣征四郎听到这个消息时，一下子瘫坐在椅子上，先入关者为王，莫非这个头功就这样让矶谷和他的第10师团抢去了吗？于是板垣师团全军推进，企图从临沂城西北通过，直扑台儿庄，追赶矶谷师团。
事情不像板垣征四郎想的那么顺利。他们在临沂外围遭到了庞炳勋第3军团和第59军114旅的阻击，在临沂城东的埠前店、三官庙一线激战一整天。板垣师团太强大了，再加上他的丧心病狂，把仗打得让人心颤，战火烧得遮天蔽日。庞炳勋第40军在杀伤大量日军的同时，自己也付出了惨重的代价，甚至不得不组织一批学生队，把他们也送到了第一线去作战。
板垣师团进攻势头不减，在天上飞机的掩护配合下，几十辆坦克战车横冲直撞朝前推进。庞炳勋的第40军没有办法，他们节节败退，最后只好以临沂县城为依托，第59军的114旅和庞炳勋的第40军勉强防守在九曲店、小李家庄、石埠岭一线，其余地方全被日军占领。
从费县回援的第59军108师于3月25日到达临沂城北。十分疲劳的108师没有时间休息，在回援的路上便同日军遭遇在城北的毛家庄、北道一带村庄，当即发生激烈战斗。第26旅的张宗衡身先士卒，亲率全体官兵杀出血路，冲入敌阵地，以排山倒海的气势压倒敌人，并消灭了日军一部，致使另一部向后撤退。第59军主力上来，抢占有利地形，阻击敌人。
张自忠军长命令第38师黄维纲在临沂北面同日军展开野外作战，令第108师在临沂城西作战，以策应庞炳勋的部队坚守县城。敌我双方处在交织状态，各处的战斗打得难解难分。
板垣征四郎看来是破釜沉舟了，他从三面朝一线增兵。临沂城西压力最大，那里的日军增加了一个旅团，并且兵器弹药充足，火力异常猛烈。
第38师在黄师长的指挥下，奋力抗击。
第108师在城北也打得十分艰苦，所有村庄阵地遭到几十架飞机的轰炸，村庄房屋烧尽，阵地相继失守。第26旅的1个团在阵地上同日军血战两个昼夜，全部壮烈牺牲。
英勇的第59军也处在危机之中，像铁一样坚硬的张自忠从来都没有向上级叫喊过一声，今天他不得不给第五战区司令长官李宗仁发电报了。当时任作战参谋的顾相贞回忆说：
全军被迫收缩战线，在七德、丰家庄、前后岗一带占领阵地。此时，虽遭严重损失，但全军上下，斗志不衰，3月29日张军长在给第五战区长官李宗仁的电报中表示：“职军两日以来伤亡两千余人，连前此伤亡达万余人。职一息尚存，决与敌奋战到底。”
3月29日后，我军得到第五战区派第五军的王肇治旅及汤恩伯部队的骑兵团前来增援的消息，全军士气更加高涨。
张自忠军长把好消息发布全军后，又给张宗衡旅长送去一道手令，他告诉张旅长三条：一是援军今夜准到，务望再撑5小时，即有转机。这个时期就是最后5分钟，我弟之苦撑，如所深知，按前几天之战争，与团体有极大之功勋，这两天之经过，又如此拼命，实在不能不为国家、为团体感佩。望再接再厉，以竟全功。二是战争已到最后关头，看谁能忍受最后一分钟，谁就能成功。三是我困难，敌人困难更大；我苦战，敌人的苦必是我们的数倍，望率所部支撑眼前这一极短时间。
远在徐州第五战区的李宗仁，对临沂方面的情况十分关注。就在这个时候，台儿庄也打得异常激烈，孙连仲的第2集团军同矶谷师团在台儿庄寨内作生死拉锯战。
矶谷师团在台儿庄受挫，不停地朝东北方面军最高统帅部和第2军指挥官喊话。而第2军的指挥官又在不断地臭骂板垣征四郎。台儿庄日军同日本东北方面军，又同第2军及第5师团形成了一个连环套，一环扣着一环。所以，板垣师团不得不拼命，不得不作垂死较量。关于这一点，李宗仁看得比较清楚。不管台儿庄打得多血腥，他也得调兵遣将去临沂帮上一把。
临沂不守，让板垣师团过来，机械化的部队一天就可以到达，那么台儿庄孙连仲的第2集团军就彻底完蛋了。孙连仲被打垮或被吃掉，战区的战略方案将全盘皆输。台儿庄之战的关键，取决于临沂的安危，这是明摆着的事，谁都看得非常清楚。不仅李宗仁要增援临沂，蒋委员长也不敢怠慢。
张自忠在全军最困难的时候，把兵力作了重新调整。目的是为了配合援军，一旦援军到来，便可全线出击。为此，他还给庞炳勋军团长和第114旅通了话。他们决定一鼓作气，把当前的板垣师团彻底打垮。
国民党第57军的王肇治旅和汤恩伯的骑兵团如期赶到临沂。张自忠军长决定于3月30日拂晓出其不意实行反击。板垣师团不知中国军队有增援，在没有思想准备的情况下，被中国军队的反攻搞得晕头转向，日军部队一下子被拦腰截断，分成了两块独立的阵形。
中国军队的反攻如猛虎下山，板垣师团的主力一下子就被击垮，被迫向北溃逃。另一部分日军更惨，他们被前后夹击，只好朝西抱头鼠窜，躲进一个叫朱阵的村寨中，闭上寨门，在里面困守。这次战役大大伤了板垣的元气，日军兵力损失过半。
日军的第5师团从3月初发起临沂战役，苦战1月之久，仍没有取得什么成果。在临沂受到重创，是这支王牌部队入侵中国以来继平型关受挫后遭到的第二次严重挫折，板垣征四郎丢尽了脸面。他寝食难安，恼羞成怒，萎靡不振，几次都要剖腹自杀，谢罪天皇。
据资料统计，临沂之战，第59军及第3军团以伤亡1.5万余人的代价，致使日军第5师团伤亡5000余人，比例为3：1。从中我们可以看出中国军队不怕牺牲、勇于拼搏的大无畏精神，在日本列强面前，在武装到牙齿的日本军队面前，中国军队和不屈不挠的中华民族，只凭手里的大刀、长矛、土枪、土炮，宁死不屈，宁死不当亡国奴。
临沂之战最为重要的是，第五战区砍断了津浦路北段日军的左臂，彻底粉碎了日军会师台儿庄、攻取徐州的计划，并促成和保证了台儿庄会战的胜利。
临沂大捷，是国民党军队抗战以来胜利之先例，也是国民党军队正面战场取得的第一个胜利，大大鼓舞了中国军队的士气。全国抗日军民为之振奋，对临沂大捷作任何评价都不为高，正如李宗仁这个战区司令长官所说的：造成台儿庄大战前的一出辉煌的序幕战。是啊，没有临沂大捷，哪来后来的台儿庄大捷呀。
这里还要说的，就是庞炳勋这个杂牌军，竟凭着手里的破枪、大刀，打败了日军的王牌第5师团。庞炳勋将军一战成名，赢得全国军民的高度赞扬。特别是张自忠，以他英勇卓越的表现，彻底洗刷了他抗战前期的屈辱。因他屡建奇功，国民政府特颁令撤销对他的“撤职查办”处分。4月30日，张自忠升任第27军团军团长，指挥第59军和第92军，继续对日作战。