前面提到的第3军团115旅朱旅长和黄副旅长率两团增援莒县，在莒县同板垣师团的田野旅团进行激战，而后摆脱敌兵的尾追，沿沭河两岸撤退到临沂东面的相公庄一带进行休整。
田野旅团是不会善罢甘休的，他们焚烧完日本兵的尸体，便跟着追了上来。一直朝第3军团的前进阵地汤头逼进。3月3日便开始同守卫在汤头阵地上的116旅的232团接上火了。
战火一开，直接进入白热化的阶段，中间没有丝毫的过渡。十几架飞机轰炸扫射，密集的排炮射击，炮弹在守军阵地上掀起一层层泥沙，十几辆坦克和装甲战车轰轰隆隆地推了过来。第116旅的官兵没有畏惧，他们坚守在阵地上，用手榴弹炸坦克，拿机关枪扫射战车身后的步兵，用最原始的武器同日本机械化部队拼杀，竟然在汤头阵地坚守了三四天的时间。
临沂城的老百姓能出动的全都出动了，他们冒着日军的炮火给自己的部队运军火、送水送食品、救护伤员。青年学生组织战场救护队，为伤员包扎伤口，义务献血。山东人民的英勇行动，激励着前线的战士。前线将士不怕牺牲的精神，同样感染着临沂的百姓。他们共同组成一道抗击侵略者的铜墙铁壁，用生命和鲜血保卫着自己的家园。
第116旅232团损失惨重，伤亡2\/3。军部命令放弃汤头，撤到后方休整待命。汤头撤守，后面的白塔阵地吃紧。军部命令守卫在那里的116旅的231团坚守住，一定要死死地拖住、顶住田野旅团主力的进攻。庞炳勋命令从垛庄赶回来的补充团从葛沟以北抄袭敌人的右侧背，又命令相公庄115旅的第229团沿沭河东岸抄袭敌人的左侧背，两团的抄袭要快要狠。
抄袭后路的两团官兵在各级长官身先士卒的带动下猛冲猛打，像拼命三郎，让凶恶的日军无法招架，中国军队左右包围，日军只好放弃白塔一带被占领的村庄，撤回汤头镇去。守军收复汤头以南阵地。
田野旅团在汤头镇等到了援军，前来增援的是坂本旅团的一部，约有5000人马，还配置有大炮30余门，坦克20余辆。两个旅团会合在一起，于3月9日在田野旅团长的指挥下，又向临沂守军发动进攻，企图强行通过临沂，向台儿庄进发。
从日军进攻的形式上就可以看出，他们根本没把对面的守军当一回事儿，没有什么战术不战术的，就是天上飞机，地上大炮坦克。两个旅团像一群大马蜂，集团式地压过来。
日军的这个战法，事前庞炳勋就预料到，骄兵，必然表现自己的架势，他们不会胆小谨慎，而是集团式地一窝蜂朝你扑来，从精神上压垮你。所以第3军团要坚守临沂，必须针锋相对，也把家底亮出来，抵挡住这股洪水猛兽，否则便会一败涂地。只要能抵挡这股势头，就能把敌人扼制住。
他在指挥部命令116旅死守正面，115旅为右翼，其余的部队为总预备队。各部务必死打硬拼，把阵地坚守住。
徐州的李宗仁长官也知道临沂的情况，他来电指示，临沂为徐州屏障，必须坚决保卫，拒敌前进。已命张自忠第59军前往增援，并派本部参谋长徐祖诒前往临沂。
临沂保卫战打得太惨烈了。
第116旅的正面阵地上，整排整连甚至整营的战士倒下去了。守军阵地不断被日军突破，双方在阵地前的肉搏战都很凶狠，尸体累累。庞将军在指挥部里拄着拐棍不停地走动，前沿阵地吃紧，他不仅将自己的卫队送上了第一线，而且连马夫、伙夫、担架兵、运输兵都投入进去了，凡是能拿枪的活人全部上了战场。
庞炳勋跨出房门，站在司令部的院子里，周围枪炮声很刺耳，成群结队的飞机俯冲扫射，朝守军阵地狂轰滥炸，浓烟四起。在他的院子里，不时飞来敌机扫射的子弹，打在墙上发出咚咚的声响。庞炳勋一动不动地伫立着，目不转睛地凝视着前方。
几名贴身卫士用身体挡住庞将军的身子，他们请求军团长进防空洞避一避。庞炳勋推开他们，都什么时候了，有什么好避的？你们都给我过河作战去。他把拐棍朝前指着说，一个都不要待在这里。
4个卫士不动步，他们仍护着庞将军。庞炳勋把拐棍敲在地上，走呀！怕死吗？谁是孬种我先枪毙谁！他大声呵斥道。卫士吓一跳，庞将军平时对他们可好了，很和气，爱兵如子。今天这是怎么了？当然他们心里也明白，不到万不得已的地步，将军是不会这样的。4个卫士向庞炳勋跪下，算是行了个告别礼，异口同声说，将军多保重。
几十年的戎马生涯，庞炳勋还是第一次遇到如此恶劣的大战，也是他第一次下这样的狠心和决心。要是放在军阀混战那阵子，他早带着队伍转移了。现在不行，转移到什么地方去呀？外国列强都打到你的门上了，作为一名军人，能丢下你的父老乡亲不管吗？任何一个有良心的中国人、任何一个有血性的军人都不会这样做。
司令部只剩庞炳勋一个人了，他把自己的战刀从刀鞘里抽出来，摆放在案桌上，他看着雪亮的刀刃，悲壮地笑了起来。这时桌上的电话铃响了，是前线总指挥马法五打来的，他在电话里大声嚷道，敌人的进攻太猛烈了，正面已经顶不住了，你看怎么办呀？
马法五！庞炳勋大吼一声说，司令部现在只有我一人。好呀，我拄着拐棍到你那里去行不？
我这里已经没有人了！马师长哭丧着嗓子说。
庞炳勋也是万分焦急，他无法控制自己，粗暴地说，没人了你自己上，丢了阵地别回来见我！吼完这句话，他把话筒狠狠地摔在了电话机座上。
这回完了，庞炳勋想，5个步兵团这回要拼光了，不快点想想办法看来真是不行了。他围着电话机犹豫起来，真想给徐州第五战区的李长官挂个电话，请求他速派救兵。但是，他拿起电话，只把话筒在手里握了握，便又放下了。作为一个军团长，第五战区全局的情况多少是知道的。眼下滕县方向也处在危急之时，津浦南北战线都在厮杀。他李宗仁也是无能为力的，不可能抽出援兵来解救临沂的。
庞炳勋这回真是死心了，他用电话向前线各指挥部发出死命令，打完拼光，坚持到最后一人。誓同临沂共存亡！他把死命令发出后，心里倒轻松起来。人不过一死，李宗仁长官说得对，为国牺牲值得！
前沿阵地断绝等待援兵的念想，他们全都豁出去了。第3军团的作战部队不仅打得顽强，他们还很机智，不是鲁莽地死打硬拼，还动了不少脑筋。在敌人大炮轰炸、飞机扫射的时候，他们并不作无谓的牺牲，而是进掩体，钻防空洞，注重保护自己。大炮停止，飞机走后，他们一个个又回到阵地。
李振清的补充团坚守在葛沟阵地上采用灵活机动的战术打击进攻的敌人。像第2连，在遭受日军300多人的9次冲锋时，连长牺牲了。1排长任连长后又牺牲，2排长再任连长。他们在没有得到上级任命时，主动承担指挥任务，致使全连各排协调作战。
排长李宗岱就是在火线上升任第2连连长的。王连长牺牲，李玉亭任连长。李玉亭连长在敌人第6次进攻时牺牲了。李宗岱站出来当连长，他大吼一声，全连听我指挥。敌人骑兵过来了，瞄准马头，打！他一声令下，机枪步枪一起吐着火舌，密集地射向敌人的骑兵。前面的大洋马倒下，绊倒后面的马，骑兵的阵脚被2连打乱，被迫在弹雨中夺路逃窜。
李宗岱抓住这个缝隙，组织五六十人的敢死队，利用地形，在朦胧的夜色下，迂回到日军进攻部队的中间，出其不意地拦腰来了个突袭。他们冲进去朝前朝后猛掷手榴弹，在日军机枪阵地夺得一挺歪把机枪和两箱子弹。敢死队员打完手榴弹，抽出背上的大刀，一个劲儿地向敌人头上猛劈。敌人猝不及防，他们根本没想到中国军队会这般英勇，一时竟乱成一团，抱着头向后溃逃。李连长见出击取得很好的效果，还有不少缴获，马上撤回阵地。等敌人明白过来的时候，第2连的敢死队已经返回阵地了。
补充团第2连的胜利，后来还得到军团长庞炳勋的嘉奖。李宗岱连长后来在回忆文章中很自豪地描述了这个战例。当然，在后来的战斗中，他的第2连只剩下20多名战士。但是他们坚守的阵地，没有被敌人突破。
正当庞炳勋的第3军团与日军在临沂外围激烈争夺，临沂面临灭顶之灾的危急关头，第五战区司令长官李宗仁电令张自忠的第59军火速增援临沂，同时把这个消息致电庞炳勋。
决心打光拼光的庞炳勋接到李长官的电报后大喜，他用手指沿着地图上的线条寻找着张自忠将军的位置。远是远了些，但远水是可以解近渴的，关键是看谁来为你送水。援兵是第59军，那是张自忠率领的。庞将军对身边的参谋说，张自忠我还不了解吗？要是换了别人我不敢说，是他这个小老弟，让我吃了颗定心丸。
庞将军命令收缩防线，重新调整部署，把115旅放在城郊桃园至蒋家庄一线，调116旅防守蒋家庄至黄山一线，其他部队控制县城城关地区，算是预备队罢了。第3军团已损失一半，兵力虽然比过去少了许多，但收缩防线后，防御战线缩短，区域不算很大。只要第3军团的全体将士发扬前两天的拼命精神，守两天是没有问题的。现在大家都知道张自忠将军的第59军正朝这里开来，信心更足了，拼战的劲头更大了，因为将士们看到了希望。
第3军团除监视日军的部队之外，可以说动用了全部力量构筑工事、掏挖掩体和防空洞。城里的老百姓也组织起来，向阵地运送弹药、粮食，捆绑担架，他们全力以赴地为第二天更为激烈的战斗准备着。