第52军虽然抵达兰陵镇，并且随后向西南方向推进一段距离。但是扔然没有和孙连仲的第2集团军取得联络。
李长官一怒之下。再次将汤军团的避战情况电呈蒋委员长知晓，并在给汤恩伯的电报里面说道：“着贵军团长以一部监视峄县，亲率主力前进，协同孙连仲部肃清台儿庄方面之敌。限时到达，勿得延误为要。”
事实上汤恩伯此时已经接到了蒋委员长从武汉发来的“御电”，他知道20军团绝不能再继续龟缩不前。不过由于汤军团之前一直没有下定参战的决心，所以下属的几个军多数没有都做好战争准备，并不是还要做保守实力的打算。仓促之间，汤恩伯只能派出一直主战的关麟征第52军先行出击。
这次接到李长官的电令之后，汤恩伯虽然还是大骂了几句，但也没有做任何的反驳，在第20军团的后续部队做好战斗准备之后，汤恩伯立即督促他的20军团全面展开进攻，他本人也前往洪山镇、兰陵镇一线坐镇指挥。
突在最前面的关麟征第52军从距台儿庄以北十几公里处的甘露寺，向日军侧面压过来。在20军团这支生力军的猛攻下，矶谷师团节节败退。战至4月6日下午13时，20军团先后攻克马庄、大庄、张楼、贾家埠、小集、兰成店、三佛楼等地，收复村庄十余座，将战线向前推进4公里。
与此同时，南线的第30集团军也向矶谷师团的额侧翼发动了猛攻，曹福林的55军直扑南洛、北洛，赵建新的第99军则转向向北，攻击临城、官桥，朱晋一的第100军也前出运河，做好了苍鹰搏兔的架势。
中国军队三个集团军同时出击，一下子就把矶谷廉介的第十师团给打疼了！此时如果矶谷师团翻身向北逃窜，那么凭借着机械化的优势，台儿庄地区的中国军队将无力阻止日军跳出包围圈，但是矶谷廉介却对战争的局势做出了错误的判断。
这位第十师团的师团长认为，台儿庄地区的中国军队并没有足够的兵力吃掉矶谷师团的三万余日军。只要第十师团能够拿下台儿庄，然后抱成一团死守，等到板垣征四郎的第五师团突破临沂，华北日军依然能够完成预定的作战计划。
4月6日夜，第99军186师迂回突进到滕县地区，然后对滕县展开了猛攻，华北方面军司令官寺内寿一大将清楚的意识到，一旦中国军队收复滕县，那么矶谷师团的北撤的通道就会被完全切断。那样矶谷廉介就只剩下向东面的临沂攻击突围，和板垣师团汇合这一条路了。
为了替第十师团打破困境，临沂方面的板垣师团坂本支队......