李宗仁见守城部队士气高昂，日军已经就范，看到歼灭日军的时机基本成熟，命令第二十军团用部分兵力监视当面的日军，主力迅速南下，围歼台儿庄的日军。
3月28日，日军的攻击越来越猛烈，坚守台儿庄阵地也越来越艰难。第三十一师官兵遵照李宗仁的命令，不畏牺牲，英勇抗击，始终坚守阵地。
台儿庄战斗到了关键时刻。这天，李宗仁严命第二十军团用主力攻击台儿庄以北的日军的侧方，配合第二集团军的官兵打击日军。
3月29日，天刚蒙蒙亮，孙连仲总司令就把师长、旅长和炮兵团长召集到一起，进一步明确了坚守台儿庄的决心。
孙连仲对大家说："根据种种迹象分析，我们当面的日军正在等待援助。我们要以钳形攻势把这些日军歼灭。第三十一师仍然要坚守阵地，要牢固树立独自为战的思想。同时，我们还要组织部队出击，打阵地战，内外配合，就会主动得多。"
日军矶谷廉介为了迅速攻下台儿庄，命令濑谷启即刻把旅团主力投入战斗。
为了钳制日军南下，减轻台儿庄战场的压力，3月30日，第五战区命令第二十集团军以一部兵力对峄县的日军进行佯攻，另以一部分兵力迅速向泥沟前进，协助第二集团军的部队打击围攻台儿庄之日军。
