1948年11月初，华东野战军主力从临沂等地出发，迅速向淮海铁路东段进军，目标直指驻守新安的第7兵团（下辖第25、44、63、64、100军）。为了摆脱困境，第7兵团司令黄百韬决定放弃海州，撤退到徐州防守。 不久后，黄百韬率领兵团按计划行进，来到了当年隋炀帝所开凿的大运河旁。运河水流湍急，宽度不大，但河道深不可测，若赤脚行走必定被淹死。大军只能依靠一座铁路桥过河，但五个军的数十万大军同时过一座狭窄的桥，显然无法顺利通过。即使能通过，恐怕连桥还没走完，就会被解放军追上，根本没有时间准备迎战。

黄百韬是经验丰富的老将，面对险境，他迅速做出决定，命令部队在铁路桥旁架设浮桥。他还指示第25军占领牛山，掩护第44军先行通过，第100军则负责占领炮车，保护第63、64军渡河。所有部队过河后，将在碾庄汇合。 然而，刚刚布置完这些，突然传来了郯城失守的消息。郯城的失陷让各军产生了恐慌，担心解放军迅速追击。就在这时，第63军军长提出了一个意见：五个军都走一个铁桥，什么时候才能过完？不如我们去窑湾镇渡河！于是，63军决定前往窑湾镇。然而，他们很快发现了一个关键问题：渡河所需的船只。尽管找来了两只破船，经过几天的折腾，也只是成功让几百人渡过，最终解放军赶到，63军在窑湾镇被全歼。

63军全军覆没的同时，第25军也损失过半。原因出在第44军军长王泽浚身上。王泽浚曾以爱民如子著称，撤退时他带着大量地方官员、地主和富人，甚至还有众多的挑夫、侍从，人数高达十万。更糟的是，他还带了大量的汽车、牛车和轿车，导致部队行动极为缓慢，最终遭到了解放军的两面夹击，部分人死于战斗，部分人淹死。混乱中，第44军损失惨重，连带着第25军也受到很大损失。 尽管如此，第7兵团还是成功渡过了运河，最终在碾庄汇合。此时，黄百韬已经为下一步行动做好了安排，计划是趁解放军尚未过河，抢先赶到大许家，确保安全并为撤退保命。然而，第64军军长刘镇湘对此表示强烈反对，他坚持认为：我们已经把阵地修好，如果现在离开，岂不是太可惜了？他不愿轻易放弃已经准备好的阵地。

第25军军长陈士章看清形势，急切地说道：如果现在不走，恐怕就来不及了！但刘镇湘依旧坚持反对。为何刘镇湘如此坚持不走？原来在渡河过程中，各军都损失惨重，只有第64军因为是最先渡河的，完好无损，刘镇湘希望趁机和解放军打一场硬仗。 正在几位军长为是否撤离争论时，国防部发来了电令，大意是：第7兵团还未完全渡过运河，已损失不少兵力，且局势混乱。如果继续西进，很可能被解放军尾追。此时，是否继续前进，由黄百韬决定。如果有必要，可以在碾庄稍作整顿，若能击退敌人再出发也未尝不可。

这份电令让刘镇湘更加振奋，他立刻表示：既然上级已经下令，为什么不先打垮敌人再撤退？为什么非要等到大许家再打？在刘镇湘的坚持下，黄百韬最终改变了原来的计划，决定在碾庄坚守，等待援军。 黄百韬为何改变主意？他认为，只要能够坚持住，等待上级的增援，杜聿明将会派兵支援，孙元良和李弥的兵团也会赶来帮助他。 最终，黄百韬决定尊重刘镇湘的建议，在碾庄坚守待援。根据新的部署，第64军负责东面，第25军负责北面，第44军负责南面，第100军负责西面。部队开始忙碌起来，然而，碾庄是一个只有约200户人家的小村庄，驻扎下来的部队显得异常拥挤，街头巷尾都是车辆和救护车，许多部队甚至不得不露宿在野外。村边的草坪上，堆满了各军的弹药、粮草，传令兵、伙夫、担架兵穿梭忙碌，而就在这一片混乱中，解放军的进攻也开始逼近。 尽管第7兵团在碾庄坚守，却始终未能等来援军。随着战事的不断升级，粮草弹药越来越短缺，最终第7兵团未能逃脱覆灭的命运，整个兵团在碾庄彻底覆灭，从此不复存在。