1948年11月6日,淮海战役爆发,成为国共两军的最大规模决战。这场战役中,国民党军第7兵团黄百韬部不幸成为第一个被歼灭的目标。黄百韬部的组成较为复杂,包含了中央军、粤军、川军等多个杂牌部队。黄百韬本人也出自北洋军阀体系,虽然他通过在陆军大学的学习获得了升迁的机会,并受到当时第3战区司令顾祝同的赏识,但他的军队并不算精锐。顾祝同后来升任了陆军总司令和参谋总长等职务,而黄百韬也因此一路高升,从第3战区参谋长到第25军军长,再到第7兵团司令。但就是这样一个由杂牌将领指挥的部队,却成为了淮海战役中最为坚固的硬骨头。为了歼灭黄百韬部,华东野战军付出了惨重的代价,伤亡人数高达6万。而相比之下,围歼号称关内主力的黄维第12兵团时,伤亡人数为34000余人。在淮海战场上,围歼黄百韬兵团的代价无疑是最高的。尽管该兵团下辖的5个军中,第63军陈章部因为遭遇突然攻击,比较容易被歼灭,但其他部队却很难对付。
第100军周志道部是黄百韬兵团西进的先锋部队,也是最早被歼灭的一个军。第44师刘声鹤部首先到达了八义集附近,这是通往徐州的重要位置,谁控制了这里,就能够确保后续的安全。然而,刘声鹤部在这里遭到了华东野战军南线部队的激烈反击,经过一天多的激战,最终被赶出战斗,刘声鹤也在战斗中阵亡。周志道随后带领第63师及直属队撤退到碾庄圩西南,并坚守了10天,最终在17日被全歼。周志道在受伤后曾试图化妆逃走,但副军长杨荫、参谋长崔广森以及第63师师长盛超等人都被俘。 紧随其后,第64军刘镇湘部也向西进发,并在碾庄圩以东的阵地上顽强抵抗。这个部队的战斗力较强,是粤军中素质较高的一支部队。然而,刘镇湘为人有些狂妄,并且不太服从黄百韬的指挥。当华东野战军包围并集中力量向徐州进逼时,黄百韬下令让各部队尽量向徐州靠拢,而刘镇湘则坚持声称已经修建好的工事可以固守,因此拒绝向后撤。结果,该军与敌军激战至20日,在第159师师长钟某率领部队投降后,直到22日下午,最后的防线被突破,刘镇湘和副军长韦德、以及第156师代师长陈庆斌被俘。第25军陈士章部是黄百韬的主力部队之一,从1943年起就一直随黄百韬征战四方。当该军向徐州靠拢时,始终处于第64军之后,驻守在碾庄圩以北的阵地,并担任兵团的预备队。在战斗持续到21日夜时,敌军突破了该军阵地,陈士章与黄百韬失去联系后,选择与部队分开突围,竟然幸运地成功逃到李弥第13兵团司令部。第44军王泽浚部刚刚从连云港归建,因疲劳过度,跟随第25军向西进军。当第25军被围困后,王泽浚部占领了碾庄圩东南的阵地并顽强抵抗。这支部队是川军的一部分,又是临时调入黄百韬部下,因此也未完全服从指挥。直到18日,第150师师长赵璧光投降,19日深夜,敌军突破了王泽浚部的防线,王泽浚和第162师师长杨自立被俘。 最后是第63军陈章部,这支部队最初是从新安镇出发,计划向西南行进并强渡运河,向徐州靠拢。7日傍晚,该军到达窑湾镇,开始在两处渡口强渡运河。由于该部队是广东部队,官兵们擅长游泳,渡河并不困难。然而,他们刚渡过一部分人员,华东野战军第一纵队紧随其后赶到,第63军措手不及,损失惨重。军长陈章负伤后跳入河中自杀。战斗持续到11日下午,第63军全军覆灭,所属第152师师长雷秀民和副师长黎天荣被俘,但第168师师长张泽琛则趁乱成功逃脱。