1948年下半年,随着解放战争的陆续推进,战场的形势逐渐发生了逆转,国民党军虽然仍拥有兵力上的优势,却处处挨打,为此蒋介石下令要求国民党军集中兵力进行重点防御,同时组建大规模的机动兵团,不过即便如此,也无法阻挡我军的攻势,特别是在1948年9月,以山东兵团为主发起了济南战役,虽然蒋介石从徐州调集了黄伯韬、邱清泉、李弥三个兵团驰援,却仍无济于事。
事实上就在济南战役结束三天以后,华东野战军代司令粟裕即提出了淮海战役的构想,并选定了距离徐州较远的黄伯韬兵团作为为主要的对手,由于徐州剿总司令刘峙无能,导致了各个兵团向徐州收缩的过程中出现严重混乱,黄伯韬兵团也被远远地落在了后面,虽然黄兵团此时已经拥有了5个军的规模,却被包围在碾庄地区,最终全军覆没。 事实上整个淮海战役,打黄伯韬的第7兵团,是最吃力的一战,即便是在1948年11月8日防守运河的第三绥靖区起义,可碾庄一战,华野仍然付出了6万多人的伤亡代价,是淮海战役期间,伤亡数最大的一次战役。作为杂牌军之中的一员,黄兵团何以拥有如此强大的战力 提到黄伯韬兵团,就不能不提25军。黄伯韬的第7兵团,是以豫东战役中被歼灭的区寿年兵团残部组建起来的,除了25军外,最初只下辖25军、63军、64军,63军、64军原是粤系的部队所部战斗力较强,更为关键的是,黄伯韬嫡系的25军战斗力甚至都不逊色于一些嫡系部队。是7兵团之中最精锐的存在。
可25军在组建之初,也原本就不是什么杂牌,25军是抗战初期以52师、190师为主组建起来的部队,这两个是都是国民党军中央军的嫡系,其首任军长为王敬久,参加过抗战初期多次恶战、血战,后来52师、190师先后被调离,等到黄伯韬1944年继任25军军长的时候,该部下辖部队已经换成了40师、75师、108师,后来75师也被调离,改50军148师隶属。 事实上25军从一开始的嫡系,转化为半嫡系的杂牌,108师原属于东北军战斗序列,划归25军以后,师长张文清兼任副军长,后来又升任军长,被调离后才改由黄伯韬接任,而148师前身隶属于川军第50军,总体来看,只有40师是属于半嫡系的中央军部队。 黄伯韬到任25军,本来也是顾祝同为了打发黄伯韬才任命的,由于黄本身是杂牌出身的将领,在投靠蒋介石以后,一度被解除了兵权职务,前往陆大学习,因为后来受到何应钦的赏识,才出任了顾祝同第三战区参谋长,还参加过皖南事变,但即便是黄伯韬小心翼翼,格外卖力,也免不了受顾祝同排挤,出任军纪败坏的杂牌25军军长,或许也存了让黄知难而退的心思。 不过黄伯韬比较轴的是,既来之则安之,25军在黄伯韬较为严明的军机治理下,竟然有了不错的发展,部队的素质有了很大的提升,不仅如此黄伯韬还深入各个连队,与士兵同甘共苦,使得原本属于各方军阀势力的部队,被黄捏合成铁板一块,当时25军不仅仅军容整齐,更以善于打近战夜战出名,或许唯一比较差的就是在装备上,黄伯韬的25军是全日械装备,比不了五大主力这些全美械装备。可即便如此,在整个解放战争期间,黄伯韬的25军仍带给我军很大的麻烦,1947年由于华野分兵的关系,黄伯韬的25军几乎横扫整个胶东,豫东战役末期,黄伯韬率领25军突然出现在战场上,不仅拉出了即将濒临覆灭的区寿年兵团残部,还给华野造成重大伤亡,黄伯韬也因此战功,荣膺“青天白日勋章”。