1948年的12月12日，中野在华野的配合下，已经将黄维兵团最后的残余压缩在双堆集的一个狭小地区内，这个狭小地区，东西长不过3里，而南北宽不过5里。
为了促使黄维投降，刘伯承、陈毅在这一天联名发出了《促黄维立即投降书》，指出黄维面前的选择只有放下武器，否则就是死路一条。
与此同时，设在邯郸的人民广播电台把这个文告不厌其烦地从12日一直播到15日，但黄维仍然拒绝了这一提议。
就在这时，华野参谋长陈士榘奉命率华野三纵、十一纵和鲁中南纵及部分炮兵，赶到硝烟弥漫的双堆集，参与对黄维兵团的最后围歼。
带队来到这里的华东野战军参谋长陈士榘，心中始终记得司令员陈毅叮嘱他的话：
“打完了黄维兵团之后，华野不要战利品，所有战利品都留给中原野战军，特别是火炮”。
陈毅为什么要对陈士榘下达这个命令呢？
淮海战役第一阶段于11月22日胜利结束，黄百韬兵团被歼灭，解放军迅速调整目标，准备迎接下一场硬仗。最初，中央曾考虑先打击邱清泉兵团，随后夺取徐州。但在11月19日上午，中央致电华东野战军首长，指示他们准备打击黄维兵团。中央明确指出，华野部队应在歼灭黄维兵团后再对付邱清泉和李弥兵团。
中央军委的这一决策并非随意作出，而是经过对战场形势的全面分析。
几乎同一时间，11月19日晚，总前委也致电中央，提出了具体建议。他们建议华野主力一部分协同中原野战军歼灭黄维兵团，另一部分部署在徐州以南地区，负责钳制徐州方向的敌军，确保攻击黄维兵团时侧翼安全。中央收到建议后表示同意，于是第二阶段作战方案正式确定：
首要目标锁定黄维兵团。
黄维兵团隶属蒋介石嫡系，下辖第十军、第十四军、第十八军、第八十五军以及第四快速纵队，总兵力达12万余人。其中，第十八军尤为突出。这支部队的前身是整编第十一师，被蒋介石视为“五大主力”之一，兵员充足，装备先进，战斗经验丰富。
面对这样一支力量，我军将其视为一根“硬骨头”，决心集中力量将其击破。
11月23日，战役第二阶段正式展开。
黄维兵团奉命向宿县发起进攻，试图突破解放军的防线。上午，黄维指挥部队向宿县推进，解放军则与之展开激烈交战。战斗中，我军并未全力死守，而是经过一番抵抗后向北撤退。这一举动并非败退，而是有意诱敌深入。
黄维察觉到我军的动向，却未完全识破其意图，继续指挥部队追击。
战至11月24日上午，黄维发现情况不对。他的部队深入我军防线后，侧翼和后方逐渐暴露，补给线也变得脆弱。黄维急忙下令部队撤退，试图脱离险境。但解放军早已等待这一刻。11月24日，我军趁黄维兵团回撤之际全线出击，迅速切断其退路。
到11月25日清晨，黄维兵团被我军包围在宿县西南的双堆集一带，12万余人陷入重围。
双堆集地势平坦，周围村庄稀疏，黄维兵团被围后难以依托地形固守。我军原计划用几天时间歼灭这支部队，但黄维兵团展现出顽强的抵抗能力。他们依托临时工事，利用火炮和坦克组织防御，使我军初期的进攻进展缓慢。
面对这一情况，我军指挥层决定调整部署，准备投入更多力量。
黄维兵团被困双堆集后，蒋介石迅速做出反应。他命令邱清泉兵团和孙元良兵团从徐州方向南下，同时命令李延年兵团和刘汝明兵团从南向北推进，实施南北对进，试图夹击中原野战军，解救黄维兵团。
而面对这一局面，华东野战军的部队迅速分成三部分，应对多线作战的挑战。
第一部分由第七纵队、第十纵队、第十一纵队以及特种兵纵队组成。
这些部队与中原野战军并肩作战，直接参与围歼黄维兵团。
第二部分由第二纵队、第六纵队、第十三纵队组成，部署在南线，负责阻击李延年兵团和刘汝明兵团的北上行动。
第三部分包括第四纵队、第一纵队、第三纵队、第八纵队、第九纵队、第十二纵队、两广纵队、渤海纵队以及鲁中南纵队，部署在北线，负责阻击邱清泉兵团、李弥兵团和孙元良兵团的南援，同时准备应对徐州敌军的突围。
11月26日拂晓，邱清泉兵团和孙元良兵团在飞机、大炮和坦克的掩护下，沿徐蚌铁路线向宿县方向进攻。上午，第四纵队的一个师在褚兰地区与敌军遭遇。二十八团第二营首先与敌军交火。敌军步兵在八辆坦克的支援下向二营阵地猛冲。二营指战员依托村庄外的土墙进行防御。
他们等待敌军靠近后，集中火力开火，手榴弹在敌群中连续爆炸。敌军未料到如此强烈的抵抗，丢下数十具尸体后被迫撤退。
下午，敌军调整部署，发动第二次进攻。他们加强炮火轰击，试图压制二营阵地。二营战士隐蔽在外壕中，待敌军炮火向前延伸后迅速起身还击。反坦克组的战士跳出工事，将集束手榴弹和炸药包投向敌军坦克。一辆坦克被炸毁，其余敌军在二营的顽强抗击下再次退却。
与此同时，北线其他部队也多次击退敌军进攻，牢牢守住阵地。南线第二纵队、第六纵队、第十三纵队同样成功阻击李延年兵团和刘汝明兵团，保障了双堆集主战场的安全。
11月28日，蒋介石眼见黄维兵团处境危急，决定放弃徐州，将部队撤至蚌埠附近重组。他命令徐州“剿总”副司令杜聿明率领邱清泉兵团、李弥兵团、孙元良兵团南下至阜阳地区，攻击中原野战军的侧翼。
同时，他命令“剿总”司令刘峙乘飞机前往蚌埠，组织李延年兵团和刘汝明兵团北进，与杜聿明会合，共同解救黄维兵团。此外，蒋介石命令宋希濂兵团从浦口北上赶往蚌埠参战，并派自己的儿子蒋纬国前往蚌埠，协助刘峙指挥作战。
11月30日上午，杜聿明遵照蒋介石的命令，率领邱清泉兵团、李弥兵团、孙元良兵团以及徐州地方党政机关共30余万人撤离徐州，向西南方向转移。撤退队伍庞大而混乱，车辆、辎重挤满道路。解放军迅速调整部署，原先负责阻击的第四纵队、第一纵队、第三纵队等部队立即转为追击。他们全力追赶杜聿明集团，试图将其围歼，不让敌军逃脱。
此时，解放军面临三线作战的巨大压力。
双堆集围歼黄维兵团、北线追击杜聿明集团、南线阻击李延年与刘汝明兵团，每一线的任务都至关重要。敌军若有一线突围或会合，战局将变得复杂。
更严峻的是，我军所有可用兵力已全部投入，包括附近的地方武装，统帅部手中再无机动部队。指挥层只能依靠精准的情报和灵活的兵力调度，确保有限的力量发挥最大效能。
面对多线作战的困境，华东野战军司令员粟裕果断调整策略。
12月10日早晨，粟裕致电刘伯承、陈毅、邓小平并报中央，建议从华野部队中抽调更多纵队加入双堆集战斗，集中力量先解决黄维兵团。
他提出，歼灭黄维兵团后，中野负责阻击李延年、刘汝明、宋希濂兵团，华野则全力对付杜聿明集团。这一建议得到中央和总前委的批准。
随后，华野增调第三纵队、11纵队，鲁中南纵队以及部分炮兵加入双堆集作战，这支部队，由参谋长陈士榘带领，到了这个时候，我军攻打黄维兵团的总兵力达到20万人，而黄维兵团仅剩12万人，双方力量对比悬殊。
12月13日，总前委决定调整部署，将陈士榘换下王近山，指派华野三纵、十一纵投入南集团，由陈士榘指挥，担任最后总攻的主要任务。东西两个集团配合，直攻双堆集中心阵地，力图全歼黄维兵团。
随着信号弹划破傍晚的天空，炮声震天撼地。经过两天的激战，三个集团将黄维兵团层层围剿，敌人的指挥机关完全暴露在解放军的攻击之下。
12月15日下午5时，各集团的攻击部队适时发起最后攻击。南集团在陈士榘的指挥下，锐不可当，连克敌阵，迅速突入敌人的双堆集中心工事。东、西两集团穿过严密的火网和呛人的烟雾，越过敌人设下的堑壕、地堡群组成的阵地，以及用汽车筑成的防线，向南集团汇合。
三股力量很快汇合并摧毁了黄维兵团的指挥中心。无数蓬头垢面、衣衫褴褛的敌人从冒着烟的地堡里爬出来，从深深的地洞里钻出来，纷纷举手投降。
至此，淮海战役第二阶段胜利结束。
在这场战役结束之后，我军缴获500多辆机动车辆和其他机器所需的燃料，更重要的是，还有100多门山野炮、1,000多门小口径炮、300余挺重机枪、2,000余挺机枪、2,000多支冲锋枪、几万支步枪。
这些战利品，华东野战军全部都不拿，都给了中原野战军，陈士榘执行了陈毅的命令。
之所以要这么做，是因为在中原野战军南下的过程中，他们丢掉了大量的辎重武器，如果这一次不是因为他们失去了大量的火炮，也不需要华东野战军派出增援部队，中原野战军在整个中原的战略配合，让整个解放战争加快了胜利的进度，所以把这些战利品给他们，是最合适不过的。
除此之外，淮海战役第二阶段的作战环境异常复杂。
解放军同时在三条战线上作战，每一线都不能有丝毫闪失。
刘伯承曾生动形容这一阶段的任务：我军既要吃掉黄维兵团，又要夹住杜聿明集团，还要看住李延年与刘汝明兵团。三个方向都必须取胜，任何失误都可能导致全局被动。
所以，中原野战军的付出也非常地大，也是在双堆集战役结束之后，中原野战军获得了巨大的补充，实力获得了恢复之后，紧接着参与了随后的渡江战役，并且为之后的西南剿匪战斗，打下了基础。
