第12兵团被围之初，黄维决定在中原野战军的包围圈尚不够严密之际向南突围。26日，他下令集中4个师，于次日晨首先向双堆集东南方向打开通路。担任先头突围任务的第85军110师师长廖运周，是长期潜伏在国民党军内部的中共秘密党员，他在得到突围命令后即与中共联系，于27日晨突围发起时率部起义，跟进其后的突围部队猝不及防，遭到中原野战军部队的截击，突围行动以失败告终。此后，黄维每天均派出数团兵力向东南方向作突围尝试，但始终未能打开缺口。28日，参谋总长顾祝同改令黄维就地固守待援，致黄维兵团又成一盘死棋。郭汝瑰评论：“此次黄维兵团孤立向宿县挺进，为我战略上之失策……黄百韬渡运河后，国军原可依内线作战要领，各个击破曹八集一带共军，但邱清泉等不机动，不了解此次战略意义，未能执行。现共军则由甚远途程集中优势兵力，以图各个击破我黄维兵团，陈毅之部队由碾庄及徐州外围各战地转用，动作如此迅速，执行任务如此坚决，国共两方将领对照之下，不必战斗，而胜负已可见矣！”
黄维兵团突围失败，部队转入就地固守，局促在以双堆集为中心、方圆十余公里的狭小地域内。此地为平原地带，缺乏制高点，兵团部所在地双堆集，因高不过十余米的尖谷堆和平谷堆两个土堆而得名，而且还不及黄百韬兵团被围时的碾庄圩有李弥兵团留下的工事。黄维兵团被围后，即下令构筑以双堆集为中心、以地堡为支撑、以壕沟相连接的环状工事网。为了解决筑工材料不足的困难，又利用所携的重装备，将随行的汽车、坦克装上泥土，构成较为坚固的核心工事。11月30日，蒋介石致电黄维：“弟部占领区域狭小，如被匪多方炮火围击，则状至危险，故应积极向外扩展阵地……总之，必须以攻为守，方能持久，万不可消极株守也。”黄维不是不想向外扩张，而是在四周中共部队的强大压力下，无能力向外扩张，只能株守于双堆集地区，一面固守，一面心急如焚地期待增援部队的早日到来。