1948年11月5日12时50分，李延年才接到刘峙的电报，令其6日撤退，放弃海州地区。
李延年连夜召集有关人员宣布撤退计划，6日早晨6时，这支庞大的撤退队伍就开始仓促行动了。除了正规部队如第44军，还有各县党部、保安队、党政机关要人、学生、商民等等，臃肿不堪，拖泥带水，又缺衣少食，又是昼夜行军，不少人饿倒在路旁。
黄百韬再心急如焚，也只能耐着性子等了。
11月5日下午，黄百韬从徐州回到新安镇，6日上午，他在兵团司令部召开了有各军军长，兵团司令部正副参谋长等人参加的军事会议，决定西撤的部署：
第100军在瓦窑占领阵地，掩护兵团主力西撤右侧背的安全，7日与第25军在陇海路北交互掩护撤退，渡过运河后占据碾庄西面的彭庄、贺台子等村庄。
第25军等第44军通过阿湖后随第44军西撤，在陇海铁路炮车以北占领阵地，与第100军交互掩护西撤，渡过运河后占据碾庄西北面的大小牙庄、尤家湖等村庄。
第64军通过运河后，以一部占领运河西岸，以一个营占领滩上阵地掩护兵团主力渡河，大部占据碾庄东面的大院上、小院上、东楼以及碾庄北面的小费庄、吴庄等村庄。
第44军渡过运河后占据碾庄车站以及铁路以南各村庄。第63军等兵团部撤走后即经窑湾渡过运河，到碾庄南集结。
兵站除卡车运载的粮弹药品随部队行动外，其余粮弹被服用火车直接运徐州，按第64军、兵团部、第44军的顺序沿陇海铁路西撤。
兵团部通过运河后位于碾庄，各部队从7日上午5点开始行动。
下午6时，黄百韬举行了紧急军事会议后，见到了总统府少将参军、战地视察官李以劻和第九绥靖区司令官李延年。
黄百韬站在地图前，说：“陈毅的部署是想打7兵团，现在兵团战略位置非常不利，在新安镇打则孤立无援，如侧敌西进，到不了徐州就会遇敌。且徐州工兵团至今未来架设运河桥梁，我已命第63军从窑湾强渡，其余各军明早西行，转进太迟了。”
“要掩护第44军从海州西撤，不能贻误戎机，否则全兵团将被围，陷全军于不利。国防部作战计划一再变更，处处被动，正是将帅无才，累死三军。这次会战如垮，什么都输光了，将来怎么办？国事千钧重，头颅一掷轻，个人生死是不足惜的。”
夜深了，心事重重的黄百韬却怎么也不能安下心来。11点，他去回访李以劻和李延年，忧心忡忡地说，局势不妙啊。楚汉争霸，决战地就是在徐州地区。弄不好，我们也会像项羽一样，落个自刎乌江的下场。
李以劻刚睡下，黄百韬又让卫士将他请出来，对李絮絮叨叨地说：“据今夜在红花埠附近抓获的解放军的侦察员供称，陈毅主力十多个纵队均南下，先头已到郯城、邳县、费县地区集结，南下时分无数纵队急行，由此判断，敌人不让我兵团西撤集结，先打我兵团是肯定的了。”
“大军作战，随时变卦，动摇军心，影响士气，难道他们不知道吗？兵团兵力十几万人，陈毅主力达30多万，如果集中来攻，李延年兵团必败。尤以西撤途中，侧面受敌，随地应战，立足未定，各个击破，最堪忧虑。请告刘老总（刘峙）注意，要其他兵团快点集结，迟了就会耽误大事。如我被围，希望别的兵团来救。”
“古人说，胜则举杯相庆，败则出死力相救。我们是办不到的。这次战事与以前战役性质不同，是主力决战，关系存亡，请告老总，注意激励各级战场指挥官，否则同归于尽，谁也走不了。请你面报总统，我黄某受总统知遇之隆，生死早置之度外，绝不辜负总统期望。我临难是不苟活的，请记下来，一定转到呀！”
也许是，人之将死，其言也善。黄百韬的话，为他从那天开始到22日毙命，画出了清晰的轮廓。
终于接到了刘峙正式撤退的命令，黄百韬便急匆匆地行动起来了。
第64军行动最快，在7日凌晨3点就开始行动了，到8日黎明全部通过运河。兵团部及直属队也于8日拂晓前全部通过运河。
第44军于8日中午也全部通过运河。第25军、第100军撤至运河东岸尚未渡河，于8日下午2时被解放军追上，展开激战，该军边打边撤，到8日黄昏也渡过了运河。
其实，渡河过程远不是这样轻描淡写的。
运河桥头，混乱无比。十几万部队，大批的马匹、车辆、火炮，堆积如山的物资，从海州逃来的乌合之众，就靠一座铁桥，什么时候能过得去啊！
有人先下手为强了，千方百计抢先过河，有的甚至用机枪开道。秩序为之大乱，过河速度明显放慢了。前面是河，后面是追兵，枪声、人的惨叫声、马叫声，混成一片，挤成一堆，相互践踏，踩死的、落水死的、被流弹击中的，不在少数。
面对眼前的混乱场面，黄百韬一点面部表情也没有。大军过河，仅仅依靠一座铁桥是远远不够的，他黄百韬不是不清楚。剿总答应工兵架桥，却遥遥无期。怨谁？
不管是什么原因，必须恢复秩序，否则，后果更惨。他当即下令，调一个机枪连来，在桥头一字排开，谁要是胆敢破坏秩序，一律就地枪决。
为了阻止后续部队过河，以利于自己撤退，黄百韬不惜下令炸毁运河桥。面对冷酷的黄百韬，部下们大哭着劝道：“司令，我们的精锐还没过河呢？”
黄百韬粗暴地打断了部下的劝说，在他心目中，自己的命远比所谓的“精锐”更重要。
秩序终于恢复了。然而，速度还是不尽如人意。黄百韬跑了。如果他的脚步足够快，完全有可能按计划退到徐州。可是，拨打算盘的主动权却在我军手中。
就在黄百韬的第7兵团惊惶失措地向西逃跑的时候，11月8日，第三绥靖区副司令长官何基沣和张克侠率领第三绥靖区一个军部、3个师和1个团，在徐州东北贾汪地区运河前线起义。
何基沣和张克侠的起义，无疑是打向蒋介石、刘峙的掏心拳，完全出乎他们的意料之外。南京、徐州惊恐异常。
在我方来说，却完全是意料之中的事，因为，这次起义，就是我党有计划有组织进行的。
第三绥靖区司令长官冯治安，下辖第59、第77军共4个师。部队的前身是冯玉祥的西北军一部分。著名的抗战将领张自忠将军，就是该部前身第33集团军的总司令。
蒋介石对于非嫡系部队，向来抱着歧视、排斥的态度，在使用上采取利用、消耗的政策，最终逐步予以分化瓦解。淮海战役前，冯治安兼任徐州城防司令，部队驻扎在徐州。蒋介石感到不可靠，就将其调往临城、枣庄、贾汪地区。
第三绥靖区内部存在着种种矛盾，一部分人即使对蒋介石排斥，歧视的做法心怀不满，但出于利益的考虑，还是准备死心塌地地为蒋介石效力，一部分人在何基沣、张克侠等人的影响下，逐步认识到蒋介石集团的反动本质和必然灭亡的命运，希望早日走上光明大道。
何基沣、张克侠都是我党的秘密老党员。张克侠1927年入莫斯科中山大学学习，1928年回国后不久，就秘密入了党。
何基沣参加过喜峰口、卢沟桥等对日作战，1938年秘密到延安考察，受到了毛主席、朱德等党的领导人的接见，9月秘密入党。
他们两人受党委托，以特别党员的身份，长期潜伏在国民党军内部，做了大量瓦解、分化敌军的工作。
1948年10月18日，中共华东局派出的代表朱林（化名朱自林）秘密进入第三绥靖区，会见了何基沣和张克侠，就第三绥靖区起义问题进行了商谈。
11月初，华野山东兵团第13纵队政治部联络部部长兼民运部部长杨斯德，奉命秘密进入第三绥靖区前线指挥所，和何基沣、张克侠加紧起义前的各项准备工作。
11月8日上午，何基沣、张克侠按照华东野战军的计划，率领第三绥靖区第59军第38、第180师、第77军第132师、第37师第111团官兵，在贾汪、台儿庄地区宣布起义
何基沣、张克侠的起义，使得徐州北方门户洞开。我军迅速切断黄百韬兵团向徐州方向的退路，完成对该兵团的合围，为阻断黄百韬兵团与徐州的联系，赢得了宝贵的时间。为我军全歼黄百韬兵团，创造了极为有利的条件。
从淮海战役一打响，远在西柏坡的毛主席就急切地等待着起义的喜讯，从8日到9日，几次亲自到机要室查询起义的电报，9日下午4时，华野前委关于起义成功的电报终于到了西柏坡。
毛主席拿着电报，到周恩来的办公室，连声说：“这是淮海战役的第一个大胜利啊！淮海战役我们又多了一份成功的把握。”
当天晚上，毛主席，周恩来等人为庆祝起义成功，还高兴地喝了酒、
粟裕一直密切注视着贾汪、台儿庄地区，也一直担心着那个地区，听到起义成功的消息，他长长地呼了一口气，说：“只要我们在贾汪多待4小时，我们的战机就丢失了。”
