在國民黨軍隊中最機密、最重要的崗位上，竟有郭汝瑰這樣的傳奇人物，這是很多人所難以想象的。其實，由於我黨在秘密戰線上所進行的大量的鮮為人知的努力，在國民黨軍隊內部的最機密崗位上，共產黨員並不是個別的。例如，與郭汝瑰的情況相類似，在解放戰爭後期，國民黨軍隊中電話通信係統的最機密的樞紐重要軍話台和次要軍話台中，正式工作人員共有9人，而中國共產黨的地下黨員就有7人，還成立了地下黨支部。
由於杜聿明一定要堅持自己的方案，蔣介石也就同意了，並讓空軍立即通知黃維，不準突圍，堅守待援。
杜聿明於28日當天就回到徐州，安排撤退。他與三個兵團司令，即邱清泉、李彌、孫元良，統一了“撤即不能打，打即不能撤”的原則，決定於30日晚間將徐州地區的國民黨軍隊全部撤離徐州。第一步目標是永城。各部隊帶足7天的給養和500公裏的油料，因為在到達阜陽之前，無法補給。29日晚，由李彌的十三兵團先出動一個師，占領蕭縣一帶，作為先行的準備，並掩護大部隊安全撤退。
杜聿明對他的這個撤退計劃是比較滿意的，因為他認為他所安排的這條撤退路線上解放軍已經沒有主力部隊。按照常規，解放軍在打了一個大仗之後，都要休整一段時間。粟裕的華東野戰軍剛打完黃百韜兵團，十分疲勞，估計要休整兩個月左右。劉伯承的中原野戰軍正在全力以赴對付黃維，不可能抽出兵力來對付他。所以，就算是解放軍發現了他在大撤退，要想組織大部隊追上他也要一段時間才行。而如果沒有幾個縱隊的主力，是無法阻止他三個兵團的。
為了造成對我軍的迷惑，11月30日這天，杜聿明命令幾個兵團的部隊在各陣地向我軍發動全麵進攻，而且要盡可能打得凶狠。這一天，第二兵團和十六兵團的猛烈進攻真的還攻下了好幾個村莊。
11月30日晚上，在徐州地區的三個兵團，即邱清泉的二兵團、李彌的十三兵團、孫元良的十六兵團，以及徐州“剿總”直屬部隊和地方軍警，全部撤離徐州。與大部隊同時撤離的還有一部分地方黨政部門人員以及一些被裹脅的青年學生，總數在30萬人左右。第二天，我華野渤海縱隊奉命進入徐州，徐州解放。
杜聿明集團還未出徐州，就出現了一係列問題。首先是如同過去國民黨軍隊的所有大撤退行動一樣，軍隊還未傳達布置，一些官員和商人就得知了消息，徐州城中就出現了一片混亂，“蔣介石要放棄徐州”的消息把凡是可能走或想走的人們都驅上了街市，搶購、奔逃、趁火打劫，什麼樣的事都有。軍隊要去采購食品，商店已經無貨。杜聿明派警備司令去查封銀行錢莊，想保證部隊提款，銀行錢莊已全部關門，老板們都已不見了蹤影。就是說，在軍方與官方消息靈通人士的事先透風之後，徐州的黨、政、商界已經先於軍隊撤退了。
出了徐州之後，出現的各種問題更為嚴重。在通往蕭縣的道路上，官員、商人、地主、職員、學生、難民，各色人等，甚至和尚、道士、妓女……形成了幾十公裏的人流和車流，車流中有汽車、牛車、馬車、驢車、人力車、獨輪車……道路堵塞不堪，行動一片混亂。杜聿明的汽車無法順利前進，被迫調來坦克開道，還是無法前進，隻能下車步行。
這樣，整個集團都不能按預定速度與計劃到達指定位置。杜聿明在路上邊走邊看，一片混亂與淒涼讓他十分難堪，各種軍用物資扔得四處可見，開不動的美式車輛和坦克丟在路旁。四十一軍山炮營共有12門山炮，離開徐州才一天，就丟掉了9門。如果要說這時的軍紀就更不用提了。不說他不熟悉的部隊，就是他一手培育出來的王牌軍第五軍也已經是一塌糊塗，搶劫、殺人、放火時有發生，特別是一路強奸婦女，使得沿途村村都有被強奸、輪奸的婦女投河投井，第五軍隻在蕭縣一地就搶了300多個年輕女性隨軍而去。總之，在杜聿明眼前，在這支美式機械化裝備的部隊呈現出的，似乎是世界末日般的情景。
更為嚴重的是，有好幾支部隊都未能按事先規定的時間行動，提前先跑，或者怕解放軍進攻而炮火連天地前進，將杜聿明集團大撤退的信息搞得遠近皆知。本來，杜聿明安排了十三兵團的一個師做先行部隊，提前一天出發，希望能事先占領蕭縣，以便掩護大部隊行動。可是，由於撤退的計劃事先暴露，十三兵團的這個師又怕死，行動遲緩，還未到達蕭縣時，解放軍已先行一步，在12月2日清晨就占領了蕭縣，於是杜聿明集團隻得繞道前進，但在前進中仍然遭到了解放軍的阻擊。按杜聿明的安排，李彌兵團應當派出第八軍之一部在徐州以東擔任掩護，在12月1日晚上再出發。可是，由於李彌心中一直反對，認為凶多吉少，所以故意采取單獨行動，全體部隊都在11月30日晚上一道撤離。在撤離途中，李彌有意讓電台不與杜聿明聯絡，讓杜聿明不容易找到他。