二、劉汝明第六十九軍為全軍後衛，掩護主力轉移。
三、第五戰區其餘各部，立即向豫皖邊區突圍。
李宗仁根據蔣介石的電令，立即將部隊分成五路，分別突圍。
第一路：李宗仁的司令長官部及廖磊集團軍，由徐州沿津浦路南下，至宿縣地區再折向西南，於界溝附近衝過渦河封鎖線。
第二路：湯恩伯軍團及機械化部隊，由隴海路運河車站向西撤退，在符離集以北越過津浦路，突破宿縣至永城間的日軍封鎖線，再從渦陽突破日軍渦河封鎖線。
第三路：孫連仲集團軍及張自忠第五十九軍，由台兒莊向西南退卻，從徐州以南越過蕭縣以西的封鎖線，在永城附近再次衝出封鎖線。
第四路：關麟征軍及川軍一部，由徐州越過隴海鐵路，向西北方向突圍，突破黃口和李莊封鎖線。
第五路：孫震集團軍，由徐州以北柳泉向東南急進，跨過隴海鐵路，經泗縣折向西南而行，在固鎮與蚌埠之間穿過津浦路，從懷遠以西突破日軍的渦河封鎖線。
徐州東麵的日軍自５月17日起向運河全線攻擊，一部由貓兒窩和大裏莊渡過運河，與當地守軍樊崧甫軍和譚道源軍激戰，到18日早晨起，又先後突破運河車站、台兒莊和禹王山等處陣地。李宗仁命孫連仲集團軍相機向蕭縣以南突圍西進。湯恩伯在徐州以西十餘公裏的孤山集集中抽調到來的兵力，部署向淮北到來的日軍反攻，到17日因情況變化，李宗仁命令他們向渦陽突圍。
同一天，李宗仁下令所屬各部按序列，部署逐次突圍。令湯恩伯軍團向西突圍，猛烈衝擊日軍；又令孫連仲、張自忠、龐炳勳在運河設防，憑險固守，以掩護大軍撤退。
中國軍隊且戰且退，陣形不亂，按部就班地向西、向南撤退。日軍阻一處，中國軍隊衝一處，無所不破，大軍向河南南部及湖北北部集結，各路都相繼衝出重圍。為避免與優勢的日軍作消耗戰，當各路日軍向徐州步步合圍時，李宗仁令所部各路守軍，稍事抵抗後，即相機撤向山區和湖沼地區，進行“化整為零”的遊擊戰，與日軍糾纏了一個多月。
5月18日黃昏，在劉士毅第三十一軍和周祖晃第七軍一個師的掩護下，李宗仁與長官部官兵一應人員七百多人，乘夜色開始撤退。林蔚和劉斐隨李宗仁、白崇禧同行，同行的還有當時留在徐州慰勞的一部分各界代表人士，其中有王昆侖、曹孟君夫婦等，從蕭縣以南突圍向阜陽前進。這時，日軍飛機沿長官部行進的道路肆行搜索，低飛掃射，一行人隻好晝伏夜出，落荒而逃。有一天，劉斐和白崇禧站在老鄉家門口看日軍飛機低飛，連駕駛員的帽徽都看得清清楚楚。日軍飛行員對準門口連續掃射，濺得他們滿身都是土灰。由於多日夜晚行軍，一路上人困馬乏，加以道路泥濘，失足落馬的聲音此落彼起。隨軍步行的人們，更加辛苦疲勞。他們大約經過七天七夜，才到達阜陽，李宗仁在這裏設立指揮所，收容整頓所部。
孫連仲兵團繼李宗仁一行之後，於18日晚上突圍。李宗仁一行以為他們一定跟在後麵，隻是無法聯係罷了。走了幾天之後，才知道孫連仲兵團在轉進時秩序紊亂，互相失去聯係，除盧漢第六十軍、田鎮南第三十軍等部自行向西突圍到淮陽外，其餘孫震第二十二集團軍、周喦第七十五軍、於學忠第五十一軍等部，則在孫連仲率領下改向東麵突圍，經靈壁到泗縣集結。除韓德勤、於學忠奉命留在蘇北敵後遊擊外，其他各部後來經五河、定遠向六安、潢川西進，各歸指定的整補位置。
林蔚和劉斐到達阜陽後，即經周家口、漯河回武漢複命。
徐州撤退到此告一段落。
5月下旬，各路大軍按命令的路線，全部安全撤抵皖西、豫南地區。
日本華中派遣軍的荻洲師團一路殺來，於５月底撲到徐州城下，發現李宗仁唱了一出空城計。這使一心想爭功的華北方麵軍大感挫折。日軍以傷亡一萬多人的代價，得到了一座空城。
會戰結束後，橋本群少將帶著大本營派遣班的高參們，垂頭喪氣地回到東京，向裕仁和杉山元報告：
“我軍雖以主力自徐州以西切斷了中國軍隊的退路，將徐州地區鐵桶般地包圍起來。但總計約五十個師的中國軍隊，於5月中旬突然從西南方向跳出我軍重圍。戰果之微出乎意料！”
郭汝瑰將軍在回憶錄中對徐州會戰有如下評論：
我五六十萬大軍，離心退卻，竟沒一個師遭敵人殲滅，且向敵後退卻的部隊，都如入無人之境，事後安全而歸。足見敵人雖構成戰略包圍態勢，然而地廣兵稀，到處都是空隙。我在國內作戰，有人民協助，化整為零，隨時可以安全脫險。
徐州大突圍是抗戰史上光輝的一筆。它使日軍的戰略企圖徹底破滅，為後來長江一帶的抗戰保存了精銳力量，對後來持久戰和最後勝利的取得，都具有不可估量的重大意義。
但是，中國軍隊由於在會戰第二階段把多數部隊投入第一線，失去確保主動機動製敵的自由，終於日益陷於被動，到被迫撤退時，不但徐州不保，連津浦鐵路側方的戰略要點也無力保持，沒能達到持久消耗日軍的目的，會戰就以虎頭蛇尾而結束。
薛嶽的魯西兵團也沒能阻止山東西部與河南北部的日軍。日軍不斷排除隴海路中段中國軍隊的抵抗，於６月初直迫中牟、長葛及許昌以東鄢陵一線，平漢鐵路受到威脅，鄭州危在旦夕。
張自忠軍擔任掩護，張自忠本人經常走在隊伍最後麵。
在中國軍隊撤退之前和撤退的過程中，李宗仁第五戰區的部隊在徐州附近地區進行了逐次激烈抵抗，雖然未能擋住日軍的攻勢，但也在一定程度上消耗了日軍的力量。李必蕃的第二十三師在荷澤抵抗日軍，李必蕃在戰場殉國。第一七三師副師長周元率兩千人在蒙城拚死阻擊日軍，周元和大部分官兵戰死。
留守徐州城的劉汝明部在蕭縣一帶伏擊日軍吉住師團，對日軍造成重大傷亡。日軍見中國軍隊大部已走，企圖於徐州城圍殲劉汝明部。劉汝明部佯作死守狀，等到各路大軍撤退完畢，便棄城撤退，於19日離開徐州。日軍不但沒有擊潰劉汝明部，甚至連一個上尉也沒有捉到。
在徐州突圍中，李宗仁指定張自忠指揮第五十九軍和第二十一師、第二十七師、第一三九師等部殿後，掩護大軍撤退；完成任務後開許昌集結。這既是對張自忠的信任，也是對他更為嚴峻的考驗。因為自淮河作戰以來，張自忠軍已連續作戰三個月，全軍五個旅隻剩下不到兩個旅，全軍官兵隻有不到九千人，其中戰鬥員隻有六千人左右，急需撤出戰場進行整補。因此，以屢擔巨艱、傷亡慘重的張自忠軍承擔殿後重任，確屬勉為其難。但張自忠毫不遲疑地接受了任務。
張自忠命令劉振三師派出一個旅的兵力圍攻蕭縣的日軍，掩護大軍西撤。又命令張宗衡旅從東麵、東南麵和東北麵三個方向向日軍圍攻夾擊。日軍步兵配合坦克車多輛向張自忠軍反擊。張自忠親自率領手槍營，在東北方的公路上占領陣地，用集束手榴彈將日軍的坦克阻止在距離不到二百米的一個地方，使之不能前進。直到大軍全部通過後，等到天黑下來，他才擺脫了日軍，帶著手槍營走在大軍的後麵，仍然執行後衛的任務。
至5月17日，戰區主力部隊陸續脫離戰場。18日，張自忠才命令各掩護部隊放棄陣地，開始撤退。他讓第二十一師、第二十七師和第一三九師先行，自己率領第五十九軍殿後。
張自忠一行經過蕭縣西南某地時，遇到湯恩伯的兩個炮兵營。他們與部隊失去了聯係，驚慌異常，想棄炮而去。張自忠把那兩個營的營長找來，對他們說：“炮不準丟棄！我派部隊掩護你們，跟著我走好了。”於是，他派陳芳芝率部掩護這兩個炮兵營，並指示說：“你率隊負責保護這兩營炮兵，完全撤退到許昌後，交湯恩伯部領走，才算完成任務。”
西行不久，將近黃昏時分，日軍追擊部隊一部竟已先期在大路的北側搶占了一個村莊，企圖攔截撤退的中國軍隊。中國的幾支部隊到達此地後，發現敵情，摸不清日軍的虛實，加之群龍無首，紛紛停止前進，觀望形勢，誰也不肯先行，更不願殿後。張自忠來到後，各部隊長紛紛前來請示辦法，張自忠爽快地說：“我以一個旅監視該敵，你們立即撤退，開進時要有秩序，切不可驚慌。”隨後，各部隊按他指定的順序迅速安全地撤退了。日軍本來打算趁中國軍隊撤退混亂之機發動襲擊，但見中國軍隊秩序井然，並有準備，便不敢輕舉妄動。當時在場的軍事委員會聯絡參謀李誠一說：“張自忠予人以安，自己處其危境，真乃名將典型。”
當張自忠軍撤到蕭縣西南的濉溪口附近時，又與從蚌埠方麵前來截擊的日軍相遭遇。當時，軍部和師部人員全部投入戰鬥，軍長和師長都到第一線指揮。苦戰一整天，在戰區部隊安全通過後，第五十九軍才節節抗擊，有條不紊地撤出戰場。
21日，各部隊相繼進入安徽東北部。因渡濉河進展緩慢，各路大軍擁滯在一起。由於缺乏統一指揮，加上後有日軍追趕，上有日機轟炸，各部隊亂作一團。這樣一來，不但部隊難於行動，而且混雜難分。許多部隊失去控製。但張自忠自有妙計，他命令第五十九軍全體官兵一律將軍帽反戴，以便與兄弟部隊相區別。此法果然奏效。在混亂不堪的大軍之中，惟獨第五十九軍標記明顯，井然有序。此事雖小，卻反映了張自忠豐富的帶兵經驗和第五十九軍的訓練有素。
退卻中，他指揮部隊徐徐開進，且戰且退，始終保持著戰鬥隊形和嚴明的軍紀，並沒有為擺脫險境而加快行軍。凡遇有日軍駐紮的村莊，張自忠一般是派部隊乘黑夜將日軍包圍監視起來，掩護大軍安全通過；倘被日軍發覺，則先機製敵，以熾盛火力壓製日軍，候大軍安全通過，然後適時撤出戰鬥。
在危急時刻，張自忠常常親率手槍隊走在全軍之後。一次，部隊在一個小鎮上休息，突然飛來三架日軍飛機，一陣狂轟濫炸，街道旁的幾十所房屋頓時變成了瓦礫。張自忠趴在路邊，一顆炸彈在他附近爆炸，氣浪濺起泥土，掀掉了他的軍帽，泥土蓋了他一身。日機飛走後，他站起身來，撣去泥土，戴上軍帽，說說笑笑繼續行進。這種臨危不亂、處變不驚的態度，給官兵以極大感染，有效地穩定了軍心。
作為高級將領，能夠在艱苦而危險的遠程突圍中走在部隊的最後麵，這在國民黨軍隊中是極為罕見的。因此，張自忠的事跡很快傳播開來，連蔣介石也有耳聞，但他沒有親眼看見，心中仍是半信半疑。後來在武昌遇到馮玉祥，便向他打聽：“徐州隊伍退下來，張自忠走在最後，是真是假?”馮玉祥回答：“一點不假。”並把了解到的情況對蔣介石說了一遍。蔣介石聽了，連連點頭，說：“真是好幹部!”馮玉祥接著話茬說：“你應當趕快撥五六個軍歸他指揮了。”蔣介石點著頭說：“好，好！等我想想再說。”
從徐州到許昌，相距五百公裏，全靠步行。官兵連續作戰三個多月，再進行長途行軍，其艱苦情形可想而知。張自忠解決困難靠的還是老辦法——與士兵同甘共苦。馮玉祥在自己的著作中記載了這件事，他寫道：
張自忠將軍的隊伍，全是步行。官兵的腳上磨了很多的泡，有些士兵左歪、右歪地走不動，張將軍就把隊伍集合在一個地方，坐在地上，先對大家說明軍人要忍耐困苦的道理；然後，張將軍把鞋、襪子脫下來叫大家看他的腳上有多少泡，官兵們看見他滿腳都是泡，這樣張將軍把腳抬起來向地下一頓，撲哧一聲，血往四下濺。兩隻腳頓完了，隊伍再走。那些官兵們連一個歪著走的都沒有了，都是挺胸突肚地向前走去。
經過千裏跋涉，第五十九軍於6月1日抵達許昌。
在撤退過程中，孫連仲的第二集團軍撤到九裏山附近，指派張金照師和黃樵鬆師在這一帶掩護大軍撤退。一天中午，日軍出動一百多架飛機，並升起四個氣球，指揮炮兵猛烈射擊。日軍的大部隊也一再向撤退的中國軍隊猛烈追擊。張金照師在這次突圍中先先後後，三三兩兩，向亳州撤退，有的部隊不知跑到什麼地方去了。大約過了一個星期，張金照才慢慢把部隊收集起來，調往湖北北部的廣水整訓。孫連仲及田鎮南、馮安邦兩位軍長，一直跑到蘇北淮陰，才由蔣介石派飛機把他們接到漢口。
杜聿明的炮兵部隊在大撤退中更加坎坷。杜聿明接到前方各營長來電，說前方並無激烈戰鬥，奉命正隨大軍撤退中。此後半年之久，一直沒有得到各營長的報告。他很擔心這支新成立的戰車防禦炮部隊，會不戰而犧牲掉。後來他陸續接到報告，說這次大撤退，白天怕日軍飛機轟炸，不敢行軍，都是晚上趕路。沿途人馬車輛擁塞，混亂不堪。戰車防禦炮部隊丟了不少車輛，但大部分已在混亂中安全撤出。隻有配屬第二十四集團軍副總司令韓德勤的一個連，退到蘇北淮陰後，情況不明。差不多過了將近半年，杜聿明忽然接到該連長的一份電報，說他們在江蘇北部配合韓德勤打遊擊。此後又久無音信。又過了一段時間，該連連長和大部分官兵回到廣西全州。連長哭喪著臉對杜聿明說，韓德勤命令將六輛卡車和六門戰防炮毀掉，部隊自行撤退，歸還建製。他將卡車燒毀，將戰防炮埋藏以後，經江蘇和安徽交界的中國軍隊防地回來，沿途並未遇到日軍。
徐州會戰是中國軍隊的勝利，是日本軍隊的失敗。
徐州會戰是以中國軍隊成功地轉移而告結束，也是以中國軍隊的勝利而告結束。
縱觀國民黨軍隊在正麵戰場的二十多次會戰，徐州會戰無疑占有重要地位。正如周恩來所說的，以台兒莊為代表的徐州會戰的勝利，“雖然是初步的，但它的意義卻很大”。
徐州會戰的勝利，鼓舞了抗戰的中國軍民。
自七七事變以來，麵對日軍的步步進逼，全國各族人民期盼南京國民政府能夠組織、領導中國人民起來抗戰，將日本帝國主義從中國的領土上驅逐出去，爭取中華民族的徹底解放。南京國民政府也作了不懈努力。在“八·一三”事變爆發的第二天，國民政府發表了《自衛抗戰聲明書》，表示要“實行自衛,抵抗暴力”。緊接著,蔣介石下達總動員令,自任陸海空軍總司令,一方麵指揮軍隊抗擊日軍的瘋狂進攻，一方麵接受中共關於國共合作的建議，承認中共的合法地位,組成抗日民族統一戰線，團結抗日。這些舉措，對中國軍民抵抗日本侵略是一個極大的促進和推動,全國出現了生機勃勃的抗日救亡運動的新局麵。
在日軍的大舉進攻麵前,南京國民政府幾乎動用全部軍事力量對日作戰，先後進行了多次重大戰役，打了許多硬仗。但由於戰爭指導的失誤和軍隊戰鬥力上的差距，對日作戰基本上都付出了慘重的代價，並且以失敗的結果而告終。當時，全國上下彌漫著失敗的悲觀情緒。
徐州會戰，在李宗仁的直接指揮下，經全體官兵的浴血奮戰，共殲滅日軍二萬多人，是抗戰開始後中國軍隊在正麵戰場上取得的第一次大勝利。中國軍隊狠狠打擊了日軍的王牌師團，首開正麵戰場勝利之先河，使日軍遭到自新式陸軍組建以來的第一次慘敗。在這次會戰中,廣大愛國官兵激於民族的義憤和強烈的愛國心,與日軍頑強拚搏,湧現出眾多英勇悲壯、可歌可泣的動人事跡。為國捐軀者,不僅有一般士卒和下層官兵，而且有高級將領。眾多為國犧牲的將士,以自己的鮮血洗刷了舊日的民族恥辱,維護了中華民族的尊嚴,堅定了中國軍民抗戰必勝的信念，極大地振奮了中國民族精神,對形成強大的、一致抗日的高潮和生氣蓬勃的新氣象產生了積極的影響，成功地扭轉了國民黨軍隊屢戰屢敗的不利態勢，遏止了失敗主義思潮的蔓延，使中國人民從中看到了抗戰的光明前途。
徐州會戰，特別是台兒莊戰役，使國民政府及其軍事委員會進一步認識到日軍並非不可戰勝。中國的高層認識到，雖然在短期內還不可能打敗日本侵略者，但中國的抗戰最終必將勝利，從而進一步堅定了持久抗戰的信心和決心。這時，希特勒對中國施加壓力，德國宣布對中國禁運軍火，5月間又下令召回駐中國軍事代表團，而英、美等國仍無實際上的援助，國民政府感到依賴國際外力戰勝日本的希望暫時難以實現，認識到要靠自己下堅定決心持久抗戰。
1938年6月9日，蔣介石發表聲明，宣稱當前戰局的重點不在於一個城市、一個地區的防禦成功與否，今後的戰爭將在山嶽地帶進行。同一天，他命令在武漢的政府各機關、中央黨部、各大學及由上海遷來的工廠等，向重慶和昆明轉移，最後完成以西南為大後方的戰略部署，貫徹執行“以空間換取時間”的戰略方針，表示要“始終保持我軍之戰鬥力，而盡量消耗敵人的力量，使我軍達到持久抗戰之目的”。
同時，徐戰會戰的勝利，也擴大了中國抗戰的國際影響。以台兒莊大捷為代表的徐州會戰的消息，蘇、美、英、法、德、意等歐美大國都給予了充分報道和評論。1938年4月9日的倫敦路透社電訊說：
英軍事當局，對於中國津浦線之戰局極為注意。最初中國軍隊獲勝之消息傳來，各方麵尚不十分相信，但現已證明日軍潰敗之訊確為事實……英人心理，漸漸轉變，都認為最後勝利當屬於中國。
德國的新聞機構也報道說：“徐州方麵中國抵抗力之強，殊出人意外”，“最慎重之觀察者亦不能不承認日本必遭失敗。”
這些社會輿論，對提高中國在國際上的地位和爭取外國政府的支援，有一定的積極作用。中國人民誓死抵抗外來侵略的堅強決心和勝利戰績，贏得世界正義輿論的高度評價，也使德、意法西斯不敢小視。各國新聞媒介對台兒莊大捷的報道，不僅使各國人民增加了對中國抗戰的了解和認識，也為後來中國贏得外援創造了條件。
徐州會戰也是對持久消耗戰略的完美詮釋。
徐州會戰之前，中國軍隊所采取的基本上是單純的陣地防禦戰，自己往往處於被動地位，加之武器裝備等不如日軍，所以屢戰屢敗。經過淞滬會戰及南京保衛戰，軍事委員會接受了以往的教訓，開始改用攻勢防禦新方針，即將陣地戰的守勢與運動戰的攻勢及遊擊戰的襲擾密切結合。在預選的戰場地區，以一部分兵力固守陣地，吸引和消耗日軍；以一部分兵力遊擊敵後，破壞交通，襲擾據點，牽製日軍；以主力兵團迂回日軍側背，實施強有力的攻擊，從而變內線作戰為外線作戰，於被動中爭取主動。