於是，漢高帝親自統率大軍向東進發，留守的大臣們，都相送到郊外的霸上。留侯張良當時患病，也強撐著起身相送到曲郵（今陝西臨潼縣東），對漢高帝說：“我本應隨從，無奈病太重了；楚人勇猛凶悍，望皇上不要與楚人爭鋒。”接著張良又趁機向皇上說：“應任命太子為將軍，監領關中的部隊。”
“子房，您雖病重，也要盡力地輔佐太子啊。高帝也向張良囑托說：當時，叔孫通任太子太傅，留侯張良兼任太子少傅職務。”
黥布舉兵造反後，果然像薛公所說的那樣，向東進攻荊國。荊王劉賈與黥布的部隊交戰，未能取勝，逃往富陵（今江蘇盱眙縣東北），被黥布的軍隊所殺。荊王的部隊都被黥布所劫持，黥布又渡過淮河進攻楚國。楚國發兵與黥布在徐（今江蘇洪泗縣南）、僮（今安徽泗縣東北）之間交戰。楚國把軍隊分為3支部隊作戰，想要以此來相互支援，出奇製勝。有人向楚國將領建議：“黥布善於用兵，百姓向來都畏懼他。況且兵法上說：諸侯在自己的國土上同敵人作戰，稍有不利便容易逃散。如今把部隊分為3支，他們打垮我們一支，其餘的兩支便都會逃跑，哪裏會相互救援？”楚國將領沒有聽取這一建議。黥布果然擊潰其中的一支部隊，其他兩支部隊也都隨之瓦解了。
黥布乘勝向西推進，在蘄縣（今安徽宿州市）西麵與漢高帝所統率的大軍相遇於會鸌（鄉名，在今安徽宿縣東南）。黥布所統率的部隊十分精銳，高帝固守於庸城。在壁壘之上，高帝瞭望黥布列陣如同項羽的軍陣，這勾起他十多年前與項羽爭戰時令人膽戰心寒的一幕幕往事，心裏很是厭惡。漢軍的壁壘與黥布的軍陣相距頗近，當黥布布陣完畢後，在陣前抬頭向漢軍壁壘望去，恰好同城樓上的漢高帝打個照麵。漢高帝似乎帶有幾分深情地高聲向黥布喊道：“將軍何苦要造反？”漢高帝這句明知故問、言不由衷的問話，意在瓦解黥布和他部下將士的士氣，而正在氣頭上的黥布卻愚蠢而魯莽地正中高帝的計策，喊道：“想做皇帝罷了。”
漢高帝也沒有想到黥布竟會如此蔑視地回答，便破口大罵黥布。黥布的這句話，不僅激怒了漢高帝，高帝部下的一些老將們也被黥布的蔑視所激怒，況且這又是在皇帝麵前逞能立功的大好機會，因而壁壘上漢軍將士個個義憤填膺，在高帝的命令下達後，一起以排山倒海之勢衝向黥布的軍陣。
愚蠢而魯莽的黥布，自恃作戰勇猛無敵，沒料到自己“想做皇帝罷了”這句話立即把漢軍的氣勢發動起來，可謂是惹火燒身。黥布的精銳部隊是漢軍不可以比擬的，他所布的軍陣也無可挑剔，然而漢軍的士氣高漲，而自己軍隊的士氣卻是一如平常，因而交鋒之後，黥布的軍隊立即被衝垮，兵敗如山倒。在漢軍勇猛的攻擊下，黥布的部隊節節敗退，潰不成軍，遭到了慘重的失敗。
黥布在舉兵反叛後，已占有荊國、楚國，形勢對他是頗為有利的。然而，他沒有料到與漢高帝所統領的東征大軍一交鋒便遭到如此慘重的失敗。在形勢不利的情況下，黥布沒有向荊國、楚國撤退，以便尋找機會再與漢軍交戰，而是像薛公所預料的那樣，選擇了向南退走的下策。黥布兵敗後渡過淮河向南撤退，撤退中曾多次停下來倉促地與漢軍交戰，但總是不順利，一直未能站穩腳跟，而且部下的將士即他的精銳部隊也已損失殆盡，最後隻帶領百餘人逃到長江以南。
長江畢竟是一道天塹，漢軍追擊到長江北岸，一時無法渡江繼續追擊。
黥布在走投無路的情況下，他像薛公所預料的那樣去投奔長沙王，以為這是他唯一的生路。黥布投奔長沙王，是因為當年陳勝、吳廣首倡反秦之時，黥布曾投奔番君吳芮，共同起兵反秦。當時，吳芮還把女兒嫁給黥布為妻。秦帝國滅亡後，項羽封吳芮為衡山王，封黥布為九江王。楚漢戰爭爆發後，黥布叛楚歸附漢王，項羽把黥布的這位妻子殺害了。當黥布兵敗投奔長沙時，吳芮早已死去，嗣立的是長沙哀王吳回。
長沙哀王吳回對黥布沒有什麼好感，關係亦不密切。他見黥布帶領百餘人亡命而來，怎肯為收留他一人而惹怒大漢皇帝，危害自身。於是，長沙哀王讓人欺騙黥布，假裝同他一道逃跑，引誘他逃往南越。黥布信以為真，跟隨著逃到了番陽（今江西波陽縣東）。番陽人在茲鄉（波陽縣境內鄉名）的一個農家田舍中將黥布殺死。這位在秦漢之際勇冠三軍、戰功赫赫的一代梟將，如此地結束了自己的一生。反叛漢王朝的黥布終於被滅掉了。
漢高帝將皇子劉長封為淮南王，封賁赫為期思侯，並將那些一直跟隨著自己東征的獎勵一一進行了封賞。