此時匈奴內部也是矛盾重重，伊稚斜單於對於當時仍然健在的渾邪王、休屠王等人非常不滿，指責他們給匈奴造成了傷亡數萬人的慘重損失。公元前121年秋天，伊稚斜單於想要把渾邪王召到王庭來殺掉。渾邪王知道以後，與休屠王等共同謀劃應對之策，為了不被斬殺，他們想要投降漢朝，於是先派人到漢朝邊境探聽虛實。漢朝將領得到這個消息以後，令手下快馬加鞭地將這個消息報告給皇帝知道。漢武帝知道以後，還以為他們是詐降，就派霍去病率領大軍前往。這麼大的陣仗把渾邪王給嚇倒了，又後悔不想投降了，帶著自己的部下就往回跑。霍去病帶人緊追不舍，追上渾邪王後，殺掉想逃跑的八千餘匈奴人，把渾邪王和他剩下的軍隊都帶回了漢朝，受降者號稱十萬。到達長安以後，漢武帝給予了他們豐厚的賞賜。
從表麵上看，這場戰爭似乎對中原人民有些好處：自從渾邪王歸附以後，隴西、北地、河西就很少再受到匈奴的攻擊了。但實際上這些戰事不僅使匈奴遭受到了巨大而慘重的損失，中原人民也因此而被迫支付數額更加巨大的戰爭費用。河西戰役獲勝，西漢朝廷不但奪占了原匈奴河南地區，包括秦代蒙恬修築四十四縣城的地區，還設置了朔方郡。
從公元前126年至公元前121年，漢匈戰爭主要發生在漠南以及河西地區，故稱之為“漠南河西戰役”。
漠南河西戰役以後，西漢朝廷又在原匈奴牧獵地區陸續設置了酒泉、武威、張掖、敦煌四郡。此外，漢軍還有一個重大收獲，即為日後與匈奴政權爭奪西域打下基礎。河西走廊位於黃河以西，祁連山北側，是溝通關中與西域聯係的交通要道。為了確保長安西側隴西等地的安全，切斷匈奴與羌族的聯係，聯絡西域各國共同討伐匈奴，發動河西之戰，攻取河西走廊是必要的。河西走廊的匈奴被肅清，漢軍發動河西之戰的目的已經達到。
（五）漠北決戰
河西之戰的勝利，使西漢徹底解除了後顧之憂，得以全力與匈奴單於進行主力決戰。匈奴單於伊稚斜早在河西之戰前，就已經接受了漢朝降將趙信的建議，把主力集結在大漠以北等待時機，準備迎擊遠道而來饑疲不堪的漢軍。可是漢軍並沒有來漠北決戰，而是在東、西兩線發起了河西之戰和對漠南左賢王的進攻。於是伊稚斜做出了錯誤判斷，以為漢兵不能再到漠北來，從而放鬆了警惕。
公元前119年春，漢武帝決定出敵不意發起漠北之戰。武帝令大將軍衛青與驃騎將軍霍去病各率五萬騎兵，分兩路向漠北出擊，接連的軍事勝利，使武帝的頭腦開始發熱，分兵兩路去攻擊兩個方向的敵人，不符合集中優勢兵力攻擊主要方向的作戰原則。當時匈奴還有單於和左賢王兩支軍隊，它們都沒有受到過重大打擊，具有較強的戰鬥力。更重要的是敵情不明，連單於軍在哪裏也沒有弄清楚，就貿然分兵，發起進攻。直到雙方接戰時，才發現擔任主攻任務的由漢軍精銳主力編成的霍去病軍的作戰對象不是單於，而是左賢王。實力較弱的衛青軍，卻麵對著匈奴單於的主力軍。如果不是衛青沉著勇敢、指揮得當的話，漢軍完全有可能麵臨災難性的後果。
當衛青率軍越過沙漠來到漠北時，匈奴單於早已作好迎擊準備了。衛青在敵情突然變化的情況下，沉著冷靜，讓部隊組織好防禦，站穩腳跟。然後派五千騎兵衝擊敵陣，這既是主動攻擊，又是在試探對方的兵力如何。匈奴以萬餘騎兵迎戰，雙方激戰一天。傍晚時起了大風，飛沙走石，兩軍對麵不相見，虛實難料。衛青大膽果斷地利用風沙的掩護，乘機發騎兵從兩翼包圍了匈奴軍。單於見漢軍兵多且勇敢善戰，自料難勝，就在夜色與風沙的掩護下，率數百騎兵突圍向西北而去。漢軍發現後，立即派兵連夜追擊，衛青率大軍隨後跟進。匈奴軍在混戰中潰散。
這次戰鬥漢軍共殲敵一萬九千人，但因是雙方混戰，漢軍傷亡也很重。匈奴主力並未被殲滅，隻是因單於逃走，失去指揮而潰散。衛青指揮的二等部隊，千裏趨敵，能將以逸待勞“兵陣而待”的單於主力擊潰，也確實不容易。
另一路作為主要打擊力量的霍去病軍，沒有遇到匈奴主力部隊，隻是碰到左賢王的軍隊，俘虜並斬殺敵軍共七萬餘人，成功地殲滅了左賢王的主力。左賢王逃跑，霍去病軍追至狼居胥山（即今蒙古烏蘭巴托東肯特山）而還。
這次漠北決戰，漢軍還動員了數十萬步兵保障後勤補給。漢軍漠北決戰的勝利，確實來之不易。這次決戰殺死匈奴八九萬人，漢兵也折損了數萬人，且損失戰馬十餘萬匹。