雖然如此，他們也不得不重視衛青了，為了打敗衛青，匈奴新單於伊稚斜，精心設計了一個作戰計劃：先派騎兵大舉侵擾漢朝雁門、代郡等邊境地區，牽製漢軍部隊，然後由右賢王集中十萬精銳，重點攻打河套草原。
而衛青的態度很明確：既然你要硬碰硬，我就和你來硬的。得知消息的衛青，並沒有窩在河套草原死守，相反精選了三萬騎兵，再次率軍出擊。為了配合衛青作戰，漢武帝陸續調動十幾萬部隊，對匈奴各處進行反侵擾。
公元前124 年，大戰打響，衛青率領三萬騎兵，星夜兼程急行軍，一夜行進七百多裏，直接殺到右賢王大營。這下可出乎右賢王預料，被衛青一頓猛打，大軍立刻崩潰，右賢王嚇得倉皇逃命，僅被俘就有一萬五千多人，幾乎全軍覆沒。
之所以敗得這麼慘，一是衛青來得太快，又是半夜突襲，發起進攻的時候，右賢王還在睡覺。二是在衛青的訓練下，漢軍作戰素質大大提高，作戰方法也極其先進，他的拿手好戲，就是騎兵衝鋒和戰車合圍相結合，先戰車圍，再騎兵衝，還有弩箭掩護，讓匈奴打打不過，跑又跑不了。這套新戰術，是當時匈奴騎兵的噩夢。
捷報傳來，整個漢朝欣喜若狂。這是自漢匈開戰以來，漢朝戰果最輝煌的勝仗，凱旋的衛青，被漢武帝任命為大司馬，成為漢軍的最高統帥。連衛青剛出生的兒子，都因此封了侯，地位極其尊貴。
但衛青卻很謙虛，立了功不但不傲，相反還請求漢武帝，自己的兒子還是小孩兒，沒立什麼功，還是把功勞分給將士們吧。這下漢武帝更感動了，連連對大臣感慨說：“古往今來的名將裏，有哪個像衛青一樣，既有卓越的才華，又有高尚的品德？有他做大將軍，我真是太幸運了。”
就這樣，從公元前129 年起，衛青率軍與匈奴作戰，曆經大小十餘場戰鬥，每次都連戰連捷，未嚐一敗，成為匈奴最大的克星。
但公元前123 年，衛青的挫折卻來了。
打敗右賢王後，漢武帝雄心勃勃，打算一舉消滅匈奴，這年又命衛青率領十萬大軍，直撲匈奴單於主力。誰知這次的情況，連衛青都沒料到：匈奴不再和衛青正麵交手，相反部隊交替掩護，且戰且退。雖然衛青也陸續消滅了一萬多敵人，可還是讓匈奴單於跑了。
衛青的部下趙信更中了埋伏，三千騎兵全軍覆沒不說，趙信還投降當了叛徒。
這下問題嚴重了，趙信是衛青親信的將領，熟悉衛青的作戰特點，他投降後，給匈奴出了個壞主意：讓匈奴把主力撤到漠北，然後每年集中力量騷擾幾次，漢朝一打就趕快撤。漢朝要是追，就把他們引到漠北圍殲。
這個戰術可讓漢朝頭疼了，雖然匈奴侵擾少了很多，但戰爭卻一直不停，最讓漢武帝窩火的是，匈奴搶了東西就跑，根本不和你打，他們騎兵速度快，追又追不上。
但漢武帝卻沒慌：因為在衛青的這次戰鬥中，有個十八歲的少年立了功，他率領八百騎兵夜襲匈奴營地，斬殺了兩千多匈奴兵，把單於的叔叔也給活捉來了。這個人，就是衛青的外甥，另一位傑出的抗匈名將—— 霍去病。
小貼士
衛青在成為大將軍後，事業風光無限，但家庭卻橫遭打擊，妻子先他一步過世，而他當年的主人平陽公主，也遭遇到喪夫的打擊。在衛青姐姐衛皇後的撮合下，衛青與平陽公主結成了夫妻，其後十年恩恩愛愛。公元前106 年衛青過世，平陽公主卻未曾再嫁，臨終遺言是和衛青葬在一起。