公元前三世紀的戰國時期，在我國北方的大草原上興起了一個遊牧民族——匈奴。秦末漢初，匈奴勢力達到極盛，統治著東到大興安嶺，西到祁連山、天山，北到貝加爾湖，南到河套的廣大地區。匈奴貴族為了掠奪財物和奴隸，經常南下騷擾中原王朝的北部邊疆。
西漢初年，漢王朝由於經濟力量尚未恢複起來，而且內部不夠穩定，從劉邦到漢武帝初年，一直對匈奴采取和親政策，每年送給匈奴大量的禮物和金錢。但是，和親政策並沒能阻擋匈奴貴族的掠奪，北部邊疆的生產時常遭到破壞，無數漢族人民被搶走或殺死。漢武帝即位後，專製集權空前強化，社會經濟有了很大發展，軍事力量也得到加強。漢武帝決定改變和親政策，發動了全麵反擊匈奴的大規模戰爭。衛青和霍去病正是在這場戰爭中湧現出來的傑出將領。
衛青是繼李廣之後，漢朝抗擊匈奴的大將。他是個私生子，被人看不起，受此影響，小時候的衛青是個胸無大誌的人。有一次，一個相士對他說道：“你現在窮困，將來定為貴人，官至封侯。”衛青笑道：“我身為人奴，隻求免遭笞罵，已是萬幸，哪裏談得上立功封侯呢？”但是後來衛青運氣不錯，他同母異父的姐姐衛子夫被漢武帝劉徹看中，成了寵妃，因著裙帶關係當了將軍，自己被皇帝的姐姐平陽公主看上，當了駙馬；他和李廣曾分別率領萬人出戰匈奴，李廣多次移動部隊都沒有遇到敵人，因而無法戰鬥，就在鬱鬱寡歡地歸隊的當兒，衛青卻撿了個漏子，遇上小股敵軍，輕輕鬆鬆地打了個勝戰，從此更受青睞。這並不隻是因為沾了姐姐的光而已，衛青本身也是一個相當有能力的人。
漢朝對匈奴的反擊，使得匈奴的進犯更加猖狂了。公元前128年的秋天，匈奴騎兵大舉南下，先攻破遼西，殺死了遼西太守，又打敗漁陽守將韓安國，劫掠百姓兩千多人。漢武帝派匈奴人敬畏的飛將軍李廣鎮守右北平（今遼寧省淩源西南），匈奴兵則避開李廣，而從雁門關入塞，進攻漢朝北部邊郡。漢武帝又派衛青出征，並派李息從代郡出兵，從背後襲擊匈奴。衛青率三萬騎兵，長驅而進，趕往前線。衛青本人身先士卒，將士們更是奮勇爭先，斬殺、俘獲敵人數千名，匈奴大敗而逃。
公元前127年，匈奴貴族集結大量兵力，進攻上穀、漁陽。武帝決定避實擊虛，派衛青率大軍進攻久為匈奴盤踞的河南地（黃河河套地區）。這是西漢對匈奴的第一次大戰役。
衛青率領四萬大軍從雲中出發，采用“迂回側擊”的戰術，西繞到匈奴軍的後方，迅速攻占高闕（今內蒙古杭錦後旗），切斷了駐守河南地的匈奴白羊王、樓煩王同單於王庭的聯係。然後，衛青又率精騎，飛兵南下，進到隴西，形成了對白羊王、樓煩王的包圍。匈奴白羊王、樓煩王見勢不好，倉惶率兵逃走。漢軍活捉敵兵數千人，奪取牲畜一百多萬頭，完全控製了河套地區。因為這一帶水草肥美，形勢險要，漢武帝在此修築朔方城（今內蒙古杭錦旗西北），設置朔方郡、五原郡，從內地遷徙十萬人到那裏定居，還修複了秦時蒙恬所築的邊塞和沿河的防禦工事。這樣，不但解除了匈奴騎兵對長安的直接威脅，也建立起了進一步反擊匈奴的前方基地。衛青立有大功，被封為長平侯，食邑3800戶。