張騫隨從大將軍出征，因為他曾經出使大夏，被扣留在匈奴很長時間，這次他為大軍作向導，熟知有水草的好地方，因而使大軍免於饑渴，再加上他以前出使遙遠國家的功勞，封張騫為博望侯。
冠軍侯霍去病被封侯三年，在元狩二年（前121）春天，皇帝命冠軍侯霍去病做驃騎將軍，率領一萬騎兵，從隴西出擊匈奴，有軍功。武帝說：“驃騎將軍親自率領戰士越過烏盭（ｌì，力）山，討伐遬濮，渡過狐奴河，經過五個匈奴的王國，不掠取畏懼順從者的財物和民眾，隻希望捕獲單於的兒子。轉戰六天，越過焉支山一千餘裏，與敵人短兵相接，殺死了折蘭王，砍掉盧胡王的頭，誅殺全副武裝的敵兵，抓獲了渾邪王的兒子及匈奴相國、都尉，殲敵八千餘人，繳獲了休屠（ｃｈú，除）王的祭天金人。加封霍去病二千戶。”
這年夏天，驃騎將軍與合騎侯公孫敖都從北地出兵，分道進軍；博望侯張騫、郎中令李廣都從右北平出兵，分道進軍。他們都去攻打匈奴。郎中令率領四千騎兵首先到達，博望侯率領一萬騎兵隨後到達。匈奴左賢王率領幾萬騎兵圍攻郎中令李廣，郎中令與敵兵戰鬥了兩天，有一半還多的戰士犧牲了，他們殺死敵人的數目超過了他們損失的人數。博望侯領兵趕到時，匈奴的軍隊已撤走。博望侯犯有行軍滯留而延誤軍機的罪過，被判為死刑，交了贖金，成為平民百姓。驃騎將軍出了北地後，已遠遠地深入到匈奴之中，因合騎侯公孫敖走錯了路，沒能相會。驃騎將軍越過居延澤，到達祁連山，捕獲了很多敵人。天子說：“驃騎將軍越過居延澤，於是經過小月氏，攻到祁連山，俘虜酋塗王，率眾投降的有二千五百人，殺敵三萬零二百人，俘獲五個匈奴小王、五個匈奴小王的母親、單於的妻子、匈奴王子五十九個，還俘獲匈奴相國、將軍、當戶、都尉等共六十三人，漢朝軍隊大概減損十分之三，增封霍去病五千戶。賞賜隨霍去病到達小月氏的校尉們左庶長的爵位。鷹擊司馬趙破奴兩次跟隨驃騎將軍出征，斬殺了遬濮王，俘獲了稽且王，千騎將捉到匈奴小王和小王母各一人，王子以下四十一人，俘虜敵兵三千三百三十人，先頭部隊俘虜敵兵一千四百人，劃定一千五百戶封趙破奴為從驃侯。校尉句王高不識，跟隨驃騎將軍霍去病俘虜呼於屠王和王子以下共十一人，俘虜敵兵一千七百六十八人，劃定一千一百戶封高不識為宜冠侯。校尉仆多有軍功，封為煇渠侯。”合騎侯公孫敖犯了行軍滯留而未能與驃騎將軍會師的罪過，判為死刑，交了贖金，成為平民百姓。各位老將軍所率領的兵士和馬匹武器也不如驃騎將軍的，驃騎將軍所率領的是經常挑選的士兵。但他敢於深八敵軍境內作戰，常常和壯健的騎兵跑在大軍的前麵，他的軍隊也有好運氣，未曾遇到絕大的困境。但各位老將卻經常因為行軍遲緩落後，遇不到好的戰機。從此以後，驃騎將軍一天比一天更被皇上親近，更加顯貴，跟大將軍衛青相仿佛。
這年秋天，匈奴單於因為身處西方的渾邪王屢次被驃騎將軍率領的漢軍打敗，損失幾萬人而大怒，想召來渾邪王，把他殺死。因此渾邪王和休屠王等想投降漢朝，就先派人到邊境迎住漢人。這時，大行李息率兵在黃河岸邊築城，見到渾邪王的使者，立即就命令傳車急馳而歸，向皇帝報告。皇上聽過彙報後，怕渾邪王用詐降的辦法偷襲邊境，於是就命令驃騎將軍領兵前去迎接渾邪王和休屠王。驃騎將軍已經渡過黃河，與渾邪王的部隊相互遠望著。渾邪王的副將們看到漢朝軍隊，多數不想投降，有好多人逃遁而去。驃騎將軍霍去病就打馬跑到敵營，同渾邪王相見，殺了想逃走的八千人，於是命渾邪王一個人乘著傳車，先到皇帝的行在所，然後由他領著渾邪王的全部軍隊渡過黃河，投降者有幾萬人，號稱十萬。他們到達長安後，天子用來賞賜的錢就有幾十萬。劃定一萬戶封渾邪王為漯陰侯。封他的小王呼毒尼為下摩侯，鷹庇為煇渠侯，禽梨為河綦侯，大當戶銅離為常樂侯。於是天子稱讚驃騎侯霍去病的功勞說：“驃騎將軍霍去病率領軍隊攻打匈奴西域渾邪王，渾邪王及其部隊與民眾都相互投奔漢朝，用軍糧接濟漢軍。驃騎將軍一並率領他們的善射兵卒一萬餘人，誅殺了妄圖逃亡的凶悍之人，斬殺八千多人，使敵國之王三十二人投降漢朝。漢軍士卒沒有傷亡，十萬大軍全部歸來，由於他們承擔了戰爭的勞苦，因而使河塞地區幾乎消除了邊患，有幸將永保安寧。劃定一千七百戶增封驃騎將軍。”於是就減少了隴西、北地、上郡戍守之兵的一半，以此使全國百姓的徭役負擔得到寬緩。
過了不久，朝廷就把歸降的匈奴人分別遷徙到邊境五郡原先的邊塞以外，但都在河南地區，並按照他們原有的習俗，作為漢王朝的屬國。第二年，匈奴侵入右北平、定襄，殺掠漢朝一千多人。
第二年，漢武帝同諸位將軍們商議說：“翕侯趙信替匈奴單於出謀畫策，常常認為漢朝軍隊不能越過沙漠輕易留在那裏，現在派大軍出擊，勢必能實現我們的願望。”這一年是元狩四年。
元狩四年（前119）春天，武帝命令大將軍衛青、驃騎將軍霍去病各率五萬騎兵，幾十萬步兵和轉運物資的人跟隨其後，而那些敢於奮力戰鬥和勇於深入的士兵都隸屬於驃騎將軍。驃騎將軍開始要從定襄出兵，迎擊單於。後來捕到的匈奴俘虜說單於向東而去，於是就改令驃騎將軍從代郡出兵，命令大將軍衛青從定襄出兵。郎中令李廣做前將軍，太仆公孫賀任左將軍，主爵都尉趙食其任右將軍，平陽侯曹襄任後將軍，他們都隸屬大將軍。大軍隨即越過沙漠，連人帶馬共五萬騎兵，同驃騎將軍等都攻打匈奴的單於。趙信替單於出謀劃策說：“漢軍已越過沙漠，人困馬疲，匈奴可以坐收漢軍俘虜了。”於是把他們的輜重全部運到遙遠的北方，全把精兵安排在大漠以北等待漢軍。正碰上大將軍衛青的軍隊開出塞外一千多裏，看見單於的軍隊排成陣勢等在那裏，於是大將軍下令讓武剛車排成環形營壘，又命五千騎兵縱馬奔馳，抵擋匈奴。匈奴也有大約一萬騎兵奔馳而來。恰巧太陽將落，刮起大風，沙石打在人們的臉上，兩軍都無法看見對方，漢軍又命左右兩翼急馳向前，包抄單於。單於看到漢朝軍隊很多，而且戰士和戰馬還很強大，若是交戰，對匈奴不利。因此，在傍晚時單於就乘著六頭騾子拉的車子，同大約幾百名壯健的騎兵，徑直衝開漢軍包圍圈，向西北奔馳而去。這時，天已黃昏，漢朝軍隊和匈奴人相互扭打，殺傷人數大致相同。漢軍左校尉捕到匈奴俘虜，說單於在天未黑時已離去，於是漢軍就派出輕騎兵連夜追擊，大將軍的軍隊也跟隨其後。匈奴的兵士四散奔逃。直到天快亮時，漢軍已行走二百餘裏，沒有追到單於，卻俘獲和斬殺敵兵一萬 多人，於是到達了窴顏山趙信城，獲得匈奴積存的糧食以供軍隊食用。漢軍留住一日而回，把城中剩餘的糧食全部燒掉才歸來。
在大將軍衛青同單於會戰時，前將軍李廣和右將軍趙食其的軍隊從東方的道路進軍，因為迷了路，沒能如期同衛青同攻單於。直到大將軍衛青領兵回到大漠以南時，才遇到前將軍和右將軍。大將軍想派使者回京報告天子，就命令長史去按文書所列罪狀審問前將軍李廣，李廣自殺。右將軍回到京城，被交給法官，趙食其交了贖金，成為平民百姓。大將軍衛青進入邊塞，此次總共斬獲敵兵一萬九千人。
這時，匈奴的部眾失去單於十多天，右穀蠡王聽到這消息後，就自己當了單於。單於後來又與他的部眾相會合，右穀蠡王就去掉自立的單於之名。
驃騎將軍也率領五萬騎兵，所帶軍需物資也與大將軍衛青的相同，但卻沒有副將。他就任用李敢等人做大校，充當副將，從代郡、右北平出兵一千餘裏，遇上左賢王的軍隊，他們斬獲敵兵的功勞已經遠遠超過了大將軍衛青。出征的大軍全部歸來時，武帝說：“驃騎將軍霍去病率領軍隊出征，又親自率領所俘虜的匈奴士兵，攜帶少量軍需物資，越過大沙漠，渡河捕獲單於近臣章渠，誅殺匈奴小王比車耆轉而攻擊匈奴左大將，斬殺敵將，奪取其軍旗和戰鼓。翻越離侯山，渡過弓閭河，捕獲匈奴屯頭王和韓王等三人，以及將軍、相國、當戶、都尉等八十三人。然後在狼居胥山祭天，在姑衍山祭地，並且登上高山以望大沙漠。共捕獲俘虜和殺敵七萬零四百四十三人，漢軍大概減損十分之三。他們從敵人那裏取得糧食，所以能夠遠行到極遠的地方而沒有斷絕軍糧。劃定五千八百戶增封驃騎將軍霍去病。”右北平太守路博德隸屬於驃騎將軍，與驃騎將軍在與城會師，沒有錯過日期，跟隨驃騎將軍到達檮餘山，俘虜和斬殺匈奴二千七百人，劃定一千六百戶封路博德為符離侯。北地都尉邢山隨驃騎將軍捕獲匈奴小王，劃定一千二百戶封邢山為義陽侯。從前投降漢朝的匈奴因淳王複陸支、樓專王伊即靬皆隨驃騎將軍攻匈奴有功，劃定一千三百戶封複陸支為壯侯，劃定一千八百戶封伊即靬為眾利侯。從驃侯趙破奴、昌武侯趙安稽都跟隨驃騎將軍打匈奴有功，各增封三百戶。校尉李敢奪取了敵軍的軍旗戰鼓，封為關內侯，賜食邑二百戶。校尉徐自為被授予大庶長的爵位。另外驃騎將軍霍去病屬下的小吏士卒當官和受賞的人很多。而大將軍衛青沒能得到加封，軍中的官員和士卒沒有被封侯的。
當衛青和霍去病所率領的兩支大軍出塞時，曾在邊塞閱兵，當時官府和私人馬匹共十四萬匹，而他們重回塞內時，所剩戰馬不滿三萬匹。於是朝廷增置大司馬官位，大將軍和驃騎將軍都當了大司馬。而且定下法令，讓驃騎將軍的官階和俸祿同大將軍相等。從此以後，大將軍衛青的權勢日日減退，而驃騎將軍一天比一天顯貴。大將軍的老友和門客多半離開了他，而去奉事驃騎將軍，這些人常常因此而得到官爵，隻有任安不肯這樣做。
驃騎將軍為人寡言少語，不泄露別人說的話，有氣魄，敢做敢為。武帝曾想教他孫子和吳起的兵法，他回答說：“戰爭隻看方針策略如何就夠了，不必學習古代兵法。”武帝為他修蓋府第，讓驃騎將軍去看看，他回答說：“匈奴還沒有消滅，無心考慮私家的事情。”從此以後，武帝更加重用和喜愛驃騎將軍霍去病。但是，霍去病從少年時代起，就在宮中侍候皇帝，得到顯貴，卻不知體恤士卒。他出兵打仗時，天子派遣太官贈送他幾十車食物，待他回來時，輜重車上丟棄了許多剩餘的米和肉，而他的士卒還有忍饑挨餓的。他在塞外打仗時，士卒缺糧，有的人餓得站不起來，而驃騎將軍還在畫定球場，踢球遊戲。他做的事多半如此。大將軍衛青的為人卻是仁愛善良，有退讓的精神，以寬和柔順取悅皇上，但是天下之人沒有稱讚他的。