霍去病是衛青姐姐的兒子，十八歲那年當上了武帝的侍中。霍去病擅長騎馬射箭，曾經兩次跟隨衛青出征。衛青交給了他一群壯士，霍去病便異常勇猛地衝在最前麵。他曾與八百名驃悍的騎兵一起，離開大部隊，向前衝鋒幾百裏去謀求戰功，斬殺和捕獲的敵兵人數遠遠超過了他們自己損失的人數。武帝大為驚喜，封霍去病為冠軍侯。被封為冠軍侯之後第三年，霍去病被武帝任命為驃騎將軍。他率領一萬名騎兵從隴西（今甘肅省臨洮縣南）出塞，一路上攻打了匈奴的五個部落王國，斬殺了多名匈奴將領和八千多匈奴騎兵，還繳獲了匈奴祭天器具金人，戰績輝煌，受到武帝加封的獎賞。在隨後的幾年中，霍去病多次率兵征討匈奴，每一仗都有重大斬獲。為了讓霍去病率領的部隊取得更多的勝利，武帝專門把精兵強將調配給他指揮，霍去病所掌控的馬匹、武器等也是最精良的。由於戰功赫赫，驃騎將軍霍去病與武帝的關係愈顯親近，在朝廷中身份顯貴，可以與大將軍衛青相提並論。
武帝元狩四年（公元前119年），大將軍衛青、驃騎將軍霍去病率領五萬騎兵、幾十萬步兵攻打匈奴，部隊中凡是敢於衝鋒、深入敵方的將士都歸霍去病指揮。起初，霍去病原打算從定襄出塞，但被俘虜的匈奴騎兵說，單於眼下正在東邊，霍去病便改由代郡（今河北省蔚縣）出塞，全力攻打，力爭捕獲單於。從漢朝軍隊中叛逃的趙信給匈奴單於出主意，說：“漢朝軍隊剛剛越過沙漠，人馬非常疲乏，我們隻需坐著即可接收漢朝軍隊的俘虜了。”單於便率領所有的精兵等待在沙漠的北邊。大將軍衛青率領的軍隊正好從這裏經過，看到匈奴軍隊已經列陣，也馬上排成環形陣營，且命令五千名騎兵前去迎戰，匈奴那邊也派出了一萬名騎兵。此時恰逢太陽下山，大風忽起，飛沙走石，無法看清對方。衛青於是派出左右兩支部隊去包抄單於。單於發現漢朝軍隊人數眾多，武器精良、馬匹健壯，心裏已經怯了幾分，便趁天黑之機，乘著一輛六頭騾子拉的車子逃跑，他的身後還有幾百名精壯騎兵護衛。天已大黑，雙方士卒扭打在一起，搏鬥得非常慘烈，死傷數基本相當。為了追到單於，衛青派出輕騎兵連夜追擊，追了一夜，約莫追了兩百多裏仍沒有追到，隻得作罷。但漢朝軍隊已經斬殺和捕獲了一萬多名敵兵，還繳獲了大量糧食。無法帶走的糧食，則一燒而光。
驃騎將軍霍去病率兵越過大沙漠，誅殺了近百名匈奴主將和王國首領，並來到匈奴腹地的狼居胥山，舉行了祭天儀式。霍去病的部隊共斬殺和捕獲了七萬多名敵兵，自己將士的陣亡人數隻有對方的十分之三，驃騎將軍再次得到了加封。
衛青、霍去病為保護漢朝的平安作出了巨大貢獻，漢朝民眾都很欽佩和崇敬他們。而對於匈奴軍隊來說，由於衛青、霍去病無比勇猛和非凡戰術，使得他們隻要一聽見衛青、霍去病的名字，就會深感緊張，以至不敢輕易前來進犯。