元狩二年（公元前121年），漢武帝任命霍去病為驃騎將軍，率騎兵一萬餘，出擊河西。
這是霍去病首次作為主帥領兵出征，也不知他是否故意的，他這次道出河東郡。這時他已經知道自己的父親是平陽縣的小縣吏霍仲孺，而平陽縣就屬於河東郡。
河東太守得到消息，親自到郊外迎接，並且背著弩和箭在前為他開道。
霍去病到了河東之後，就直奔平陽縣。他一到平陽，立即就派官吏去把霍仲孺接到他入住的驛站傳舍。
霍仲孺當初對衛少兒優越感有多強，現在麵對兒子自卑就有多深，根本不敢以父親自居，他以小吏見上官的禮節，小步快跑（趨）跑進傳舍，對霍去病行跪拜謁見之禮。
霍去病慌忙迎拜，然後跪下道：“去病早先不知道自己是大人之子啊！”
霍仲孺慚愧地叩頭，說：“老臣得以托命於將軍，這是天力啊。”
霍去病離開平陽之前給霍仲孺買了大量田宅和奴婢，他出征回來，仍然取道平陽，仍然請霍仲孺至傳舍相見。這次霍仲孺把他跟正經老婆所生的兒子霍光也帶來了，當時霍光才十多歲。霍去病走時，把霍光帶到長安去了，一去長安，就被武帝任命為郎官，從此平步青雲，武帝死後，霍光更是成為一手遮天的大權臣！霍仲孺人物猥瑣，生的兩個兒子居然都是國之棟梁！
言歸正傳，這次霍去病領軍從隴西出塞，兵行神速，僅用了六天時間，就過金城（在今甘肅蘭州西北）、令居（在今甘肅永登西），越烏鞘嶺，旋風般一連掃過5個匈奴部落（小王國），一手大棒，一手胡蘿卜，遇到抵抗就消滅之，乖乖投降即安撫之！
然後繼續西進，尋找匈奴主力。最後在焉支山（今甘肅山丹大黃山，亦稱燕支山）以西1000餘裏找到了河西匈奴的主力軍，毫不猶豫，立即出擊。
漢軍以銳不可擋之勢殲滅匈奴軍8千9百餘人，殺匈奴折蘭王、盧胡王，俘虜渾邪王之子及相國、都尉等官員，繳獲了休屠王的祭天金人。
渾邪王、休屠王落荒而走。
此役漢軍深入匈奴境內2千餘裏，幾乎貫穿了整個河西走廊，給河西匈奴以沉重的打擊。但是，由於霍去病采用的是猛衝猛打，正麵平推的進攻方式，因而未能聚殲匈奴主力，而且漢軍雖然大勝，自己的損失也極其沉重，犧牲將士達到十分之七！這就是霍去病不耐煩學兵法的害處了。
但無論如何，首次獨立出征就有這樣的衝勁，這樣亮眼的戰績，也相當不錯了，因此武帝下詔，益封霍去病食邑2000戶。
不把河西匈奴全部消滅，漢武帝是不肯甘休的，當年夏天，他決定再次出擊河西。為了確保勝利，這次兵分兩路，西路軍由霍去病統率，合騎侯公孫敖隨征，目標是殲滅河西匈奴。東路軍由博望侯張騫和郎中令李廣統率騎兵萬餘人，出右北平，進擊左賢王部。東路軍的任務是策應霍去病的西路軍，不讓匈奴左賢王增援河西匈奴。