霍去病雖然年輕，但是他在衛青等將領帶領和抗擊匈奴精神的鼓舞下，充分運用前輩的經驗的同時，發揮自己的聰明才智和謀略，運籌帷幄地指揮軍隊，多次取得勝利。
漢武帝曾經命霍去病為主帥，率兵對河西地區的匈奴進行掃蕩。霍去病對軍隊進行精心的部署，決定自己親自率領大軍長途跋涉，繞到匈奴主力的後方。
霍去病率領軍隊轉戰2000多裏，在地形極為複雜的河西走廊，孤軍切斷了匈奴軍隊的退路，並且在沒有援軍的情況下，給匈奴軍隊以沉重的打擊。
在這次戰役中，霍去病以損失最小的代價一舉殲滅匈奴在河西地區的主力，並且俘獲2000多人，其中包括匈奴貴族50多人，將軍相國等各級軍官60多人。
河西戰役的勝利，充分地顯示了霍去病這位年輕的將軍，英勇善戰謀略過人的指揮才能。
鑒於霍去病連年征戰，立下了汗馬功勞，漢武帝一再委以重任，最後提升他為大司馬。
霍去病雖然官位很高，但住宅非常一般，漢武帝為了獎勵他，特意派人在長安為他修造一座豪華的住宅。住宅修好後，漢武帝十分高興。他特意帶霍去病與他一起去參觀這所新住宅。
他們來到了宅院門前，負責營造宅院的大臣介紹說：“一切都是按皇上的旨意修建的。主樓中有豪華舒適的寢室，有寬敞明亮的會客廳，有環境幽雅的書房。出了主樓，就是美如仙境的小花園。亭台樓閣，奇花異草，應有盡有。”
他們參觀完了這座豪華的宅院，漢武帝興致勃勃地說：“大司馬，你可知這宅第是為誰修的？”
霍去病心中雖猜到幾分，但還是說：“不知，皇上未曾告知下臣。”
漢武帝哈哈大笑起來，說：“愛卿，現在我要告訴你，這所漂亮的宅院是專為你修造的！”
霍去病聽罷，臉上並未流露出什麼喜悅。
漢武帝有些奇怪，問：“怎麼，你不喜歡？”
霍去病懇切地說：“皇上，您對我的恩賜我心領了！但是，這所豪華的住宅，卻不能接受。這是因為，我僅是暫時擊退了敵人，尚未完全消滅敵人。匈奴未滅，何以家為？”
漢武帝望著霍去病，心中百感交集，一時不知如何說才好。
霍去病又一再拜謝皇恩，漢武帝終於被感動了，自言自語地說：“好，好！國家多麼需要像你這樣的將領啊！”
此後，霍去病又參加了規模空前的“漠北大戰”。在深入漠北尋找匈奴主力的過程中，霍去病率部奔襲2000多裏，殲敵7萬多人，俘虜匈奴王爺3人，將軍相國當戶都尉83人，匈奴休屠祭天金人也成了漢軍的戰利品。
霍去病一路追殺，來到了今蒙古肯特山一帶。就是在這裏，霍去病暫作停頓，率大軍進行了祭天地的典禮，在狼居胥山舉行了祭天封禮，在姑衍山舉行祭地禪禮。
封狼居胥之後，霍去病繼續率軍深入追擊匈奴，一直打到翰海，方才回兵。經此一役，“匈奴遠遁，漠南無王庭”。
霍去病和他的“封狼居胥”，從此成為我國曆代兵家人生的最高追求。而這一年的霍去病年僅22歲。
霍去病去世後，漢武帝十分悲痛，為他舉行了隆重的葬禮，並且為他修建一座仿造祁連山模樣的宏偉墳墓，來紀念這位為大漢邊疆的穩定而立下赫赫戰功的將軍。“漢膘騎將軍大司馬冠軍侯霍公去病墓”巨大的墓碑，至今還矗立於陝西興平茂陵墓地。
“匈奴未滅，何以家為？”這短短的8個字，因為出自霍去病之口而言之有物、震撼人心。表明他把國家利益放在首位，不顧及個人利益的英雄氣概。
從此以後，這句話為人們樹立了良好的學習榜樣，刻在曆朝曆代保家衛國將士們的心裏，這種精神值得後人傳誦和繼承。