有人說：衛家不就因為僥幸出了一個衛子夫，讓一家子靠著裙帶關係，雞犬升天了嗎？的確，衛青是典型的“裙帶官員”。在世襲製盛行、社會上下層之間缺乏流動性的西漢時期，底層百姓要躍升為政治高層，依靠裙帶關係是最常見、最有效的方法，也幾乎是唯一的方法。問題的關鍵不是指責衛青一家人依靠這種方法提升社會地位，而是要看他們身居高位之後的所作所為。
衛青也知道自己沒有尺寸之功，僅僅靠姐姐受寵得來的地位是不穩的。好在衛青是一個能力出眾的國舅，又遇到劉徹這個雄才大略的皇帝，不怕沒有建功立業的機會。當時，北方的匈奴人經常殺入長城，搶劫漢朝的人口和財富，甚至一度逼近西漢的首都長安，構成了西漢王朝的最大威脅。劉徹自即位以後就籌備反擊匈奴，挑選能人幹將，準備大幹一場，衛青恰巧進入了劉徹的視野。
匈奴人在公元前129年又一次大規模侵略、搶劫西漢州縣。這一回，劉徹決定不再忍讓，要堅決反擊殘暴的匈奴人。他挑選了四位將軍，分別是已經升任車騎將軍的衛青、騎將軍公孫敖、輕車將軍公孫賀和三朝名將、驍騎將軍李廣，給他們每人一萬騎兵，讓他們兵分四路迎擊匈奴。衛青第一次帶兵出征，就直搗匈奴祭掃天地祖先的龍城，雖然殺敵有限，但政治意義巨大，順利凱旋。而另外三位將軍兩路失敗，一路無功而還，更襯托出了衛青的能幹。漢武帝劉徹非常高興，加封衛青為關內侯。此後在公元前128年、公元前127年，漢武帝多次派衛青帶兵反擊南下的匈奴大軍，衛青不負厚望，奮勇作戰，每次都打得匈奴大敗而逃。在公元前127年的戰鬥中，衛青率軍收複了秦朝末年之後就被匈奴人占領的黃河河套地區。河套地區水草肥美，形勢險要，漢朝收複後在此設置朔方郡、五原郡，從內地遷徙十萬人到那裏定居，還修複了秦時蒙恬所築的防禦工事。從此，長安解除了匈奴的威脅，漢朝和匈奴的戰爭局勢得到逆轉。衛青立下了大功，被封為長平侯，食邑三千八百戶。
此後，衛青活躍在漢匈戰爭前線。劉徹越來越信任他，給他調撥了越來越多的軍隊，賦予他越來越大的指揮權。公元前124年春，漢武帝命衛青節製漢朝大軍十幾萬人進攻匈奴。衛青急行軍六七百裏，在夜幕中包圍了匈奴右賢王的營帳，俘虜匈奴王爺十餘人，男女一萬五千餘口和數百萬頭牲畜。漢武帝接到捷報，喜出望外，派特使捧著印信在軍中升衛青為漢朝的最高軍職——大將軍，指揮前線所有部隊和將領，加封食邑八千七百戶。衛青的三個兒子都還在繈褓之中，也被漢武帝封為列侯，其中衛伉為宜春侯，衛不疑為陰安侯，衛登為發幹侯。指揮全線部隊、父子四人封侯，這在西漢王朝曆史上還是首例。衛家創造了這樣的殊榮。