衛青，字仲卿。他的父親鄭季，是河東平陽人，擔任縣吏，在平陽侯家裹當差。平陽侯曹壽娶了漠武帝的姐姐陽信長公主。鄭季與主人家奴婢衛媼私通，生衛青。衛青有同胞哥哥衛長君及姐姐衛子夫，衛子夫在平陽公主家得到武帝寵幸，所以衛青冒姓衛氏。衛媼長女君孺，次女少兒，三女就是衛子夫。衛子夫的弟弟步廣，都冒姓衛氏。
衛青算做平陽侯家裹人，小時候回到他父親家中。他父親讓他放羊，嫡母的兒子們都把他當做奴仆看待，不算入兄弟之數。衛青曾經跟著人去到甘泉宮囚犯居室，有個受鉗刑的犯人給他相麵說：“你是貴人，做官可到封侯。”衛青笑著說：“奴婢生的兒子，能不挨打受罵就滿足了，怎麼會有封侯那樣的美事呢！”
衛青長大後，當平陽侯家的騎士，隨從平陽公主。建元二年春天，衛青的姐姐衛子夫入宮得到皇上寵愛。陳皇後是大長公主的女兒，沒生兒子，嫉妒別人。大長公主聽說衛子夫得寵並已懷孕，嫉妒她，便派人抓衛青。衛青當時在建章宮當差，還不出名。大長公主抓到衛青，把他關押起來，想要殺掉他。衛青的朋友騎郎公孫敖和壯士前去把他搶出來，衛青因此得免一死。皇上聽說此事，便召見衛青，讓他做建章宮監，任侍中。到他的同母兄弟都顯貴時，幾天裹賞賜達千金之多。君孺嫁給了太仆公孫賀作妻子。衛少兒原先跟陳掌私通，皇上召見陳掌讓他當官。公孫敖由此更加顯貴。衛子夫作了皇帝夫人。衛青當上了太中大夫。
元光六年，衛青擔任車騎將軍，攻打匈奴，出兵上穀郡；公孫賀擔任輕車將軍，出雲中郡；太中大夫公孫敖擔任騎將軍，出代郡；衛尉李廣擔任驍騎將軍，出雁門郡。每路軍隊各有一騎兵。衛青進軍到籠城，殲滅敵軍幾百人。騎將軍公孫敖損失七千騎兵，衛尉李廣被敵人活捉，幸得逃回。他們兩個都判為死刑，贖罪作了平民。公孫賀也無戰功。衹有衛青賜爵關內侯。此後，匈奴繼續侵犯邊界。事情記載在《匈奴傳》。
元朔元年春天，衛夫人生了個男孩，她被立為皇後。這年秋天，衛青又率領三萬騎兵攻打匈奴，出兵雁門關，李息出兵代郡。衛青殲滅敵軍幾千人。第二年，衛青又出兵雲中郡，西到高闕，直到隴西，殲滅敵軍幾千人，獲牲口百餘萬頭，趕跑了白羊王和樓煩王。漢朝就把河南地區設為朔方郡。劃三千八百戶封衛青為長平侯。衛青部下校尉蘇建被封為平陵侯，張次公封為岸頭侯。派蘇建築朔方城。天子說：“匈奴違背天理，悖亂人倫，欺淩尊長，虐待老人，以盜竊為職業，欺詐各部蠻夷，策劃陰謀，仗恃武力，屢次侵害邊境，所以朝廷派兵遣將，征討它的罪惡。《詩經》裹不是說過嗎，‘攻伐狽狁，達到太原’；‘戰車隆隆在那北方築城’。現在車騎將軍衛青渡過西河，直到高闕，殲滅敵軍二千三百人，把他們的物資牲VI都繳獲為戰利品，已受封為列侯，於是西進平定河南地區，巡行榆溪舊塞，橫越梓嶺，架橋北河，討平蒲泥，打敗符離，斬殺精銳敵兵，捕獲隱蔽伏聽之兵三千零一十七人。捉問俘虜，知敵所在，俘獲卒眾，趕回馬牛羊一百多萬頭，全師而還。增封衛青食邑三千八百戶。”以後，匈奴連年侵入代郡、雁門、定襄、上郡、朔方，殺掠甚多。事情記載在《匈奴傳》。