漢武帝登上皇位之後，力圖做一番事業，他認為首先要做的是反擊北方的強敵匈奴，於是他改變漢朝實行了九十年的屈辱的和親政策，下決心對匈奴開戰，雪洗前朝高祖和呂後所蒙受的恥辱，同時保障邊境人民的安全。
關於漢武出兵打擊匈奴的詳情，本書第三章“武皇具有兩麵性格”一節中已經說過，這裏隻作少許補充。
例如，公元前138年，司馬遷九歲時，武帝派特使張騫通西域，就是要聯絡大月氏，夾擊匈奴。
漢朝回擊匈奴是元光二年（公元前133年）開始的，那年司馬遷十三歲。武帝派漢軍三十萬埋伏在馬邑（今山西朔縣西北）山穀裏，又派一名商人，以作交易為名，引誘匈奴來馬邑搶奪財物，實行誘敵聚殲的計策。但匈奴的軍臣單於（？—前126年，冒頓的孫子）領了十萬騎兵還沒到馬邑時，就迅速退回，因為匈奴人發現牲口布滿郊野，卻無人看管，便懷疑有伏兵。漢軍的計謀落空了。
從此開始了連續數十年的漢匈戰爭，武帝起用善戰的關西人為將，與匈奴作戰。但關西人是秦人後裔，漢武擔心他們反叛，因此掌握最高指揮權的兵團統帥，一律由外戚擔任。
司馬遷十七歲那年，也就是元光六年（公元前129年），漢匈之戰拉開序幕，由於匈奴侵入上穀郡（今河北省懷來縣，鄰近北京市），漢軍四萬騎兵迎擊匈奴，將匈奴擊退。這次戰役的指揮官，正是著名的外戚衛青大將軍。第二年（公元前128年），衛青又帶領三萬騎兵由雁門關（今山西省代縣北，長城要口之一）出發攻擊匈奴，斬首和俘虜敵人數千人。
衛青的來曆如何？司馬遷在《衛將軍驃騎列傳》中寫道：“大將軍衛青是平陽（今山西臨汾）人，他的父親鄭季做縣吏，被派到平陽侯（指西漢初年名臣曹參的曾孫曹壽，他襲封平陽侯）家做管家，和平陽侯的侍妾衛媼私通，生下衛青。”所以衛青是個私生子。他的青雲直上，全賴同母姐妹、漢武帝的皇後衛子夫。衛媼一共生了五個孩子，因其中的衛子夫貴為皇後，全部假冒姓衛。衛子夫原來在平陽侯家當歌女。某天，她遇見了武帝，就一步登天，其經過如下：
建元年間，有一次，武帝劉徹順便到平陽侯府邸做客。平陽侯曹壽的妻子、平陽公主劉菀是劉徹的同胞長姐。宴飲的時候，劉菀讓她的歌女逐一登堂表演歌舞。
這時，一個豐神綽約的歌女登場了。她的歌喉和身段，頓時讓劉徹神馳魂蕩。劉菀將這一切看在眼裏。
歌女唱罷，劉徹起身上廁所。劉菀連忙讓這個歌女到尚衣軒裏侍奉劉徹，古代的王侯貴族，上廁所後，要另外換一身衣服，並全身灑香水，需人伺候。劉徹從廁所裏出來，這個歌女連忙幫他更換內衣和整理袍服。這時劉徹就勢把歌女抱在懷裏，百般溫存。“你叫什麼？”劉徹問。