此外，在大江南北，還有數支農民起義軍同時舉行武裝起義。如南陽郡（郡治今河南南陽），有梅免和百政領導的起義軍；在燕趙（今河北一帶），有堅盧和範主領導的起義軍；在楚（今湖北一帶），有段中和杜少領導的起義軍。這些農民起義隊伍，大的有數千人，小的也有幾百人，他們各自都有自己的旗號。農民軍到各地攻打城邑，奪取糧倉，占領兵器庫存，釋放在押的犯人，還捕殺地方長吏，懲治縣鄉官員，沉重地打擊了西漢王朝的統治。
三、“沈命法”
各地的農民起義震撼了西漢王朝的統治，也震動了漢武帝。他連忙采取各種措施鎮壓風起雲湧的農民起義軍。他先派禦史中丞、丞相長史到各地鎮壓農民起義，並加強對各郡縣的督察；又命光祿大夫範昆及原九卿張德等，持皇帝虎符發兵圍剿。這些大臣穿著繡花的衣服，手拿皇帝親賜的節杖，前去鎮壓各地農民起義，卻擁有一個好聽的頭銜，叫做“繡衣使者”。繡衣使者擁有特殊的權力，可以直接處死剿殺農民起義不力的刺史和地方官吏。他們親自率領的兵力更多，所到之處，成千上萬地屠殺起義軍，甚至對供應起義軍飲食的群眾，也大批殺害。
盡管漢廷派出重臣和大量兵力對起義軍進行殘酷的鎮壓，但是仍然無法將各地起義軍鎮壓下去，而且還有愈烈之勢。有的起義軍白天和幹活的老百姓一起種地，黑夜裏就出來打擊官兵，四處出沒，弄得繡衣使者也束手無策，無計可施。
為了徹底鎮壓農民起義軍，撲滅各地農民起義的火種，漢廷製定出了強迫各地地方官吏嚴厲圍剿農民起義軍的法令——“沈命法”。“沈命”即沉命，也就是沒有性命的意思。據《漢書·鹹宣傳》記載：“……（起義軍）散卒失亡，複聚黨，阻山川，往往而群，無可奈何。於是作‘沈命法’，曰：‘群盜起不發覺，發覺而弗捕滿品者，二千石以下至小吏，主者皆死。’”也就是說，官吏凡是不能及時發現起義軍，或者發現了而捕剿不徹底的，二千石以下至一般小吏，都要被處死。同“沈命法”相配合，漢王朝下詔書嚴令關都尉加強檢查關卡出入，徹底切斷各地農民起義軍之間的聯係。漢廷企圖通過“沈命法”等措施，徹底鎮壓和熄滅各地農民武裝鬥爭。
“沈命法”的製定和施行，對督促各地官吏積極鎮壓農民武裝鬥爭確實起到了一定的作用。漢廷派出的繡衣使者依照“沈命法”對各地官吏進行督察，迫使他們不得不加強對轄境內農民的防範措施，並全國圍剿轄境內的農民起義軍。有一個叫暴勝之的繡衣使者，十分殘暴，他按照“沈命法”，專對那些鎮壓農民起義的二千石以下的官吏挑毛病，說他們不用心鎮壓農民起義，動不動就依照“沈命法”把這些官吏處死。州、郡官員聽到他快來了，都萬分恐懼，便拚命發兵圍剿農民起義軍，結果使許多反抗官府的農民都被極殘酷地鎮壓了。
但是，各地起義軍仍不畏強暴，不屈不撓地堅持進行鬥爭，再加上許多地方官吏大都腐敗無能，各地的農民起義不僅沒有被平息，有的甚至仍然處於發展之中。有些地方官吏唯恐遭到殺身之禍，便隱匿軍情，再也不敢向上報告農民起義軍的情況了。
漢武帝統治後期農民起義的爆發及其英勇鬥爭，說明此時階級矛盾的發展已經演化到了十分尖銳的地步，隻是由於農民起義軍的規模較小、力量分散，加上西漢王朝仍然十分強大，對其進行殘酷的鎮壓，特別是“沈命法”的製定，更加強了官吏對農民起義鎮壓的力度，結果使各地農民的武裝鬥爭逐漸趨向低落。
武帝末年的農民起義及其鬥爭對漢武帝晚年的統治政策也產生了巨大影響。不管他認識到與否，總之，農民的反抗鬥爭迫使他不得不放棄一味暴力鎮壓的政策。他從農民武裝起義的出現以及殘酷鎮壓仍遭失敗的教訓中，逐漸認識到必須使用較為緩和的政策，才能繼續維持西漢王朝的統治，這也從某些方麵促進了他晚年統治思想和統治政策的轉變。
第三節匈奴再起邊患。
一、蘇武事件。
自衛青、霍去病大敗匈奴後，匈奴元氣大傷，不得不遠徙逃遁，從此漠南無王廷。而漢廷也因連年戰爭耗盡了資財，戰馬損失無數，無力繼續進行遠征。所以，此後，漢匈雙方十餘年無戰事，往來使者穿梭不停，進入了所謂的“和議”時期。蘇武事件就是在漢匈所謂“和議”時期發生的匈奴扣留漢朝使者的事件。
天漢元年（前100），貳師將軍李廣利率兵戰敗大宛，“威震外國”，武帝就想乘此機會對匈奴再度加以製服。此時統治匈奴的是且侯單於，他剛即位，政局未穩，又聽說漢朝已經打敗了大宛，恐怕漢軍趁機襲擊匈奴，就把先前扣留而又不肯降服的漢使路充國等人送回漢廷，還遣自己的使者來漢，以示與漢廷和好之意。於是，漢武帝便遣中郎將蘇武出使匈奴。
蘇武是杜陵（今陝西西安西）人蘇建之子。蘇建是著名抗匈奴將領，因戰功封為平陵侯。作為名將之子，蘇武為人講骨氣，重節義。他受武帝之命後，便帶著副手中郎將張勝，屬吏常惠，還有一百多名士兵以及大量禮物，踏上了出使匈奴的征途。
蘇武到了匈奴，歸還了漢朝曾扣留的匈奴使者，並送上漢廷的禮物，以答謝單於釋放漢使，與漢通好的善意。誰知且侯單於得知漢朝不會進攻匈奴的消息後，立刻又變得傲慢無禮起來，毫無議和之意。蘇武等人見此情景，大失所望。但為了漢匈和好，他也不便多說什麼，隻等單於寫好回信讓他帶回去就是了。想不到就在此時，倒黴的事情發生了。
就在蘇武等人出使匈奴之時，匈奴之緱王和漢人虞常等正在密謀暗殺匈奴重臣衛律並劫持單於母親閼於歸漢之事。緱王原是匈奴昆邪王的外甥，曾隨昆邪王降漢，又複歸匈奴。這種反複無常的行徑受到單於的鄙視，他因此得不到重用，心裏鬱鬱不樂，又想投奔漢朝。衛律原為漢朝派往匈奴的使者，投降了匈奴，虞常是衛律的副手，雖然他也跟著衛律投降了匈奴，但他非常思念家鄉，總想殺掉衛律，立一功績，逃回中原去。緱王和虞常一拍即合，二人密謀反叛。而此次來使的副中郎將張勝和虞常原是好朋友，虞常私下又就此事與張勝商議。張勝很同情虞常，便全力支持他。就在且侯單於外出狩獵時，緱王和虞常等七十餘人便密謀起事。但關鍵時刻卻有一人臨陣叛逃，連夜向匈奴告密。單於子弟發兵圍捕叛亂之人，緱王當場戰死，虞常等人被擒。單於知道這個消息後，認為叛亂是漢使發動的，十分惱怒，就令衛律嚴審虞常等叛亂之人。此時，張勝害怕起來了，便連忙將他和虞常等人曾密謀過的真情告訴了蘇武。蘇武一聽，憤怒異常，他痛斥張勝作為使者貪圖功名誤了國家大事，拔出刀子就要自殺殉國，幸虧被張勝、常惠等人及時製止住，才沒有發生意外。
雖然虞常在衛律的嚴刑逼供下隻承認張勝僅是他的朋友，但張勝還是被牽連了進去，而且還殃及了蘇武。單於又令衛律審訊蘇武、張勝等人。衛律不僅審訊蘇武，還勸他投降匈奴。蘇武聽到此話，就對常惠等人說：“這次為漢出使，有辱使命，如果喪失氣節，就算活下來了，還有什麼麵目重歸漢朝呢？”《漢書》卷五十四《蘇武傳》，係譯文。說著就毅然拔出佩刀自刺脖頸。衛律等人大驚，急忙抱住蘇武，奪下佩刀，但蘇武已經倒地昏死過去了。衛律急忙召喚匈奴巫醫救治。巫醫在地下刨了個坑，在坑裏麵燒了火，鋪上木板，將蘇武俯臥其上，然後用腳使勁踏蘇武的背部，把傷口中的淤血排出去。過了半日，蘇武居然慢慢地醒了過來。單於十分欽佩蘇武的氣節，朝夕派人侍候他，但張勝仍被下了獄。
等到蘇武痊愈之後，單於想招降他，但又知他是守節持義之人，便讓衛律想辦法。衛律審問虞常和張勝時，便讓蘇武旁聽。虞常態度強硬，還大罵衛律是叛徒，衛律立即斬殺了虞常。隨後衛律審問張勝，宣布願意投降匈奴的都免罪，否則就殺頭。張勝貪生怕死，立即請求歸降。衛律便對蘇武說：“你的副手犯了罪，你也得連坐。”蘇武大怒說：“我既不是同謀，又不是親屬，為什麼要連坐？”衛律立即抽出了刀，可他還沒有砍過來，蘇武已把脖子伸了過去，不動聲色地等著。這倒把衛律嚇得縮了手，他便換了口氣說：“這麼對您說吧，我也是迫不得已才投降匈奴的，但您看我現在不僅被封為王，還有幾萬奴仆和滿山的羊群，不也挺富貴的嗎？您要投降了，馬上也就會和我一樣的，何必固執己見白白送了性命呢？”《漢書》卷五十四《蘇武傳》，係譯文。他這無恥的話氣得蘇武怒目以視。但他仍不知廉恥地說：“您若聽我的勸告，我就和你結為兄弟，否則，恐怕就再也不能同您見麵了。”《漢書》卷五十四《蘇武傳》，係譯文。蘇武再也忍不住了，他站起來指著衛律的鼻子罵道：“你是漢人的兒子，漢廷的臣子，卻忘恩負義，背叛朝廷父母，無恥地投降敵人，還有臉說這些話！再說，單於信任你，讓你判案，可你不主持公道，反倒想引起兩國爭端。你不看看現在漢朝已經平滅了四方，匈奴要是惹了禍，你也逃不掉！你怎麼逼我，我也絕不會投降的！”《漢書》卷五十四《蘇武傳》，係譯文。
蘇武這種理直氣壯的回答，衛律也拿他沒有辦法。無論是死亡威脅還是富貴引誘，蘇武都不為之所動。單於無可奈何，便想辦法折磨蘇武，以迫使他投降。他把蘇武投入大地窖中，數日不給他吃的、喝的。但蘇武為了活著堅持正義，他便以地窖裏的冰雪和破舊的皮帶、羊皮片充饑解渴，竟然堅持了好幾天。
單於見蘇武還活著，就把他放出來，要封他為王，可蘇武還是不接受，無論如何也不肯投降。單於沒辦法，便把他充軍到北海（今俄羅斯貝加爾湖）無人之處去牧羊，並說隻要公羊能產子，就可以釋放他回漢朝，企圖以此迫使蘇武就範。蘇武的另一副手常惠和他一樣也不肯屈服，單於同樣罰他做苦工，並把他和蘇武隔得遠遠的。
蘇武獨自一人來到了北海，茹雪飲冰，以草木、野鼠為食，頑強地生存在渺無人煙的荒漠之中，但最叫他念念不忘的是他沒有完成使者的任務。他永遠牢記的是自己是漢朝的使者，始終不放的是漢武帝賜給他的節杖。現在，唯一同他相伴的便是這根使節了，在這根使節上他找到了安慰，從每一節的穗子上，他看見了白發的母親、雄健的皇上，瞧見了中原的麥穗和他熱愛的國家。他拿著使節放羊，抱著使節睡覺，想著總有一天自己會拿著使節回到漢朝去的。
就在蘇武出使不歸的第二年（天漢二年，前99），漢匈關係急劇惡化，雙方大規模的戰爭一觸即發。漢武帝便令貳師將軍李廣利、騎都尉李陵率領漢軍分道出擊匈奴，但他們都出師不利。李陵戰敗降敵（其事後文另有詳述）。蘇武和李陵在朝中同為侍中，關係密切。懷著兩種不同的心情，他們在大漠上再次相遇。
李陵投降了匈奴，自然不敢去見重義持節的蘇武，直到十多年後，當時在位的壺衍單於派李陵去北海看蘇武，企圖讓李陵勸蘇武投降，李陵終於見到了蘇武。李陵向蘇武訴說了自己不得已而投降、臣服匈奴的苦衷。但蘇武堅決地說：“做臣下的為朝廷死而無憾。就是朝廷對不住臣下，臣下也不能對不起祖宗，對不起父母之邦。”《漢書》卷五十四《蘇武傳》，係譯文。李陵聞此啞口無言。臨走時，李陵想再一次勸說蘇武，蘇武毅然決然地說：“我自己早就準備死了，大王（此時李陵被匈奴封為右校王）再逼我，我就要死在大王麵前了！”《漢書》卷五十四《蘇武傳》，係譯文。說完，便含淚和李陵道別了。
後來李陵得到漢武帝逝去的消息，便到北海告訴了蘇武。蘇武拿著使節，麵向南方，想著再也見不到皇帝了，就傷心地哭了起來。
壺衍單於繼位之後，內部不團結，匈奴力量大弱，為防止漢軍進攻他們，終於同意放回蘇武，和漢朝和親。單於再派李陵去北海接蘇武回來。李陵準備了酒宴為蘇武道喜。宴會上，李陵感慨萬千，起舞而歌：“徑萬裏兮渡沙幕，為君將兮奮匈奴。路窮絕兮矢刃摧，士眾滅兮名已。老母已死，雖欲報恩將安歸！”《漢書》卷五十四《蘇武傳》。這其中既有對家鄉的思念之情，真誠地為朋友榮歸而高興；更有對自己的坎坷經曆而悲歎，卻又無顏再返父母之邦的絕望之情。
蘇武出使的時候剛四十歲，現在回國、胡子、頭發已經全白了。長安人民看見白胡子的蘇武拿著光杆子的使節回來了，無不感動。昭帝（漢武帝少子）就拜蘇武為“典屬國”，叫他專門管理和外國交往的事情。
蘇武回國後又活了二十多年，直到漢宣帝（漢武帝曾孫）神爵二年（前60）才病死，終年八十餘歲。
二、貳師敗北。
貳師是大宛的一個城名（今吉爾吉斯斯坦西南部馬爾哈馬特），相傳那裏產汗血寶馬，武帝求之不得，便派李廣利率軍前往攻打以奪取寶馬，因此封他為貳師將軍。李廣利是中山國（今河北定縣）人，出身微賤，他的哥哥就是那位因善歌舞而極受漢武帝寵幸的宦者李延年，他的姐姐則是那位深受漢武帝寵愛的傾國傾城的美人李夫人。因為這些緣故，李廣利也平步青雲，深受漢武帝的信任和重用，此次即派他率領大軍前去攻打大宛。
隻不過李廣利本為無一天軍旅生涯之人，一夜之間成為統率千軍萬馬的將軍，顯然是不能稱職的。但是他前後四次共統率二十多萬大軍，曆時三年，以死傷數萬人的巨大代價，總算征服了大宛，取回了漢武帝夢寐以求的汗血寶馬。李廣利作為一名將領，既無指揮大軍的才能，又無治軍經驗，看來確實是不稱職的。但是，漢武帝注重的不是損失的多少，而是大宛確實被征服的事實，他還以“萬裏征伐，不錄其過”為理由，封李廣利為海西侯。李廣利在朝中的地位日漸重要。其後，天漢二年（前99），李廣利又率三萬兵出酒泉，與匈奴右賢王大戰於天山，但卻大敗而歸；天漢四年（前97），李廣利再率騎兵六萬、步兵七萬出擊匈奴，結果又無功而返。
且侯單於於太始元年（前96）病死後，長子狐鹿姑單於繼位。征和二年（前91），匈奴再度開始大舉入侵漢邊，孤鹿姑單於親率部眾數次侵掠上穀、五原等地，殺害漢朝吏民甚多。第二年春又侵入五原、酒泉，還殺害了漢朝的兩個都尉。漢武帝被激怒了。就在這種匈奴連續侵擾邊境的背景下，漢武帝命令貳師將軍李廣利率領大軍開始了他在位期間對匈奴的最後一次大規模的反擊戰爭。
盡管李廣利在戰場上敗多勝少，但是，經過大宛之戰及天漢二年、天漢四年對匈奴戰爭的洗禮，他畢竟也積累了一些指揮大軍作戰的經驗，而且也消滅了相當數量的匈奴軍隊，取得了一些戰績，因此，漢武帝愈發對他信任、重用。再加上自從元封五年（前106）大將軍衛青病逝後，在武帝前期對匈奴戰爭中叱吒風雲的著名將領大都已作古了，漢武帝也別無其他名將可用。因此，李廣利應運而興，成為漢武帝後期對匈奴作戰的一名重要將領。
征和三年（前90），漢武帝令貳師將軍李廣利率七萬餘人出五原，禦史大夫商丘成率三萬人出西河，重合侯馬通率四萬騎兵出酒泉，大規模的對匈戰爭再度爆發了。
狐鹿姑單於得到漢廷重兵出擊的消息後，立即調兵遣將，嚴陣以待。他將婦女兒童及牲畜財物全部遠徙到郅居水（今蒙古色楞格河）北邊，自己親率精銳部隊渡過姑且水（今蒙古杭愛山東段以南之河流）迎擊漢軍；又命令左賢王也將其部眾畜物遠徙隱蔽，準備伺機而出。
三路漢軍各自按著既定的作戰部署出擊。商丘成率軍出塞後，向西北方向長驅直入，一直抵達涿邪徑（大致位於涿邪山與浚稽山之間），也沒有發現匈奴兵馬，於是便由原路撤軍。此時，狐鹿姑單於派遣大將及漢廷降將李陵率三萬多騎兵追擊商丘成部，雙方在浚稽山一帶展開激戰。漢軍將士邊戰邊向正東方向轉移。九天後，匈奴見自己損失嚴重，無利可取，便停止了追擊。商丘成雖然沒有取得大勝利，亦沒遭到太大的損失，順利撤回漢境。馬通率部眾從酒泉向西北方向進擊。到達天山時，狐鹿姑單於派大將偃渠率兩萬多騎兵準備偷襲漢軍。但偃渠見漢軍兵強馬壯，沒敢與漢軍正麵交鋒便悄然而退。馬通找不到匈奴兵馬，也無功而返。李廣利率領的漢軍主力部隊出五原後，很快就到達了夫羊句山狹（約在今蒙古蘭紮達加德西北）一帶。單於利用這裏的險要地勢，派遣右賢王大都尉與衛律率精壯騎兵在此設伏，想突襲擊漢軍。李廣利偵得這個消息後，迅速命令善於騎射的屬國胡騎，也就是依附於漢廷的少數民族騎兵隊伍，共兩千多人出擊匈奴。他們英勇善戰，很快大敗匈奴，匈奴偷襲不成，反自遭失敗，於是立即向北退卻。李廣利率領漢軍乘勝追擊，一舉攻下範夫人城據說此城為一漢將所建，漢將陣亡後，其妻範氏率領殘眾力保此城不失，故名之為“範夫人城”。李廣利率軍出征以來，還沒有像這樣初戰大捷過，自然十分高興，便令士卒在範夫人城下休息，同時精心籌劃下個階段的作戰計劃，決心深入匈奴內部，建立奇功。然而，李廣利不知道，就在此時，他的家族卻正在漢廷內遭臨著滅門之災。
原來，就在李廣利率軍出征匈奴不久，有人上告漢武帝說丞相劉屈曾和李廣利陰謀立李廣利之姐李夫人的兒子昌邑王劉為太子。武帝聽後大怒，便將劉屈及其夫人下獄審問，李廣利一家老小也全部被捕入獄。不久，劉屈被腰斬，其夫人梟首。此事傳到前線，李廣利萬分恐懼，不知所措。他想立即騎奔京師，設法解救一家老小，但部將胡亞夫勸住了他，並想讓李廣利趁機投降匈奴。李廣利一心想營救家人，經過仔細思量，他既沒有回師京城，也沒有投降匈奴，而是抓住機會加緊進攻匈奴，打算立一奇功贖回家人之罪。於是，他加速引兵北擊匈奴，在郅居水一帶又大敗匈奴。但是，就在李廣利率軍即將奪取更大勝利時，意想不到的事情又發生了——他的部將發動了叛亂。
原來，李廣利部將將軍長史和決畦都尉輝渠侯等人得知李廣利親屬在京師下獄的消息後，認為李廣利隻想自己立功贖罪，不顧大軍的安危，匆忙率軍北上，深入匈奴，必然會導致軍事上的失利。因此，他們便密謀挾持李廣利，將大軍撤回漢朝。雖然李廣利及時地發現了他們的陰謀，並誅殺了長史等人，但經此變故，軍心動蕩，士氣銳減，毫無戰鬥力。李廣利無回天之術，隻好率領大軍從郅居水南撤歸漢。
然而，狐鹿姑單於卻發現了漢軍發生叛亂並匆忙南撤，此時，他就親率五萬多騎兵渡過郅居水對漢軍窮追不舍並發動猛攻。此時漢軍軍心盡散，無心戀戰，於是邊戰邊撤，遭受嚴重損失。等到撤至速邪烏燕然山的時候，由於長期長途奔波戰鬥，漢軍兵馬損失更加嚴重，士卒更是疲憊不堪。李廣利隻得命令部眾就地安營紮寨，進行休整。但單於卻仍在繼續偷偷行動，入夜之後，他們從挖至漢軍陣前的塹壕裏突然向漢軍發動猛攻，漢軍猝不及防，軍中大亂，死傷無數。李廣利見敗局已定，再加上家人下獄，兩頭都無路可走，隻好向匈奴俯首投降。
漢武帝聽說李廣利戰敗投降匈奴後，一氣之下就把他全家全部殺害，曾經顯赫一時的李家黯然而逝。
狐鹿姑單於戰敗了漢軍，對漢朝更加傲慢。他對李廣利投降十分高興，對其萬分尊寵，連自己的女兒都嫁給了李廣利，使之位置更在衛律之上。衛律忌恨李廣利的尊寵，便想方設法要除掉他。就在李廣利投降匈奴的第二年（征和四年，前89），單於的母親病了，衛律更趁此串通胡巫來謀害李廣利。胡巫對單於說：“您母親的病是不容易好的。過世的單於說李廣利原來三番五次地攻打我們，現在被俘了您為何還這樣尊寵他？老單於十分生氣。您為什麼不把李廣利殺了來祭祀祖先呢？”《漢書》卷九十四《匈奴傳》，係譯文。單於聽信了胡巫，便殺害了李廣利來祭祀祖先。李廣利死前大罵單於：“我死了以後匈奴必然要滅亡！”《漢書》卷九十四《匈奴傳》，係譯文。誰知，當年秋天，匈奴氣候異常寒冷，疾病流行，莊稼不熟，牲畜凍死。單於十分害怕，就急急忙忙為李廣利立了個祠，來祭祀他逝去的靈魂。
三、李陵降敵。
就在天漢二年（前99）貳師將軍李廣利率領三萬騎兵出酒泉抗擊匈奴時，為了保障漢軍後勤運輸的安全，漢武帝特令騎都尉李陵為李廣利監督護送輜重。但是李陵卻不願意。這其中當然自有原因。然而這個偶然的事件卻從此改變了李陵的一生，並使他成為漢匈戰爭史上最有爭議的一位人物。
李陵和蘇武一樣，也出自名將之門。他的爺爺就是威名遠揚的“飛將軍”李廣。李陵少年即為英雄，步入仕途，不久即被選為建章監，成為宮廷近臣。由於自小備受熏陶，李陵不僅擅長騎射，善於統兵布陣，而且待人誠懇，關心士卒，名聲極佳。漢武帝認為李陵頗有李廣遺風，曾讓他統率八百騎兵，越過居延，深入匈奴兩千餘裏察看地形，回來後漢武帝即拜他為騎都尉，自率五千餘名勇士，還教酒泉、張掖兩郡的士卒學習騎射，以防備匈奴犯邊。
正因為李陵頗有李廣遺風，所以他鄙視庸俗無才權貴之人。李廣利是漢武帝寵姬李夫人的弟弟，毫無才能，但靠著裙帶關係，帶兵攻打大宛，雖無大功卻被封為海西侯，極受寵信。李陵作為名將後代，恥於為人後勤，不願意替李廣利這樣的人護送輜重。所以，當漢武帝把他從邊郡召回時，他不願意。當然，李陵並沒有向漢武帝直說自己的意圖，而是婉言稱自己所率的戍邊士卒都是“荊楚勇士”及“奇才劍客”，個個力能扼虎，射則百發百中，所以自願獨率一支部隊出擊匈奴，以分散匈奴的兵力，減輕李廣利大軍的壓力。漢武帝察覺出了李陵看不起李廣利而不願為他殿後，心中十分不快，但卻更欣賞他的勇氣，便對李陵說：“你們做將軍的都不願意歸屬他人指揮，可我現在的騎兵都交給貳師將軍了，沒有騎兵可撥給你了。”《漢書》卷五十四《李陵傳》，係譯文。李陵正值年壯氣盛，立刻回答說：“沒有騎兵也可以，隻要給我五千步兵，我就可以以少擊多，深入匈奴！”《漢書》卷五十四《李陵傳》，係譯文。漢武帝被李陵的勇猛所感動，便答應了他的請求。同時，他又命強弩將軍路博德去接應李陵。
路博德也是一員老將，還在元鼎五年（前112）就被拜為伏波將軍，親自率領大軍征伐南越，功勳卓著，地位自在李陵之上，當然也不願意為李陵這樣一名後輩小生殿後。於是他便上書漢武帝說當前正值秋天，匈奴兵強馬壯，不易攻打，願意等到明年春天和李陵一塊率兵出征。漢武帝看到上書後，沒想到此為路博德不願為李陵殿後的推脫之辭，反而懷疑李陵因後悔出兵而指使路博德這樣上書的。他本來正為李陵不願為李廣利殿後而生氣，因此更為惱怒了。恰巧此時又有使者來報說匈奴侵犯西河（今內蒙古準格爾旗西南），漢武帝便不顧路博德的上書，立即下詔路博德、李陵率兵出征。他命路博德出征西河，李陵出兵遮虜障，並讓李陵把出征的情況迅速向他彙報，就連和路博德的談話也要如實上報。看來，此時漢武帝對李陵已有猜疑之心。這似乎也預示著李陵此次出征將不會一帆風順。
其實，李陵出兵之初相當順利。他麾下的騎士陳步樂很快就馳回京師向漢武帝報告消息說，李陵率領五千步兵出遮虜障後，一路進展迅速，到了浚稽山也沒遇到匈奴，便駐紮下來了；而且李陵軍中士氣甚高，將士都願意誓死效力。李陵還把沿路的山水形勢畫成地圖，讓陳步樂上奏漢武帝。漢武帝聽完彙報後，十分高興，立即拜陳步樂為郎官，朝中公卿也都舉杯慶賀。豈知就在此時，李陵卻在大漠之中逐漸陷入了對匈奴作戰的艱難困境之中。
原來，李陵率軍到了浚稽山還沒見到匈奴，可匈奴早就見到他們了。就在陳步樂回朝之後，且侯單於親率三萬騎兵突然把李陵的五千步兵包圍在兩山之間。然而李陵畢竟有勇有謀，臨危不亂，他立即以大車環繞為營，在營外設陣迎敵。經過將士們的英勇戰鬥，終於擊退了匈奴的首次進攻，並且乘勝追擊，射殺了匈奴幾千人。雖然首戰即大勝匈奴，但漢軍畢竟隻有五千人，且是步兵，又孤軍深入，李陵恐怕受匈奴重兵包圍，便令大軍迅速南撤。果然，單於對這支隻有五千人的精銳步兵又氣又怕，便火速召集八萬人馬快速追擊漢軍。李陵仍然率領漢軍沉著應戰，一麵抵抗，一麵繼續南撤，幾天之中，又射殺了匈奴數千騎兵。