這時，匈奴叛王介和王成娩率領已降服的樓蘭兵進攻車師，匈奴反應很快，右賢王立即遣數萬騎救之，擊敗了匈奴叛王的進攻。但與此同時，貳師將軍李廣利已到達目的地，向右賢王大舉進攻。右賢王主力已派出，無力抵禦，因此大敗，被漢軍斬殺一萬人。李廣利得手後便回師。然而，歸路上正好遇到單於主力救援部隊。單於主力部隊似乎數倍於漢軍，而李廣利對遭遇單於主力救援也毫無防備，一開始就被打得措手不及，損失慘重。匈奴軍將漢軍包圍，企圖吃掉漢軍。此時的漢軍形勢嚴峻，糧食也快完了，麵臨全軍覆沒的危險。此時擔任代理司馬的隴西上邽人趙充國自告奮勇帶領一百勇士作為敢死隊向匈奴軍發動衝擊。經過一番血拚，這支敢死隊幾乎損失殆盡，才殺出一條血路。李廣利率兵隨後衝擊，終於突圍成功。這一仗漢軍損失達兩萬人，為漢軍突圍立下大功的趙充國受傷20處，差點喪命。李廣利奏明武帝，武帝親自接見趙充國，視其傷，感歎不已，拜趙充國為中郎。李廣利兵敗，未受懲處，在此之前極為少見。
李廣利兵敗後，武帝又派因杼將軍公孫敖出西河，與強弩都尉路博德相會涿邪山，終無所得。
而此時，李陵的五千步兵經過30日的行軍，路上未遇匈奴一兵一卒，順利抵達目的地浚稽山，紮下營寨，將所過的山川地形繪製成地圖，派部下陳步樂送回朝廷。漢武帝聽其說李陵的部下能拚死效命，龍顏大悅，封陳步樂為郎官。李陵此時心情很好，但也為沒有遇上匈奴，不能大顯身手而鬱悶。他並不知道，在他行軍時單於主力部隊正在與李廣利鏖戰。
李陵在穿越浚稽山的山穀時，終於與單於相撞了。三萬匈奴騎兵從兩山之間向李陵包圍而來。剛剛擊敗李廣利的且鞮侯單於迫不及待地對李陵發動進攻，否則，讓漢軍的五千步兵在匈奴腹地肆意縱橫簡直是奇恥大辱。好在漢軍隻有五千步兵，且鞮侯單於認為隻需要三萬騎兵不用費多大力量就可將其全部殲滅。但是，且鞮侯單於小看了這支步兵的戰鬥力，另外在山地，由於地形的限製，騎兵部隊根本施展不開，無法像平地一樣形成對步兵的優勢。於是，一場慘烈的大戰開始了。
李陵臨危不懼，嚴密部署，指揮若定，沉著迎戰，以大車為營為屏障，防止匈奴軍突入。其步卒列陣前行，持戟盾組成密集陣，後排持弓弩在後，命令部隊“聞鼓聲而縱，聞金聲而止”。待匈奴進入射程，漢軍千弩俱發，匈奴無不應弦而倒，於是匈奴紛紛退卻上山。由於地形的限製，匈奴騎兵反而跑不過步兵，漢軍乘勢追擊，居然殺了匈奴數千人。
戰鬥的結果讓且鞮侯單於大吃一驚，他再也不敢小看這股漢軍。在憤怒驅使下，他命令左右的所有部隊共8萬騎兵追擊。
李陵率部且戰且退，日夜苦鬥，但是步兵畢竟跑不過騎兵。匈奴軍再次在一個山穀追上漢軍。漢軍依然采用同樣的戰術同匈奴軍周旋。由於漢軍人數少，李陵命令“卒中矢傷，三創者載輦，兩創者將車，一創者持兵戰”，經過頑強奮戰，漢軍再次擊敗匈奴軍。李陵引兵東南，巧妙地循故龍城道走了四五日，由於沿路多為山區及大澤葭葦地，地形的原因使匈奴騎兵無法實施追擊。匈奴放火燒漢軍，妄圖用火攻來消滅李陵所部。李陵又機警地“令軍中縱火以自救”，挫敗了敵軍的陰謀。這樣，漢軍且戰且退再次向南行進，而此時單於已經親率部分部隊搶占了前麵山峰的山頂，單於命令他的兒子率領騎兵從山頂向李陵軍衝擊。李陵反應也很及時，將部隊轉移到樹林中，這樣抵消了騎兵的衝擊。此時，匈奴軍再次犯錯，居然深入到樹林中，這樣騎兵的優勢完全喪失，反而變成劣勢，漢軍步兵在樹林中則靈活得多、遊刃有餘，再次殲滅匈奴軍數千人。一支漢軍甚至用連弩向山頂觀戰的單於射擊，單於大驚，慌忙逃走。
單於原來企圖挾戰勝之威一舉殲滅這股孤軍深入的漢軍，但結果卻是出乎意料，匈奴以絕對優勢的兵力在5000漢軍麵前連連碰壁。於是，匈奴軍心動搖，單於開始懷疑這是一支不可戰勝的軍隊，而且是在一步步地把他們引向長城，是想誘殲他們，於是打算退兵。但匈奴貴族們都極端不甘心這樣的結局，說“單於親率數萬騎兵攻擊漢軍數千人而不能將他們消滅，以後將無法再號令邊臣，還會使漢朝更加輕視匈奴。所以應在山穀中再次力戰。還有四五十裏才到平原地區，如仍不能取勝就返回。”
而此時漢軍和匈奴騎兵連戰多日，由於漢軍人數過少，情況依然危險。但漢軍依然以昂揚的鬥誌將士氣不振的匈奴騎兵擊敗，匈奴再次折損2000騎兵。匈奴終於喪失了取勝的信心，已準備退軍。
正當單於氣餒準備放棄的那一刻，一個意外事件毀滅了李陵最後的機會。軍候管敢因犯錯誤被校尉責罵，居然一怒之下投降匈奴，將漢軍的虛實特別是漢軍沒有後援的情況完全告訴匈奴。管敢的情報給幾乎喪失信心的匈奴打了強心劑。單於大喜，堅定了殲滅這股漢軍的決心，展開瘋狂的進攻。他命令騎兵部隊立即對漢軍發起總攻。匈奴軍毫無顧忌地在山上向山穀中的漢軍射箭，矢如雨下。漢軍拚命衝出包圍，經過長途跋涉，漢軍距離邊塞隻有百餘裏了。但行動迅速的匈奴騎兵在離鞮汗山不遠的地方再次追上漢軍，而此時漢軍尚剩三千餘人，但是五十萬羽箭全部用完，陷入彈盡糧絕的處境。士兵隻能斬斷車輻持之，軍吏持尺刀，企圖進入峽穀，繼續與強大的敵人作殊死決鬥。但匈奴軍已切斷後路，救兵又沒有到來，眼看要被敵軍全部殲滅或擒獲，李陵又果斷地將部隊化整為零，分散突圍，“脫而至塞者四百餘人”，其餘盡沒。