公元75年,頗有作為的明帝去世,北匈奴和它的附屬政權乘機反攻,再次切斷絲綢之路。此前幾個親匈奴的國家如焉耆、龜茲等攻殺了東漢首任西域都護陳睦,匈奴聯合車師出兵包圍了戊己校尉耿恭(駐紮在車師後王部金蒲城,在今新疆奇台西北)。酒泉太守命秦彭等人大破車師於交河城,北匈奴見勢遁逃,車師國又歸降了漢王朝。但是,漢章帝因財政壓力反而召回戊己校尉與伊吾的屯田兵,也沒有派遣新的西域都護。結果蓄謀已久的匈奴又重新進兵占領了伊吾。雖然獨自留守的班超還在於闃一帶堅守,但中原王朝與西域的貢納關係又一次斷絕。
3.西域的二通二絕
公元89年,因刺殺太後幸臣未成的竇憲擔心被殺,請纓北擊匈奴以贖死,同時,早已歸順漢朝的南匈奴單於也請兵北伐。於是漢政府任命竇憲為車騎將軍,以執金吾耿秉為副將,各領四千騎兵,聯合南匈奴、烏桓、羌胡兵三萬多人出征北匈奴。
竇憲命令他的副校尉閻槃、司馬耿夔等率領精兵一萬多,在稽洛山(在今蒙古西北部)重創匈奴。匈奴騎兵潰散,北單於逃走,竇憲乘勝追擊到私渠比鞮海(烏布蘇諾爾湖)。這場戰爭匈奴13000多人被殺,俘獲牲畜超過百萬頭,戰後將匈奴20萬人組成81個部落並進行屯田。竇憲、耿秉登上了具有象征意義的燕然山(杭愛山),並勒石刻銘以記其事。第二年,竇憲還派遣副校尉閻槃率領2000餘名騎兵的軍隊向西域的匈奴根據地發起突然襲擊,奪回了漢朝戍軍在公元77年已從那裏撤退的伊吾(今新疆哈密)。接連失利、人心換散的北匈奴多次請求向漢稱臣。這時,南匈奴單於上書漢廷,建議乘機消滅北單於,然後,南北匈奴合並歸漢,漢廷欣然接受了這個建議。竇憲也認為北單於勢力微弱,想乘機將其徹底消滅,於是在91年,派右校尉耿夔、司馬任尚、趙博等率兵出居延塞,在金微山大破北匈奴單於騎兵,斬首五千餘級。北單於逃走,不知去向?班固等人追擊至私渠海(今蒙古杭愛山南),然後班師回朝。
漢朝取得的決定性勝利,十分有利於獨自留守的班超在公元91年平定西域,於是西域又回到漢朝懷抱。班超任西域都護,駐軍龜茲。漢廷又複置戊己校尉,領兵五百屯車師前部高昌壁(故城位於吐魯番市東45千米處火焰山南麓木頭溝河三角洲),又置戊部侯,屯車師後部。公元93年,班超又擊破焉耆,西域50餘國派遣質子帶著貢賦前往洛陽表示臣服。更遠的西域國家條支、安息等,直至地中海沿岸諸國,也都重歸交往。絲綢之路又一次貫通,中西交通形成了一次空前的盛況。這是西域第二次複通。
公元102年,班超因年邁申請回朝,繼任都護的任尚(之前為戍己校尉)剛愎自用、性情暴躁,不久便失和於西域各國,激起各國的反抗,攻圍任尚。四年後,朝廷調回任尚,由段禧接任西域都護,但戰亂依舊不止,而被征調前去鎮壓的羌兵又臨陣叛亂,切斷了河西走廊通道,西域第三次易手。朝廷於是下詔撤銷西域都護。此後十餘年間,卷土重來的北匈奴乘機收複諸國為其屬國,共同寇擾漢朝的邊境地區。這是西域絲綢之路第三次中斷。
公元119年,為了防禦北匈奴和西域諸國的侵擾,難郡太守曹宗派行長史索班率千餘人屯駐伊吾,招撫西域諸國,車師前王和鄯善王前來降附。但幾個月後,北匈奴又率車師後部攻擊伊吾,擊沒索班等,趕走車師前王。接著又進逼鄯善,鄯善向曹宗求救,曹宗欲報索班之恥,並進取西域,請出兵擊匈奴,但沒有得到朝廷允許,而僅僅是讓他在敦煌設置了護西域副校尉,用300人的軍隊對西域東部各國進行羈縻統治。後來北匈奴與車師聯合,人寇河西走廊,朝廷無奈,有人甚至還建議關閉玉門關和陽關,放棄西域。
4.西域的二通二絕
公元123年,繼任敦煌郡太守的張鏈與尚書陳忠上書朝廷,要求重新招撫西域。在奏章中張鐺現身說法,用自己從強烈放棄西域到堅定控製西域思想轉變的過程,曆數經營西域對河西乃至中原王朝的重要性。朝廷為此進行了討論,最後安帝釆納了他們的建議,決心在敦煌置校尉,並增加河西四郡屯兵,震懾匈奴,並且重新招撫西域諸國。
公元124年,東漢任命班超的兒子班勇為西域長史。班勇在大興屯田、備足糧草的基礎上,經過四年的努力,擊破車師。接著又先後招撫和平定了焉耆、龜茲、疏勒、於闐、莎車等國,西域17國皆附從漢朝,同時還大敗北匈奴,牢固地控製了今吉木薩爾和烏魯木齊一帶。實現了西域的第三次複通。從此以後,東漢對西域的統治日趨穩定,但烏孫、蔥嶺以西還是沒有能夠打通。永建六年(131),順帝又令於伊吾屯田,並置伊吾司馬一人。
漢順帝統治期間,東漢朝廷在西域日益喪失威信,西域諸國對漢朝則日益驕慢,相互攻伐。最嚴重的是公元152年,於闐人還殺死了西域長史王敬。緊接著,公元153年車師後王反攻東漢屯兵的營地,漢王朝與西域的關係日益惡化。隨著東漢末年中原的戰亂,東漢最終喪失了對西域的控製權。