公元前115年，張騫返回漢朝，漢武帝非常高興，提拔他為大行令，讓他負責外國事務。過了一年，張騫因辛勞過度而去世。
張騫兩次出使西域，溝通了中西經濟文化交流的渠道，從此，西域國家和漢帝國開始了政府間的往來；同時，中國的絲綢等物絡繹不絕地運往西方，西方的土特產和藝人也接連不斷地來到中國。正是在這種情況下，到公元前60年，西漢政府在西域設置了都護府，正式對西域各族進行管理。西通西域，開辟了直到中西亞和歐非少數地區的交通，增進了各民族之間的團結，溝通了同西方各國的友好往來。
如果說，張騫為西漢王朝打通西域立了汗馬功勞的話，那麼，蘇武出使不辱，則更是為西漢中興和後人立下了不朽豐碑。
漢武帝元狩四年（公元前119），在北征之戰中，大將軍衛青和驃騎將軍霍去病擊敗匈奴以後，匈奴的勢力逐漸衰落，但還具有一定戰鬥力量。在此以後的一段時間裏，雙方一麵持續戰鬥，一麵相互遣使往來，表麵上為尋求友好，實則窺探對方虛實，因此，扣留對方和殺戮來使之事，時有發生。匈奴曾拘留漢使郭吉、路充國等10餘名。太初四年（公元前101年），匈奴呴犂湖單於死，其弟且鞮（駒低）侯立為單於，漢武帝欲借征大宛之威脅迫匈奴，乃下詔曰：“高皇帝遺朕平城之憂，高後時，單於書絕悖逆。昔齊襄公複九世之仇（春秋時，齊襄公之九世祖為紀侯所譖而烹殺於周，魯莊公四年，齊襄公滅紀），《春秋》大（敬）之。”且鞮侯單於初立，恐漢襲之，乃曰：“我兒子，安敢望（怨望之意）漢天子，漢天子，我丈人行（輩也）也。”因而派使臣去長安修好，並將以前扣留在匈奴的路充國等十幾名西漢使者釋放回國。為回報匈奴，答其善意，天漢元年（公元前100年），漢武帝派中郎將蘇武作為使臣，攜帶厚禮，送還匈奴被拘留在漢朝的使者。
蘇武（公元前？-前60），字子卿，杜陵（今陝西西安市南）人。為人廉潔正直，而且有膽量，有骨氣。蘇武奉命後，乃偕同副使張勝、隨員常惠等帶領一百多人從長安出發，一路曉行夜宿，曆盡艱苦，經過長途跋涉，到達匈奴單於王廷。蘇武獻上漢天子所賜厚禮，匈奴單於非但未表謝意，反而露出驕矜之色，使蘇武等漢使大失所望。
蘇武辦完使事，準備啟程回國，正在此時，不料發生了一件意外的事情：在蘇武出使匈奴期間，匈奴貴族緱王與降將衛律部下虞常等70餘人，陰謀劫掠單於母閼氏歸漢。虞常在漢時素與張勝相知，暗中將此事告知了張勝，並準備殺死衛律，為漢朝立功，張勝亦表讚同。其後月餘，一日，單於外出射獵，虞常與70餘人欲發，在舉事前夕，其中一人出首告密，單於子弟發兵進攻虞常等人，緱王等人皆戰死，虞常被執獲。單於射獵歸來，得知此事，勃然大怒，乃使衛律查辦此事。張勝恐虞常供出自己，隻得將前情告知蘇武。蘇武聞之，驚曰：
“事如此，此必及我。見犯乃死（被侵犯而死），重負國。”欲引刀自裁，張勝和常惠連忙上前製止。虞常在衛律的嚴刑拷問下，果然供出了與張勝密謀情況。單於在盛怒之下，召集匈奴貴族商議，欲盡誅殺漢朝使者。單於身邊一名大臣對此提出異議，認為因謀殺衛律而殺漢使，未免處罰太重，如果謀殺單於，又當治以何罪？不如趁此機會脅迫漢使歸降匈奴。單於命衛律召蘇武前來聽審。蘇武對張勝、常惠說：“屈節辱命，雖生，何麵目以歸漢！”當即拔出佩刀自刺，衛律見狀大驚，急上前抱持，並立即命人召醫急救。蘇武氣絕，半日複蘇。常惠等痛哭不已，將蘇武抬回營帳。張勝被匈奴拘禁。且鞮侯單於得知審訊情況，對於蘇武忠於漢朝的氣節，十分敬重，朝夕遣人問候蘇武病狀，並暗中曉諭衛律設法使蘇武歸降。
當蘇武傷勢漸愈時，單於使人通知蘇武、張勝同去觀審虞常，欲因此迫使蘇武歸降。衛律當場將虞常斬首，然後威脅說：“漢使張勝謀殺單於近臣（衛律自稱），當死，單於募降者赦罪！”舉劍向張勝砍來，張勝慌忙跪地請降。衛律又對蘇武說：“副有罪，當相坐（連帶治罪）。”蘇武曰：“本無謀，又非親屬，何謂相坐！”衛律又舉劍向蘇武作砍殺狀，蘇武神色自若，安然不動。衛律急忙收劍入鞘，無恥地向蘇武誇耀其投降匈奴後所獲的榮華富貴，妄圖以此來動搖蘇武的忠節，蘇武置之不理。衛律又改顏施加壓力說：“君因我降，與君為兄弟；今不聽吾計，後雖欲複見我，尚可得乎？”蘇武聽後，大怒罵道：“汝為人臣子，不顧恩義，叛主背親，為降虜於蠻夷（對匈奴的貶稱），何以汝為見（清人王念孫以為此句當作“何以見汝為”，意為見你幹什麼）！且單於信汝，使決人死生，不平心持正，反欲鬥兩主（使漢天子與匈奴單於互相爭鬥），觀禍敗！……若知我不降明（言汝明白地知道我不會投降），欲令兩國相攻，匈奴之禍從我始矣。”蘇武義正詞嚴的一番答話，使衛律明白蘇武終不可屈致，乃如實地向匈奴單於作了報告。單於聽說蘇武如此忠義，心中十分敬重，益欲使其歸降。乃命人將蘇武囚禁於大窖中，不予飲食，以為如此可以使蘇武歸降。適值天降大雪，蘇武在凍餓之下，隻好以雪團和著氈毛一起吞食，竟數日不死。匈奴單於驚奇，以為有神明暗助蘇武。於是乃將蘇武遷至白雪皚皚、杳無人煙的北海（匈奴北界，即今貝加爾湖）上，使牧羝羊（公羊）。臨行時，單於對蘇武說，待公羊產生子羊，蘇武才能回國。同時將蘇武的屬員常惠等人，分別置其他處所，不得與蘇武相見。