公元前119年，漢武帝派大將軍衛青和驃騎將軍霍去病遠征匈奴，至此匈奴元氣大傷，再也沒有膽量和力量侵擾漢朝邊境了。過了幾年，匈奴派使者到漢朝來訪問，為了表示友好，漢朝也派使者回訪匈奴。可是，匈奴單於並非真心實意和漢朝通好，經常扣留漢朝派去的使者。漢朝為了報複，也扣留匈奴派來的使者，但這並非長遠之計。
公元前100年，漢武帝下詔，準備再次派兵討伐匈奴。正在這個時候，匈奴又派來了使者，說剛剛即位的侯單於願意和漢朝和好。作為和好的表示，匈奴把以前扣留的漢朝使者全部釋放。漢武帝覺得這個新即位的單於還懂道理，就決定罷兵，願重新修好。為表誠意，他決定派中郎將蘇武為正使，副中郎將張勝為副使，帶著助手常惠和一百多名士兵，護送以前扣留下來的匈奴使者，同時帶了好多金銀綢緞等禮物，贈送給匈奴的單於。
蘇武，字子卿，是已經去世的平陵侯蘇建的第二個兒子，他和哥哥、弟弟都是漢朝的官員。蘇武這個人辦事認真，而且對皇帝很忠誠，所以漢武帝就把這次出使匈奴的任務托付給了他，讓他拿著“使節”和匈奴修好。“使節”是表示使者身份的，它是一根七八尺長的長杆，頂部掛著一串毛絨球，很威嚴。
到了匈奴，蘇武把那些被扣留的匈奴使者交給單於，然後送上禮物和漢武帝的書信。由於漢武帝在信中的語氣很和氣，匈奴單於便以為漢朝天子是討好他呢！又看到漢朝送來那麼多的禮物，心裏更加得意不免驕橫起來，就說了些狂妄的話，對蘇武他們也很怠慢。蘇武心裏很生氣，但表麵上還是一團和氣。盡量壓著火氣耐著性子，準備完成任務後及早返回漢朝。
眼看著任務就要完成了，一件很不愉快的事情發生了。
原來，早在蘇武出使匈奴之前，有一個叫衛律的漢朝使者投降了匈奴。匈奴單於正需要人幫他出主意，就封衛律為丁靈王。衛律見單於這麼器重他，也就死心塌地地跟著單於。於是他把漢朝很多的秘密告訴了單於，衛律有個手下叫虞常，曾被扣留在匈奴。這個人有些骨氣，他表麵上投降了匈奴，實際上是一直在等待時機，想把叛徒衛律清理掉，然後回漢朝。虞常聽說漢朝又派來了使者，而且裏麵有他的老朋友張勝，於是他就偷偷地和張勝商量說：“我決定除掉衛律這個叛徒。我的母親和弟弟都在漢朝，倘若我有什麼不幸，希望能夠得到皇上的照顧。”張勝非常讚成虞常的計劃，答應說：“您如果真的這麼做，我一定會告訴皇上，重賞您的母親和弟弟！”當下他拿出好多錢財資助虞常。可是，由於虞常辦事不夠仔細，計劃泄露而被抓。
事情變化得這麼快，張勝有些慌了。他怕事情鬧大，趕緊去找蘇武。蘇武聽了吃了一驚，說：“看來我難逃此劫了。可我乃堂堂漢朝使者，如果因為這事受到人家的審訊，就等於侮辱了漢朝，給皇上丟臉，給自己丟臉，還不如趁早自殺。”說著，拔出刀就往自己的脖子上抹。張勝和常惠趕緊上前把刀子奪下來。
衛律用各種嚴酷的刑罰拷打虞常，把虞常折磨得死去活來。重刑之下虞常把張勝供了出來。單於聽說漢朝使者參與了這件事，勃然大怒，命令衛律去把蘇武召來受審。蘇武歎口氣，對常惠他們說：“喪失了使臣的氣節，使國家受到了侮辱，我即使活著，又有什麼臉麵回到漢朝呢？”拔出佩刀向自己脖子上抹去。衛律大吃一驚，急忙去奪刀子，可是蘇武已經受了重傷，暈了過去。眾人搶救了半天，蘇武才慢慢地蘇醒過來。
單於很佩服蘇武的骨氣和視死如歸的精神。他想：“如果蘇武這樣的忠臣能為我效力，那有多好！”於是他早晚派人去問候蘇武，想軟化蘇武，讓他投降。