西漢在武帝之時國力強大起來，有足夠的力量來反擊匈奴等外部勢力的侵擾。建元三年（前138），漢武帝從匈奴人口中得到一個消息，說大月氏國遭受匈奴攻擊，被迫西遷，遠離故土，因此，大月氏人對匈奴恨之入骨，發誓報仇雪恨，隻是苦於勢單力薄，一直無法實現這個願望。漢武帝認為這是一個好時機，決定派遣使者出使大月氏，說服大月氏來共同夾擊匈奴。當時，漢中（今陝西城固）人張騫被選中。
張騫原來在宮中擔任郎官，為人友善，敢作敢為，是一個十分有計謀的人，時年還不到三十歲，正是風華正茂之時。同時應募的還有一個叫甘父的，原來是匈奴人，在戰爭中被俘，成為堂邑縣一個貴族家中的奴仆，所以人們又稱他為堂邑父。據說他善於射箭，後來成了張騫的得力助手。一切準備完畢後，張騫便率領一支一百人的隊伍從長安出發了。他們經甘肅，渡過黃河進入河西，不料在河西西部的沙漠裏遭遇到匈奴大隊人馬，經過激戰後，張騫因寡不敵眾而被俘。不久他被押送到軍臣單於所在的匈奴王庭，單於把他賞賜給一個貴族做放牧牛羊的奴隸。
張騫在匈奴滯留下來。這期間，他娶了一個匈奴女子為妻，並且有了自己的兒女。但他時刻不忘自己是一個漢人，一個大漢天子的使者。十一年後，他和他的隨從終於趁機逃走，向西疾進，一路風餐露宿。不識前進的路線，他們就用日月星辰來判斷方向。經過艱苦跋涉，一天，他們到達了一個碩大無比的湖泊，這就是羅布泊，當時的古樓蘭國就位於湖邊。由於當時樓蘭被匈奴占領，張騫等人不敢進入，隻得向人問清去大月氏的路線，便又繼續沿著塔裏木盆地北緣向前艱難行進。他們越過蔥嶺，經大宛、康居，最終到達了大月氏。
此時的大月氏已經占有了大夏故地，這裏土地肥沃，人口殷盛，人們安居樂業。他們對漢朝使者的到來感激不盡，也十分懷念祁連山下的故土，但他們卻認為這裏離漢太遠，夾擊匈奴之計難以實現，所以不願東歸。張騫與同伴在這裏待了一年多，始終沒有結果，不得不東返。不料在返回途中，又被匈奴人俘獲，在那裏做了一年的奴隸。恰在這時，匈奴內部發生變故，老單於病故，太子和他的弟弟因爭奪王位發生內戰，張騫和他的妻子、甘父乘機逃回長安。出使時所率領的一百人，回來時，隻留下了張騫和甘父二人，共曆時十三年。這次出使盡管沒有達到目的，可是張騫沿途了解到了西域各國的山水、人物、風俗、物產，為他第二次出使西域打下了堅實基礎。
回到漢朝後，張騫還想尋找到一條通西域而不受匈奴阻攔的道路。他向漢武帝報告說，他曾在市場上看到一種產於四川的實心竹杖細麻布，商人告訴他說，這些東西是從身毒（今印度）買來的，身毒在大夏東南數千裏，是個低窪濕熱、乘大象出行的國家。因而張騫認為中國的西南部也應該有一條可以到達大夏的通道。為了開辟南路，張騫又一次奉使從西南去大夏，他們到達了宜賓、昆明一帶，探路十餘次，費時一年多，終因路上受阻而未能成功。
元狩四年（前119），漢武帝派兵進軍漠北地區，迫使匈奴向西北退卻，依靠阿爾泰山以南各小國的人力、物力和漢朝對抗。漢武帝想徹底割去匈奴的右臂，於是，再次派遣張騫率領三百多人的使臣隊伍，出使烏孫，企圖說服烏孫回到故地居延附近，達到實現斷匈奴右臂的目的。這次出使，張騫被任命為中郎將，攜帶金幣絲帛巨萬，牛羊萬頭。張騫到達烏孫後，正遇上其國內亂，烏孫無意東歸，所以烏孫王沒有馬上做出決定。在這段時間內，張騫就分遣副使，到周邊的各個小國，如大宛、康居、月氏、大夏等去訪問。後來，這些小國都派出使者同漢的副使一起來到長安。
從此以後，漢與西域各國開始正式往來，通西域成為了一種風氣，漢朝更是派出使者到安息（今伊朗）、龜茲、犁靬（古羅馬國）、身毒、奄蔡（今裏海東北）、條支（今波斯灣西北）等國。“使者相望於道，諸使外國一輩大者數百，少者百餘人……漢率一歲中使多者十餘，少者五六輩，遠者八九歲，近者數歲而反”，出使者和隨員之多，經常相望於道，多者數百人，少者亦有百人以上，他們都像張騫一樣，帶著國書和絲織品等物，遠則八九年回來，近則數年回歸。同時，往來於其間的“商胡販客，日款於塞下”。從此，天山南北成為了中西交通的橋梁，西域各地與中原的政治、經濟和文化交流日趨密切。據說，烏孫還曾與漢相互通婚。
張騫幾次出使西域，曆時三十餘年。他是一位畢生獻身於中外友好交往的人。他對外國和各少數民族態度謙遜，每到一地，都會遍訪民情風俗、山川物產，學習一切對漢族有用的東西。許多國家和兄弟民族的人們都喜歡並十分尊敬他，親切地稱他為“博望侯”。而“博望侯”後來則成了出使西域使者的代名詞，受到各國和一些少數民族人們的信任和愛戴。張騫在大夏時，安息國王曾想邀他去安息，因張騫回國而未去成。後來，張騫的副使到達安息，國王派將軍帶兵二萬去邊界迎接。據說，後來漢設置酒泉郡和移民屯田、開發河西都是接受了張騫的建議。張騫的確是中原通西域的第一人。
去病擊匈奴
繼張騫出使西域之後，漢武帝又在隴西（今甘肅臨洮）、代郡（河北淶源北）一帶集結大軍，給了入侵的匈奴軍隊以數次沉重的打擊。其中，元狩二年（前121），驃騎將軍霍去病自隴西兩次出擊，使得匈奴奴隸主貴族大敗遠遁。
匈奴貴族雖然慘敗，仍然憑借著河西（今河西走廊）要地控製西域，並在元狩二年春天，派騎兵萬餘人攻入上穀（今河北懷來）進行騷擾。漢武帝派遣驃騎將軍霍去病統萬騎出隴西過焉支山（也稱胭脂山或燕支山，在今甘肅山丹東南）千餘裏，深入當時的匈奴王休屠領地，斬殺折蘭王、盧侯王、執渾邪王子、相國、都尉等，獲首虜八千九百餘級，得休屠王祭天金人。漢武帝下詔加封霍去病兩千戶。
同年夏天，霍去病與公孫敖領數萬騎出隴西、北地（郡名，今甘肅慶陽西北）兩千餘裏，過居延海，攻祁連山，得胡虜三萬餘人，裨小王以下七十餘人。漢武帝遂加封霍去病五千四百戶，其餘人員都論功行賞，各有差別等。
河西之戰引起了匈奴內部分裂和渾邪王降漢。這年秋天，匈奴單於怒渾邪王、休屠王被漢殺虜數萬人，渾邪王、休屠王十分害怕，密謀投降漢朝，派出使者與漢朝商談降漢事宜。漢武帝得到消息後，擔心匈奴詐降，並乘機偷襲漢朝邊境地帶，便隻派霍去病率兵前去迎降。結果真的出了差錯，休屠王半路反悔，還好，被渾邪王殺死。渾邪王把其部下全部歸為己有。霍去病率軍渡河與渾邪王相望，渾邪王裨將看到漢朝軍隊後有些害怕，便想反悔，而且匈奴軍中許多人都不想投降漢朝，有的甚至於逃跑。霍去病急中生智，飛馬前去拜見渾邪王，並殺死了八千想逃亡的士兵。渾邪王率部投降的有四萬多人，號稱十萬。到達長安後，武帝下令對有功將士進行封賞，人數多達數十萬。封渾邪王為漯陰侯，食萬戶。其下屬也都得到不同的封賞。下旨增封霍去病千七百戶。此後，又徙渾邪王降眾至塞外隴西、北地、上郡、朔方、雲中五郡，讓他們按匈奴舊俗生活，稱之為“五屬國”。
河西之戰，兩次千裏奔襲，斬殺匈奴三萬八千餘人，渾邪王歸漢時又斬殺不願歸附者八千餘人，總計殺敵四萬六千餘人。再加上歸降的四萬餘眾，這樣，匈奴在河西走廊的右部勢力被完全摧毀，經營西域的通道被打開了。西漢政府先後在河西一帶設置武威、酒泉、張掖、敦煌四郡，史稱“河西四郡”。從此之後，“金城、河西並南山（即祁連山）至鹽澤（即羅布泊），空無匈奴”。匈奴遭受了慘重失敗，丟掉了大片優良牧場和祁連山、焉支山。
由於漢朝軍隊的多次打擊，匈奴單於王庭向北遷徙。元狩四年（前119），衛青、霍去病帶領十萬騎，“私負”從軍者十四萬騎，步兵及轉運者數十萬人，分兩路窮追匈奴。當時兵分兩路，霍去病率領東路大軍，從代郡出發，出塞二千餘裏，與匈奴左部屠耆王接戰獲勝，到達狼居胥山（今蒙古國烏蘭巴托以東），臨瀚海（今貝加爾湖）而還。這次戰役過後，匈奴力量大大削弱，再無力大舉南下，“是後匈奴遠遁，而漠南無王庭（指匈奴）”，西漢軍隊占領了朔方以西至張掖、居延間的大片土地，保障了河西走廊的安全。西漢王朝在上郡、朔方、西河以及河西諸地設置田官，用六十萬人屯田戍守，逐漸開發了這一地域，同時，也保障了絲綢之路的暢通無阻。
經過一係列的打擊，匈奴力量大為削弱，除了對西域一些小國還有一定的控製力外，基本上已經無力再向東發展。由此，百餘年來北部地區所受匈奴的威脅基本解除。西漢王朝由於連年用兵，國力也消耗巨大。從元封、太初以後至武帝末年（前110-前74），西漢王朝盡管同匈奴之間還發生過不少戰事，但是，這些戰事的規模和影響遠遠不如此前，並沒有影響到國家大體。