月氏國自國王被匈奴殺害後，大臣們擁國王的夫人做了王，西遷到大夏國境內，大夏人打不過月氏人，便向月氏人投降，兩個國家便合並成一個國家，改名為大月氏國。大月氏所在的地方土地肥沃，物產豐富，他們的生活十分安樂。生活一安樂，就把報仇雪恥的事情忘了。所以張騫把他的來意說明後，國王不願再回到幾千裏之外的故鄉去對付匈奴。從此，月氏國王不再談論匈奴，隻是極其熱情地款待張騫等人。
在月氏國，張騫與許多前來做生意的別國商人開始交往，與他們建立了很深的友誼。張騫把漢朝的情況也介紹給了西域各國。一年多過去了，張騫決定返回漢朝。他們從匈奴人足跡較少的南山向東行，沿途又走訪了不少國家，使得這些國家的君主都十分向往漢朝。可是，當他們走到祁連山腳下時，又一次被匈奴逮捕。他們被軟禁了一年。後來單於死了，為爭奪王位，匈奴發生內亂，便無暇顧及張騫。於是在一個漆黑的夜晚，張騫帶著他的匈奴妻兒以及堂邑父逃出了匈奴。
當他們重新回到首都長安時，13年已經過去。去的時候，張騫還是個年輕小夥子，如今卻兩鬢已經雪霜。而去時的100多人也隻剩下他和堂邑父了。拜見漢武帝後，張騫談了月氏國不肯出兵的原因，以及自己兩次被俘的經過，還詳細談了西域各國的風土人情，漢武帝聽得入了迷。為了表彰張騫的卓越貢獻，漢武帝拜他為太中大夫，拜堂邑父為奉使君。
漢武帝得知匈奴正在內亂，便封張騫為校尉幫助大將軍衛青製定最佳行動路線和作戰方案。按這個方案，衛青果然出師告捷，一舉消滅了匈奴的一支主力部隊。漢武帝很快將張騫提升為將軍，並封了他“博望侯”。
公元前119年，漢朝與匈奴展開一場決戰，給予匈奴以毀滅性的打擊，最終將匈奴趕到了漠北。通往西域的道路就此通暢。過了兩年，張騫建議漢武帝去結交西域的烏孫國。漢武帝派張騫做正使，帶領副使和將士300多人，帶去許多金銀、綢緞和牛羊，再次出使西域。張騫到了烏孫後，將副使分別派往大宛、康居、大夏、安息等國，他自己留在烏孫並說明了自己的來意。烏孫王決定先派人去長安。並送給漢武帝幾十匹烏孫寶馬。漢武帝元鼎二年（公元前115年），張騫帶著烏孫的使者回到長安。烏孫使者親眼看到了漢朝的繁華和人民的友善，回去後便對烏孫王詳實地作了彙報。烏孫王很高興，決定跟漢朝建立友好關係，並且娶了漢朝公主。
張騫從烏孫回來的第二年便病死了。這一年，派到大宛等國去的副使陸續帶著各國的使者回到長安。這些國家和烏孫一樣都和漢朝建立了友好關係。張騫和他的隨從幾次出使西域，到過36個國家，對於溝通西域和漢朝的關係作出了重大貢獻。
從此以後，西域的葡萄、苜蓿、核桃、石榴和大蒜等陸續傳入漢朝；漢族人先進的農業生產技術、打井和煉鐵的方法，也傳到了西域；西域的音樂舞蹈和樂器傳到漢朝，漢族生產的絲綢等也帶進西域，並由西域進一步傳到歐洲和世界各國。後來，人們習慣把張騫開通的漢朝到西域的道路稱為“絲綢之路”。張騫出使西域，為的是軍事目的，但預期的目的沒完成，卻為漢朝展現了一個嶄新的世界。漢朝的威名也遠播四海。