曆史的選擇造就了另一位英雄。忽必烈在汗位爭奪中取得勝利之後，隨即揮鞭南宋，開始了他的統一大業。經過數年的征戰，1271年，忽必烈統一了四分五裂的中國，建立了元朝，改國號為元，取《易經》中“大哉，乾元”之意，從此大蒙古帝國在中國的這一部分以“元”這個名字被載入史冊。
平定諸王叛亂
海都、都哇之亂
海都是窩闊台第六子合失的兒子，他在成吉思汗的帳殿長大，曾在蒙哥汗處效力。在忽必烈與阿裏不哥的爭奪中，他與阿裏不哥一派。至元元年（1264），阿裏不哥向忽必烈投降後，他回到葉密立。
忽必烈為商討如何處置阿裏不哥，曾向欽察汗別兒哥、察合台汗阿魯忽、伊利汗旭烈兀和窩闊台後王海都發出邀請，前三汗雖表示將在至元四年前來，但不久卻相繼去世，海都則以“牧馬尚瘦”，借故拖延。這時，忙哥帖木兒、木八剌沙和阿八哈分別繼承了欽察、察合台和伊利汗國的統治權。
海都因支持阿裏不哥未遂而對忽必烈心存不滿和疑懼，他一方麵抓緊擴充自己的實力，一方麵與術赤後王改善關係，乘機占有了窩闊台原來的封地，割據自雄。並秣馬厲兵，擴大實力，準備武裝反叛。
海都的所作所為無疑會引起蒙古大汗的注意，但剛剛平定了李璮和阿裏不哥之亂的忽必烈不願連續用兵，與本家族成員再開戰火，他一方麵爭取以和平的方式解除海都的威脅，加強國家對西北和中亞地區的控製，一方麵同欽察、察合台汗國建立聯係，意在結成共同製約海都的聯盟。
首先，他派遣長期在自己身邊並能“出色地履行職責”的察合台四世孫八剌（察合台曾孫，木禿堅的兒子哈剌旭烈之子）前往河中，輔助木八剌沙。八剌到達後，廢黜了木八剌沙，自己做了察合台汗國的君主，並按照忽必烈的意圖，聚集兵力，準備進攻海都。
同時，忽必烈選任聰慧善辯、辦事果決的任拔都封地平陽地區達魯花赤的乃蠻人鐵連出使欽察、窩闊台汗國，並指示鐵連先至欽察汗忙哥帖木兒處，與術 赤後王結盟後，再至海都處。“鐵連既奉命，欲直造海都境，視其虛實，然後議於諸王。副者弗從，曰：‘上命我輩先議於王，今遽造敵境，不可。’鐵連曰：
‘親承密旨，汝輩違則當誅。’副者懼而從行。即至，海都日召宗親宴飲，將伺其隙謀害之。鐵連乃厲聲斥之曰：‘且食，勿語！望語言脫口，相摭為罪耶！’
良久，海都曰：‘直哉！’酒半，鐵連求衣為歡，海都嘉其雄辯，將解與之，其妃止之，以皮服二襲付之。因語其屬曰：‘為使者當如是矣。’厚贈以行。既至拔都蒙哥鐵木王（即拔都孫忙哥帖木兒——引者注）所，具告以故，王曰：‘祖宗有訓，叛者人得誅之。如通好不從，舉師以行天罰，我即外應掩襲，剿絕不難矣。’鐵連還，悉以事聞，因言於帝曰：‘海都兵繁而銳，不宜速戰，來則堅壘待之，去則勿追，自守既固，則無慮矣。’帝深然之。”
八剌按照忽必烈的意圖，掌握了察合台汗國的統治權；鐵連的出使又得到了欽察汗配合討叛的承諾，忽必烈成功地爭取到了欽察汗和察合台汗的支持與合作，孤立了海都。同時鐵連也掌握了海都的動向，並提出了製服海都的措施。忽必烈采納了鐵連的建議，雖然海都反狀已明，卻沒有先事興兵討叛。“海都覘伺拔都王（即欽察汗忙哥帖木兒——引者注）為備已嚴，意乃帖然”。
但是，海都仍擔心同時也不甘心受到忽必烈的威脅，至元三年（1266），他進入高昌王境內，騷擾並掠奪了亦都護的屬民。五年（1268），又擊潰並洗劫了他們附近的、依附於（蒙哥合罕之子）玉龍答失的納鄰，再次引兵東向，進入高昌王境。忽必烈自嶺北發兵，迎擊海都於北庭（今新疆吉木薩爾破城子），乘勝追至阿力麻裏。
欽察汗忙哥帖木兒和察合台汗八剌也按照忽必烈的意圖，聚集力量進攻海都。腹背受敵的海都兵敗後先與忙哥帖木兒講和，然後集中兵力迎擊八剌。在勝負難分的情況下，窩闊台的孫子欽察斡忽勒居中調停，使他們停止互相攻擊並結成了安答。此後，察合台、窩闊台兩係聯合攻打伊利汗阿八哈。在與阿八哈的戰爭中，八剌潰敗並向海都求援。海都又乘機掠奪了八剌的財產並控製了察合台汗國。
至元八年（1271），八剌死，海都主持了八剌的喪事，先後立尼克拜和不花帖木兒掌管察合台汗國事務。八剌和阿魯忽諸子不服，舉兵攻擊海都，察合台與窩闊台後裔間再一次爆發戰爭。八剌長子伯帖木兒和阿魯忽的兒子出伯、合班投奔了忽必烈，後來，貴由的孫子察八忒也離開了海都，帶著一些異密歸附了忽必烈。不花帖木兒死後，由海都主持，又將察合台汗國的統治權交給了八剌的兒子都哇（《元史》又作篤哇、都瓦、朵哇）。察合台汗國又成了海都與蒙古大汗對抗的同盟。
鑒於海都勢力的擴張，忽必烈一方麵遣使令其罷兵，一方麵加強了漠北和林和西北別失八裏、火州、斡端等地區的防務。他派遣戶部尚書、宗正府紮魯火赤（紮魯忽赤）畏吾兒人昔班出使海都，“使之罷兵，置驛來朝”。又於至元七年，以永興府達魯花赤漢人劉好禮為吉利吉思、撼合納、謙謙州、益蘭等五部斷事官，治益蘭。好禮“即於此州修庫稟，置傳舍”，遷入中原的農民、軍人進行屯墾，設工匠局管理遷入的工匠，意在將這一地區建成防禦西北諸王的根據地。