這一時期，忽必烈沒能收取蒙古故土。阿裏不哥的勢力依然盤踞在那裏。察合台的後代阿魯忽也承認阿裏不哥的地位。他是突厥斯坦汗國的國主，占領了別失八裏、阿力麻裏和察合台係封地的其他地方，勢力延伸到了阿姆河。可是僅僅幾個月後，這個人卻掉轉馬頭，轉而支持忽必烈。阿不裏哥腹背受敵，隻能帶兵去平定突厥斯坦。阿魯忽在不剌城（一般認為不剌城位於額必湖的南邊）殺死了阿不裏哥的將軍哈剌不花。阿裏不哥讓阿速台攻擊阿魯忽，占領了固勒紮附近的阿力麻裏，阿魯忽放棄了伊犁地區，來到了喀什加裏亞，再撤到撒麻耳幹。
阿裏不哥占據伊犁地區，但是他作為遊牧民族的後裔，無法在突厥斯坦定居下來。阿力麻裏人也忍受不了他的殘忍行徑，連他手下的將軍都不待見他。某些軍人還投靠了駐紮於劄八罕河（地圖上位於烏裏雅蘇台地區的查孛罕或查卜肯庫爾）的忽必烈前鋒部隊。到了後來，斡兒哈那哈敦也不再支持他，最後，他眾叛親離。阿裏不哥被察合台的子孫和忽必烈的軍隊重重圍困，隻能投降。至元元年七月（1264年7月25日-8月22日），阿裏不哥、阿速台、昔兒吉等人都來投降忽必烈。因為他為人過於殘暴，最終被眾人唾棄。
忽必烈接見了阿裏不哥。阿裏不哥上前請罪，被人們用帳簾罩住了，隻能這樣繼續跪拜。忽必烈讓他進入禦帳，然後讓他站著。忽必烈看到他在哭泣，自己也被感動落淚，於是說：“我的弟弟啊，我們兩人到底誰有理？”阿裏不哥回答道：“以前是我，現在是你。”成吉思汗侄子脫合察兒那顏馬上說：“合罕所欲的是今天，不問過去的事，隻追尋歡樂。”然後，宴會就開始了。但是第二天，忽必烈就讓人把反對他的各個將領抓起來，殺死了十幾個人。阿裏不哥和阿速台雖然沒有被懲罰，可是阿裏不哥卻在一個月後離奇死去。
第八節忽必烈占領南宋，征服海都
忽必烈平定內亂之後，掌握了蒙古全境，然後開始了征討南宋。《拉施特書》《元史》以及馬可·波羅的作品都詳細記述了這件事情的始末。他們首先開始圍攻襄陽和樊城。從1258年陰曆九月（公曆9月9日-10月7日）到1273年陰曆二月（公曆2月19日-3月20日），他們一直在圍攻襄陽。參加戰役的有巴阿鄰族的大將伯顏，速不台之孫、兀良哈台之子阿術和畏兀兒人阿裏海牙，以及回族人匠師毛夕裏人阿老瓦丁和希拉人亦思馬因。伯顏成為攻破南宋國都臨安的蒙古大將。1276年陰曆二月（公曆2月17日-3月16日），南宋投降，陰曆三月（公曆3月17日-4月15日），伯顏進入臨安。宋幼帝趙隰（格魯塞這裏作係帝，為其譯音）受到忽必烈的款待。可是其他地方的漢人依然有反對蒙古的勢力，他們在廣東地區集結起來，反抗蒙古人的侵略。1277年，廣東最後的據點也被攻破。4月3日，最後的水軍在崖山之戰失敗，南宋的勢力被肅清。忽必烈的帝國占據了整個中原。
上亞細亞卻一直不承認忽必烈統治過這一地區，這說明了，元朝的產生，使原來的蒙古帝國失去意義。
海都是緊接阿裏不哥反抗忽必烈的人。他是窩闊台第五個兒子合失的兒子。根據《元史》的記載，窩闊台的家族失勢之後，海都就在1250年被流放到海押立（即伊犁地區的庫巴勒附近）。海都有著優秀的才能，他仍然保存著最原始的蒙古人的遊牧生活形式。聶斯脫利教派或者其他派係的基督教信徒都很讚許他。他在總領葉密立和塔爾巴哈台地區的世襲封地後，很快就讓察合台家族的人也歸附於他，並把他們的封地喀什加裏亞和河中地區也掌握在手中。他在1267年到1301年，實際統治著中亞細亞。