為了防止大權旁落，保持本民族的特有利益，忽必烈有意識地繼續保持舊有的斡耳朵製度（後宮製度）和投下製度（維護蒙古族特權製度），擴大怯薛軍製度（近衛軍製度），與此同時，忽必烈又製定一些具體的政策，專限製諸王勳貴們的不法行為。對於國家官僚機構的建置，忽必烈依據中原曆朝曆代的寶貴經驗進一步加以完善。在中央與地方官員的任命上，為使蒙古貴族牢牢掌握權力，各部門多由本族人員充任正職。
在經濟問題上，由於連年戰爭的破壞，北方地區社會生產瀕於絕境，為了使農業得到恢複和發展。忽必烈專門建立了一個叫勸農司的機構。此機構的主要職能是“勸誘百姓，開墾田土，種植桑棗。”另外，經張文謙推薦，當時已聞名遐邇的科學家郭守敬受到忽必烈召見，當即委派郭為諸路河渠的提舉之職。郭守敬果然不負眾望，整治了不少淤塞多年的古渠，使9萬多頃荒地變成了鬱鬱蔥蔥的良田。
忽必烈整頓改革的內容是多方麵的。除上述的政治、經濟措施以外，還涉及到官員考績、統一錢幣以及清理戶籍等具體內容。公元1264年忽必烈發布一詔令，“以戶口增，天野辟”作為考核官吏的首要標準。並三令五申：禁止軍隊搶占農田為牧場，禁止毀滅莊稼。同時在重新整理戶籍基礎上減輕百姓負擔，並且也對貨幣進行整頓，改變多年錢鈔價值標準混亂狀況，以利於商業正常貿易。
在元王朝建國伊始，忽必烈還在朝廷機構中添改了翰林國史院，組織官員們編修國史。他還采納了姚桓“立學校以育才”的建議，開設學校，教育勳貴子弟，以許衡為國子祭酒，竇默為侍講學士。許衡認為：教育的目的在於培育各式各樣的人才，不僅要因材施教，而且要根據士人的才能授以不同的官職。應該說，由於忽必烈的支持和倡導，在元代的九十多年中，各朝統治者奉行的仍是儒家學說。
忽必烈對於創建新蒙古文字也作出了貢獻。他從政治統治需要出發，希望有一種統一的文字。為此他特命國師八思巴創製蒙古新文字。八思巴經過艱苦努力，終於創造出新的蒙古文字。忽必烈規定，今後凡是頒發詔書告令，隻準使用蒙古新文字。由於朝廷的大力支持，它實際上成為官方文字。隨著各路蒙古字學和國子學的開設，新蒙古文在蒙古貴族子弟中得到推廣，但在民間仍未能普遍流行。
金戈鐵馬初戰襄陽城
忽必烈是一位奮發有為的人，他雖然已雄踞半壁江山，但並不滿足已有的成就。他要擴展領土，當時在政治上已經腐敗的南宋王朝，再一次成為他開拓疆域領土的主要對象。
忽必烈在開平稱大汗以後，就派郝徑為國信使出使南宋，向南宋王朝宣告自己即位的消息，並要求南宋王朝履行賈似道與自己達成的議和協定。賈似道聽說郝徑到來，心中大為驚恐。他懂得如果一讓郝徑入京都臨安的城門，自己與之議和稱臣，謊報戰功之事就要敗露。因此為了掩蓋他的投降罪行，便下令將郝徑等人當成囚犯一樣秘密押在真州忠勇營。忽必烈不知其中緣故，又派使臣南下臨安，仍得不到回答。不久又逢汗位爭奪戰和李王亶之亂，忽必烈也無暇南顧，便這麼一再耽擱下來。隨著北方政治的鞏固，經濟的發展，他的目光又轉向亞洲大陸上唯一能與之對峙的敵手——南宋。
公元1267年的冬天，北方出奇的冷，但難以遏製的燥熱卻陣陣湧上忽必烈的心頭，他感到自己被南宋王朝欺騙了，認為賈似道拿自己開玩笑，必須揮師南下，找賈似道算帳，忽必烈在一陣狂熱之後，心境終於冷靜了下來。麵對天塹長江之隔的南宋究竟從何處下手呢？他想不能以一主之威壓折群臣之智，既然全麵進攻的決心已定，隻有集思廣益來製定作戰的具體措施。一天，熟悉南宋防務的降臣劉整求見，他向忽必烈獻策道：“攻宋王略，應是先圖襄陽，由襄陽浮漢（漢水）入江（長江），直取臨安，南宋可平。”接著劉整又具體分析了南宋的軍備狀況。忽必烈聽罷很是滿意。
公元1268年，忽必烈任命劉整為鎮國上將軍都元帥，隨蒙古貴族都元帥阿術一道進攻襄陽，但南宋守將呂文煥多次打退蒙軍的進攻。轉年，老將史天澤等前來助戰，徹底完成對襄陽的合圍。在對襄陽的圍困中，忽必烈有意地設計了水、騎、步、炮諸兵種協同作戰的規劃。結果，蒙古軍多次打退了南宋的援軍，使襄陽守軍漸漸戰力不支。在襄陽之戰呈膠著狀態時，回回人亦思馬因和阿剌瓦丁把創製的一種新型攻城機械——巨石炮，獻給忽必烈。這種炮威力很大，忽必烈很快將之送往前線。呂文煥望著城外密密麻麻的蒙古軍以及幾百門攻城的巨石炮，也不由得膽戰心驚。另外賈似道許諾的援軍，竟連一兵一卒也未到。突然，一聲又一聲震耳欲聾的巨響，已把襄陽城樓炸塌了。這時城下一單騎飛至，蒙古將軍宣讀忽必烈詔諭：“爾等拒守孤城，於今五年，然勢窮援絕，若能納降，悉赦無罪，且中遷擢。”呂文煥望著這座苦守了五年的襄陽城，萬念俱灰地打開了城門。襄陽戰役的勝利，南宋大門已經洞開，為忽必烈的下一步軍事行動掃清了道路。
忽必烈舉行盛大的宴會，歡迎凱旋的諸將。宴會上，在文武大臣的共同推舉下，忽必烈任命伯顏為進攻南宋的統帥。伯顏本為西亞人，因入朝奏事來到中原。忽必烈見此人儀表堂堂，才華出眾，便將他挽留為自己的部屬，後屢遷為丞相。幾年以後，伯顏兢兢業業，功績斐然。此時經史天澤等人舉薦，忽必烈感到統一四海的重任係於伯顏身上，便授以他軍事指揮的全權。這樣，一場新的全麵對南宋的戰爭就要開始了。
水陸並進再戰丁家洲
公元1274年，年僅4歲的宋恭帝繼位。這年8月，以伯顏、史天澤為正副統帥的2O萬蒙古大軍，再一次出現在襄陽附近的漢水和萬裏長江的北岸。
在伯顏率軍出發前夕，忽必烈語重心長地要他在征戰中不要狂殺無辜百姓，以圖收複民心。在忽必烈看來，江南的數百萬生靈，終有一天是大蒙古國的黎民百姓。
公元1275年，伯顏率領三軍自漢水入江。元軍一路過關斬將，先頭部隊到達戰略要地鄂州、漢陽地區，滾滾長江已遙遙在望。南宋沿江製置使夏貴的萬艘戰艦，匆忙布陣，妄圖以長江以北的陽邏堡（黃崗西北）為軸心，阻止元軍入江。伯顏考慮到元軍兵力大大少於宋軍，於是一麵派人圍住漢口，揚言取漢口渡江，一麵趁夏貴增援漢口時傳令元軍四線出擊。當天夜晚元軍偷襲成功，奪得漢陽、鄂州，長江中下遊的大門已完全敞開。南宋軍事防禦命脈上的刀口，注定無法彌合了。在整個進軍途中，忽必烈一次又一次發出命令：“嚴禁侵暴，違者殺無赦。”伯顏堅決執行。
公元1275年，宋元之間的戰爭再次大規模地展開。一天晚上，賈似道接到前線飛來的戰報，說防軍在池州附近的陸軍連連失利。賈似道心慌意亂，再也不顧南宋諸軍，倉皇逃往揚州去了。於是這場丁家洲之戰，南宋陸軍多已逃散，有的主動組成抗元義軍，水軍精銳幾乎損失殆盡。賈似道本人被朝廷解職，押送途中被正義的差官殺死，除掉了一大害人精。
丁家洲戰役之後，南宋官兵的元氣大傷。在長江兩岸除以揚州為中心的李庭芝還有一支重兵據守以外，其餘各地方已陷於一片混亂之中。對於元軍來說，通往南宋國都城臨安的道路已是一馬平川了。不到一個月，伯顏主力突擊到作為臨安都城門戶的建康（今南京）城下。建康城雖有龍盤虎踞的險要地形，但駐建康的留守兼沿江製置使趙亻晉棄城逃跑，使得元軍不用一刀一槍就占領了該城。一時之間，鎮江、江陰等軍事重鎮的守將石祖宗、李世修、戴之泰等人都向伯顏敞開了大門，都城臨安已經無險可守了。
恩威兼施統一全中國
早在丁家洲戰役打響以後，忽必烈就展開政治攻勢以配合軍事行動。公元1275年2月，他對鄂州、嶽州、漢陽、安慶等地歸附的官吏百姓僧卒發表詔令說：“種田的要繼續荷鋤下地，經商的要開門做買賣。其餘三教九流、五行八作的人都要各安己業，如果鎮守官吏有騷擾百姓的不法行為，任何人都可以向中書省控告。”不久忽必烈升湖北製置前使高達為參知政事，並特意寫了一封信給他說：“過去我大蒙古國出兵征戰攻陷城池，洗劫一番之後離去，不曾置兵守衛，所以連年征戰不息。要說用兵打仗，不過是奪得土地和百姓，如果有了土地而百姓四處逃散，那又有什麼用呢？”信中接著又說：“現在南宋崩潰已是時間早晚的問題，如果保住新的城鎮，使百姓安居樂業，勤勉耕作，蒙古人還不大知曉，你深深懂得其中道理，這些事由你去安排吧！”忽必烈的詔令和信件表明，一旦在南宋王朝滅亡之後，他將要保持原來的經濟麵貌，並保證歸降官民的既得利益，這對於加速南宋王朝的覆滅無疑帶來了積極影響。
公元1276年正月，元軍分三路進逼臨安，南宋官員四處逃散，小小年紀的恭帝趙顯奉表投降，忽必烈滅亡南宋王朝的計劃終於實現了。但南宋朝廷的一些忠貞之士，諸如陳宜中、張世傑、陸秀夫、文天祥等人仍堅持抗元鬥爭。同時，各地人民也紛紛成立抗元義軍。
忽必烈非常清楚，要改變江西、福建、廣東等地的形勢，平定抗元武裝力量，隻有更為大膽的起用漢人。否則，必然會加劇民族之間的矛盾。於是他打破以往慣例授漢人將領張弘範以蒙古漢軍元帥之職，同時賜寶劍一柄，鼓勵道：“劍在如我在，蒙軍中如有不從命者，以此劍處之。”張弘範流著熱淚接過寶劍。結果元軍水陸並進，不斷蠶食各路抗元義軍。文天祥被俘，張世傑、陸秀夫背著小皇帝逃往海上。公元1279年2月，再次失敗的張世傑跳海自殺，陸秀夫則背著小皇帝縱身跳入偯山下的大海。
南宋王朝徹底滅亡了。從維護民族利益立場出發，在抗元鬥爭中，雖然有很多舊朝官吏歸順了元朝，但仍有一些絕不賣身求榮的愛國誌士，張世傑、陸秀夫、文天祥便是其中的佼佼者。文天祥被俘後，張弘範以禮相待，多次勸他投降。文天祥寫了一首《過零丁洋》表明心跡。忽必烈特意召見文天祥，對他說：“先生忠義之心，天下可鑒，如果您像侍奉前朝那樣侍奉於我，朕就讓您做中書宰相。”文天祥回答：“我為宋臣，宋亡，臣隻有一死，除此以外，別無他求。”隨後不久，文天祥被斬於大都柴市，此時此際，忽必烈在宮中踱來踱去，暗自說道：“忠義之士，天下人傑！”痛惜之情是難以言喻的。
集權中央創設行省製
在中國曆史舞台上，民族團結和國家統一始終是琴弦上的主旋律。忽必烈在滅亡南宋和統一全國以後，麵對前所未有的多民族泱泱大國，感到要行之有效地治理它實在是一個棘手的問題。忽必烈廣泛征求大臣的意見，決定在全國範圍內推廣行中書省管理體製，使全國各個行中書省圍繞著大汗的政策政令有機地運轉。他頒布：中書省自轄河北、山東、山西等三個地區，另外把全國其它地區逐漸定為1O個行中書省，簡稱“行省”或“省”，設丞相一員、平章政事一員、後丞左丞各一員及參知政事一員。忽必烈還明令指出：行省統轄範圍內，舉凡地方諸般小事乃至關係國家稅收的大事無所不管。為了防止行省官員職權過重，忽必烈有意識地讓行省丞相一職經常空缺。他還再三強調，行省的大小官員皆由朝廷直接任命。這樣既加大了地方官的權限，同時又加強了中央的高度集權。
同以往曆代相比，元王朝的國土擴大了許多，對於四麵八方的邊陲地區，忽必烈也迅速建立相應的行政管理機構。如在遼陽行省之下，專門設有機構，以管轄黑龍江下遊、烏蘇裏江兩岸和骨嵬。後來元還在嶺北行省下設蓋蘭州，為了進一步加強天山南北的治理，忽必烈在哈剌大州設北庭都護府，後來又設別失八裏、和州等處宣慰司、立屯戍，行交鋪、征賦稅、設站赤。對於邊疆各少數民族的管理，忽必烈也改派官員前去代替原來少數民族的酋長，並利用內地的人力、物力去支援和指導當地的經濟、改革舊俗，以提高文化素質和防災救饑。
在民族關係問題上，忽必烈曾經通過拉攏安撫政策，成功籠絡各民族上層階級，建立偌大的元王朝。但是由於蒙古統一四海，實際上是一個少數民族征服了其它民族，元朝統治者當然極力維護蒙古貴族的特權。在官製方麵，忽必烈明確指出，中書省樞密院，禦史台的首席長官要由蒙古人擔任，色目人擔任的很少，漢人、南人隻能擔任副職，同時明文免去各路達魯花赤中的漢人。漢人、南人隻能擔任路的部管和州府縣的守令。而江南各地的總管、守令，朝廷又往往派遣漢人擔任，南人更受排擠壓製。
為了加強軍事上的控製能力，忽必烈除發展原有的怯薛軍以外，又相繼改右、左、中、前、後等五衛親軍，並且要求江南歸附官員三品以上的人，均遣一子到大都充當皇帝侍衛，表麵上是重用，實際上是作為人質。隨著國土的增辟，忽必烈將原南宋軍隊整編為新附軍，以表示有別於原有的蒙古軍、探馬赤軍及漢軍。按規定：近衛軍的主要任務是保衛大都、上都及附近地區，蒙古軍和探馬赤軍則駐在腹地和河南行省地區，漢軍多駐在長江以南，新附軍一般不駐長江以北。
忽必烈加強集權中央的做法，對於維護國家的統一顯然是有利的，也表現出這位開國皇帝的政治抱負。但不能不看到，這些措施都是在民族壓迫和民族分化情況下做出來的。
海運漕糧疏通大運河
隨著國家的大一統，恢複和加強南北經濟的交流，發展對外經濟貿易的事提到議事日程上來。在忽必烈統治元朝的三十五年中，國內各地區的聯係進一步加強，國際之間的商業貿易空前繁榮，泉州、撫州、廣州、大都等都是當時海外貿易城市，其中，大都成為國際經濟、文化中心，是世界最大的城市之一。當年馬可，波羅在《遊記》中寫道：“汗八裏（即大都）這座城市實為世界罕見，其商業之興旺，城市之布局，以及宮城之壯麗堪稱奇觀，有如天上神話，無與倫比。”
在廣州、泉州、慶元（寧波）等地，元政府設立市舶提舉司（簡稱市舶司），專門管理海外貿易。當時與中國貿易的國家和地區有14O多個，涉及東到日本、高麗，西抵波斯灣、紅海和非洲東海岸。外國使臣也大量攜帶珠寶進獻元臣，自然受到蒙古貴族們的歡迎。有一次，一個名叫馬合謀沙的使臣攜一枚奇世大珠進獻給忽必烈，忽必烈及其宗室一見，果然是駭世奇寶，左右紛紛要求收下。忽必烈卻指著殿外親自種植的思儉草對兒女們說：“你們知道我為什麼種植此草嗎？”大家都不回答，忽必烈沉默片刻，接著說：“就是時刻警醒自己，牢記太祖以來先人建功立業的艱辛。居安思危，勿驕勿奢，才能治國有成。”說罷，婉言謝絕了那名使臣的貢奉。雖然忽必烈本人躬行位素，但這並不影響國內外貿易的進行。令人欣喜的是通過頻繁的貿易往來，中國偉大的科學發明——羅盤針、火藥、印刷術等先後輾轉傳入歐洲，同時國外的天文學、醫學、尼泊爾精湛的建築藝術、日本的染布印花藝術，也都在這時傳入我國。
在國內經濟建設方麵，忽必烈的最大貢獻是開展南北海運和重修南北大運河。自隋唐以前，南糧北調的漕運成為曆代王朝十分重視的問題。伯顏攻下臨安後，曾試圖經古運河，把集中在揚州一帶的漕糧北運，但由於運河年久失修、河道多處淤泥，於是他上表忽必烈，希望忽必烈暫時改由海運。忽必烈批準了伯顏的請求。海運遠比陸運或水運簡捷得多，此後海運漕糧逐年成上升趨勢，到公元129O年，海漕運輸的糧食已增至15O餘萬石。大規模的海運使元朝朝廷擁有上千艘海船和數以萬計的船員，每年都有龐大的船隊航行於東海、黃河和渤海海麵，這是我國人民征服海洋的第一次壯舉。
雖然海運解決了大都皇家和百姓口糧所需，但海運主要依靠風力，並經常受到海浪衝擊，航行極不安全。忽必烈決定重新開道南北大運河，以為這樣一來南糧北調可以河海兩路並舉；二來通過運河可派官員經水路南下巡視。於是他頒發告令，征集民夫3萬，大修從東阿至通州水道，僅用半年時間，即告完成。忽必烈大喜，賜名會通河。會通河修好以後，從通州到大都還有5O裏陸路，運輸量極大，老百姓苦不堪言。忽必烈於是接受郭守敬提出的在通州和大都之間建一條河道的建議。結果動用軍人、工匠2萬人，費時一年，終於修成使用。當時忽必烈適從上都回來，看見河麵上船隻往來如梭，河水清澈見底，十分高興，賜名為通惠河。至此，從大都到杭州，連接海河、黃河、淮河、長江和錢塘江五大水係的南北大運河又溝通起來。在大運河沿岸一批舊有的城市更趨繁榮，一些新的市鎮應運而生。每屆漕運之際，帆檣如林，百貨會集，市肆櫛比，果然是一派興旺繁榮的景象。
烽煙報警漠北平叛亂
國家統一、民族融合、經濟發達、社會安定，這是大元王朝建立後的大好形勢。但忽必烈麵臨著一切的權威總是受到來自蒙古貴族內部的挑戰。隨著政治、經濟中心由草原轉移到中原，忽必烈與北方諸王的矛盾進一步加深了。北方諸王，對於忽必烈附合漢法改革舊製的做法十分不滿，從而發動了一次又一次的武裝叛亂。
公元1269年，前窩闊台汗的孫子海都，趁忽必烈忙於征服南宋之時，與察合台汗國篡位者八剌，欽察汗國忙哥帖木兒結盟，宣誓反對忽必烈。並自認為是蒙古大汗正統的繼承者。
聞聽後方諸王的混亂，忽必烈心中很是不安。他忍氣吞聲，多次請海都入朝，但海都置之不理。為了保障滅南宋戰爭繼續進行，忽必烈隻得親自西巡，同時派皇子那木罕戍守可力麻裏，以防海都南下。隨後不久，又派右丞相安童前去協助那木罕，加強防禦。公元1276年夏天，那木罕、安童正在伊犁河邊圍獵時，覬覦大汗位已久的諸王昔裏吉（蒙哥之子）糾合脫黑帖木兒拘捕了那木罕、安童，東犯和林。