大臣們為他請來朝廷禦醫和各地名醫，百般調治，仍然不見其好，相反越來越重。轉至至元三十一年（1294年）元旦，老百姓都歡歡喜喜過春節，可宮中卻顯得格外蕭條，好像沒有心思過春節似的，原因就是因為忽必烈的病情進一步惡化了。
忽必烈辛勞一生，每天都接見大臣，討論國家大事，這時，開始不接見大臣了，規定，“非國人勳舊不得入臥內”，唯獨不忽木，忽必烈不讓他傾刻離開身邊，每天幫助他吃藥，病情稍好時則陪他聊天。
這期間，忽必烈大概想了許多許多。
忽必烈從即位那一年開始就宣布要“鼎新革故，務一萬方”。確實，鼎新革故和務一萬方就是忽必烈一生中做的兩件大事，這兩件大事，既有成功，也有遺憾。
從“鼎新革故”方麵來看，忽必烈進入中原以後，毅然拋棄蒙古舊俗，悉心學習漢族文化，也吸收了不少色目文化，大膽進行社會改革，確立一套對蒙古人來說完全是一種全新的製度，有力地促進了經濟文化的發展，應該說，這是忽必烈改革的成功之處。然而，忽必烈雜揉諸法，又引起了各法之間的矛盾和衝突。
忽必烈完全任用義理派幫助他管理國家，對全國的思想控製和社會的穩定確有好處，可義理派卻不能幫助他解決政府的財政需求；完全利用功利派，確可幫助他解決政計的財政危機，但這些功利派人物在管理國家財政時，常常把國家的錢財管到自己的腰包裏去了，再加上加重對老百姓剝削，引起社會動蕩，朝廷一直得不到安寧。
忽必烈意識到這一問題，本想在義理派和功利派之間走同一條新的路子來，然而，兩派針鋒相對，勢同水火，沒有辦法創出新的路子，隻好回複到仁義治國的道路上來。以仁義治國，確實有利於社會穩定，但國家財政虧空問題始終得不到解決，成了忽必烈十分撓頭的問題。忽必烈本想繼續探討，以解決這個難題，但時間對他這位老人來說，已經不允計了，完全成了他的未竟之業。
從“務一萬方”方麵來看，忽必烈即位以後，就把“統一”當成了自己的奮鬥目標，他運籌帷幄，不斷遣將調兵，終於滅掉了南宋，抵製了北方諸王的進攻，實現了全國的大統一，這是他感到十分欣慰的事。
然而，忽必烈“務一萬方”，並非是僅僅統一全中國，而是要統一整個亞洲，因此，他在滅宋以後，不斷對日本、安南、占城、緬國、爪哇等國發動戰爭，也不斷調兵遣將，試圖平定北方諸王的叛亂，不讓他們從中國分裂出去，這是對人。也正由於忽必烈的不斷進攻，才基本上解決了北方諸王的叛亂問題，這是忽必烈的一大功績。
但是，北方諸王的搔擾問題並沒有最終解決，也成了忽必烈的未竟之業。至於進攻日本、安南等國，最後都以失敗而告終，忽必烈想統一整個亞洲成了泡影，不能不感到遺憾。然而，他哪裏知道，發動統一的國內戰爭會得到人們的支持，而發動對國外各國的鬥爭，勞民傷財，人民紛紛反對，再加遠隔海洋，元軍不善於水上行軍和作戰，最後都失敗了。
事實雄辯地說明，忽必烈要在東方稱霸，其路不通，隻有與各國友好交往，才是最佳選擇。但是，當時的忽必烈卻無法認識到這一點，躺在病床上還感到遺憾，把沒有征服日本、安南等國當成了他的未竟之業。
就這樣，忽必烈帶著幾分欣慰和幾分惆悵，於至元三十一年（1294年）正月二十二日午夜，離開了人世。忽必烈在臨死之前，特將一塊白璧贈給不忽木說；“他日持此以見朕也”。忽必烈晚年對不忽木十分重視，充分反映忽必烈又重新回到以仁治國的軌道上來。
忽必烈死後，遺體按照蒙古國禮，殯殮於蕭牆之帳殿。二十四日早發靈，由健德門北去，葬於漠北起輦穀祖陵。
忽必烈生前將太子寶授給皇孫鐵穆耳，說明忽必烈已經選擇了皇位繼承人，但按照蒙古國的規定，隻有通過忽裏台選舉方能生效。於是，鐵穆耳的長兄甘麻剌也出來爭奪汗位。聰明能幹的闊闊真利用甘麻剌患有口吃病的弱點，讓鐵穆耳和甘麻剌在忽裏台上講誦成吉思汗的必裏克。由於鐵穆耳口才極好，再加上伯顏、玉昔帖木兒、不忽木等人的支持，鐵穆耳順利登上汗位，是為成宗。
成宗鐵穆耳即位以後，為忽必烈上尊諡為聖德神功文武皇帝，廟號世祖，蒙語尊稱“薛禪（意為賢者）皇帝”。
自古英雄多蓋棺論定，忽必烈死後，許多史學家對其眾說紛紜，評說種種。
打開史料，就可以看出，蒙古民族是個興起稍晚的民族，它沒有漢族那樣曆史悠久，蒙古初興之時，政治、經濟、文化同漢族比較起來，相對落後一些。忽必烈作為蒙古民族的一個代表人物，初入中原，接觸到漢民族的先進文明，一切都覺新奇，於是下決心努力向先進學習。
於是，“思大有為於天下”的藩王忽必烈，在漠北藩邸就開始大量征召漢人儒士，受任管理漠南以後，創建“金蓮川幕府”，虛心向漢族文人學習先進的漢文化及修身、齊家、治國、平天下的道理，成為當時漢化最深的一個藩王。
在吸收漢文化的基礎上，忽必烈充分認識到學習先進文明、改革蒙古舊俗的重要性和迫切性，因此，他在即位的當年就表示要“鼎新革故”，至元元年（1264年）在改元“至元”的詔書裏再次宣布要“鼎新革故”。“鼎新革故”就是要建立新的，革除舊的。
在建立新的過程中，忽必烈認識到，當時的漢族文明是最先進的文明，但其他各族也有值得學習的地方，應該學習各族的先進經驗。
在革除舊的過程中，忽必烈認識到，本民族的東西並非需要全部革除，隻需要革除那些落後的東西，而保留那些帶有本民族特色的東西，或者有些東西需要革除，但由於時間和條件的限製，不宜馬上革除，這些東西也需要暫時保留。
基於上述認識，忽必烈在學習以漢族為主的各族文化中，建立起一套自己的全新的統治體係，為中華民族的發展做出了重要貢獻。
在政治方麵，忽必烈在學習漢族文化和其他各族文化的基礎上，確立了一套對於蒙古來說完全是一種全新的政治體製和統治秩序。
他在中央設置了中書省，作為全國最高行政機構，最後完成了中國中央行政機構從三省製向一省製的轉變。在地方設置行中書省，開創了我國地方省製之先。
這些行政機構的設置，對中原地區的漢法來說，也是一種革新和發展。
忽必烈改變了過去那種列土分封的舊法，削奪藩王權力，變貴族封地為賜田，使原來的分封貴族成了一般地主，有效地加強了中央集權。
忽必烈又製訂了刑法，建立台閣，製訂官員的管理和考核辦法，加強了對官員的管理。他廣開言路，注意對人才的選拔，嚴禁官吏貪汙受賄，並要求官吏治有政績，獎勤罰懶，有效地提高了工作效率，保證了當時的政治清明。