海都的侵犯，好像變成忽必烈晚年的難以了卻的心腹之患。因此，忽必烈逐步完善了漠北的軍事防禦體製。
他的內容主要是皇太子撫軍，那木罕與甘麻剌、鐵穆耳二皇孫的總兵，樞密院遣官和和林宣慰司的設置等，試圖從宗王總兵與重臣輔佐相結合，漢軍、色目軍團的較多屯戍，稱海、和林東西二鎮戍區互為犄角之勢等層麵，實施對海都等西北叛王有效而長期的軍事防禦。
至元十八年（1281 年），忽必烈命令皇太子真金赴漠北巡視軍事，且讓樞密院同知伯顏從行。這次皇太子巡視，依漢地禮製特稱“撫軍”，從二月到十月，曆經八個月的時間，並非長期總兵。但因為北平王那木罕被拘於蒙哥帖木兒處，真金此行也寓有代表忽必烈汗出鎮漠北蒙古腹地的意義。
皇太子“撫軍”，隻比忽必烈差點，在北平王拘留叛王處的情況下，此舉充分表現了大汗對漠北軍事防禦的特別重視。
這次巡視或“撫軍”，恰在至元十八年二月，真金生母察必皇後病逝後不久。
忽必烈之所以讓真金此時離京師赴漠北，也是迫不得已。臨行，忽必烈特意囑咐
真金：“伯顏才兼將相，故俾從汝，忠於所事，不可以常人遇之”。真金恪守父親的旨意，每與伯顏議事，尊禮有加。忽必烈明白：真金的軍事才能有一定的局限性，“撫軍”隻是一個象征性事物。他的巡視或“撫軍”，伯顏功不可沒。
至元二十一年（1284 年），那木罕被釋放回朝，改封北安王，駐在和林北的帖木兒河，依然負責總領漠北軍事。又增設北安王傅，掌管軍需和本位下諸事，當時皇子闊闊出、也不幹及牙忽都等，東道諸王勝納合兒，都歸北安統治。
至元二十三年（1286 年）忽必烈又派遣皇長孫甘麻剌同北安王鎮北邊。說明子宗三代大汗總領漠北的恢複。
至元二十九年（1292 年）那木罕逝世，忽必烈把時已封梁王鎮雲南的甘麻剌調回漠北，改封晉王，“統領太祖四大斡耳朵及軍馬、達達國土”。
第二年六月，甘麻剌之弟鐵穆耳受皇太子寶，“撫軍於北邊”。於是，漠北開始有了二皇孫同鎮。
這個時候的甘麻剌、鐵穆耳兄弟同鎮，在戰區與職司上是有所側重或分工的。
一方麵，甘麻剌、鐵穆耳大體以杭海嶺為界，分別負責和林、稱海東西兩戰區的軍事活動。另一方麵，鐵穆耳、甘麻剌又有守土與總兵的側重。鐵穆耳側重是統率“屯列”於稱海一帶的防禦海都的大軍，甘麻剌則重在“鎮護”四大斡耳朵與漠北蒙古諸部。此種二宗王同鎮的局麵，一直被沿用到元中篤哇叛、葉海都叛亂後。它既可讓兩個防區互相照應和牽製，防止一軍戰敗造成全線潰退，還能利用諸王之間的矛盾，盡可能避免以往宗王軍團陣前倒戈等現象。由此看出，忽必烈晚年對漠北軍事防禦的部署更加老練了。
樞密院遣官，可以上溯到至元十二年（1275 年）春右丞相安童以樞密院事、行中書省輔佐北平王鎮北邊。
至元十四年（1277 年）昔裏吉等率兵侵犯漠北，同知樞密院事伯顏首先受忽必烈派遣，帶領部隊抵抗。伯顏還京後，別乞裏迷失繼為同知樞密院事，主持軍務，還叫作行樞密院。
到元二十六年（1289 年）二月，海都大舉進犯，忽必烈命伯顏為知樞密院事，鎮和林，統率漠北諸軍。曆史上叫作和林置知院，起於伯顏。
到元二十九年（1292 年），禦史大夫玉昔帖木兒又代伯顏為知院以統北兵。
迄世祖朝末，樞密院所遣官一直是漠北最高軍事官員。伯顏與玉昔帖木兒皆
為忽必烈時期的有名將領，伯顏是平南宋最高統帥，玉昔帖木兒在平定乃顏之亂中立下了汗馬功勞。兩人在以知樞密院事總領北軍的時候，對所在軍隊的實際指揮權還要多於甘麻剌兄弟。閻複《玉昔帖木兒勳德碑》：“宗藩帥鉞，一切秉命於公”，一語道破。這既有漢軍、色目軍隊數量上超過諸王軍隊的背景，也是忽必烈看重伯顏與玉昔帖木兒的軍事才能而加以重用的原因。
有的廷臣埋怨伯顏對海都守禦為主而功勞不顯，其實是片麵的說法。阿撒忽禿嶺戰役中，“伯顏先登陷陣，諸軍望風爭奮”，打敗明裏鐵木兒叛軍，自不待言。
就算是後來同海都交兵，接連七日且戰且退，也是在避其鋒芒與誘敵深入。最後大獲全勝，殺虜幾絕，惟海都脫走，也就是說他的指揮是很不錯的。南歸之前，伯顏所言：嚴紀律，戒酒色，冬夏營駐，恩德不可偏廢，循舊為便等，也是皇孫鐵穆耳采用的好方法。
忽必烈在皇子宗王出鎮總兵的同時，又任用有傑出軍事才能的樞密院官具體掌管軍務。這也是忽必烈後期漠北對海都的軍事防禦慢慢擺脫被動的原因之一。
林宣慰司最早在至元二十年（1283 年），任該司官員的有答木丁（可能是宣慰使）、宣慰副使劉哈剌八都魯。三年之後，劉哈剌八都魯升同知，第二年升宣慰使。至元二十五年（1287 年）又和怯伯同為宣慰使。
這個時候的和林宣慰司，主要負責漠北的軍屯、錢穀出納與軍需供給，也兼管所在民戶。
忽必烈對和林宣慰司官員的選用非常重視。當尚書省擬妾怯伯為宣慰使之時，忽必烈諭旨：“錢穀非怯伯所知，哈剌斡脫赤（劉哈剌八都魯初賜名）可使也”。事隔沒有多久，怯伯在海都進攻和林時叛變投敵。忽必烈獲知，深有感慨地說：“譬諸畜犬，得美食而忘其主，怯伯是也。雖未得食而不忘其主，此人（劉哈剌八都魯）是也”。可以看出，忽必烈識別忠奸良莠的能力是很絕的。
和林宣慰司是元廷在漠北設置的第一所以掌管財賦軍需為主的漢地式官府，有很強的防禦作用。
到元二十四年（1287 年），正當忽必烈對海都侵擾煩惱時，又爆發了東道諸王乃顏為首的大叛亂，從而使忽必烈在黃金家族與蒙古諸部的統治地位又麵臨著新的嚴峻挑戰。
乃顏是成吉思汗幼弟鐵木哥斡赤斤的後裔，塔察兒國王的孫子。成吉思汗建
國後，曾將怯綠連河以東至哈剌溫山（大興安嶺）的蒙古東部封授給四個兄弟：
哈赤溫、哈撒兒（本人早逝，事實受封是肝按隻台）、別裏古台、鐵木哥斡赤斤。
其中幼弟鐵木哥斡赤斤受封千戶最多，長久充當東道諸王之長。
在忽必烈母弟阿裏不哥爭奪汗位時，塔察兒等東道四藩王都是忽必烈政權的強有力支持者。忽必烈朝前期，東道諸王很受歡迎，在各類封國、賞賜及食邑內權力等一些方麵，均享受很多好處。
然而，隨著忽必烈模仿漢法加強中央集權的同時，他與東道諸王的矛盾也日漸增強。
至元十一年（1274 年）春，忽必烈下令原中書省平章廉希憲和頭輦哥國王一並行省於遼東。
走之前，忽必烈囑咐廉希憲：“遼東戶不數萬，政以諸王國婿分地所在，居者行者，聯絡旁午，明者見往知來，察微燭著，塔察兒諸王，素知卿能，命卿往者，識朕此意”。忽必烈說得很明確，就是讓宰臣廉希憲代表朝廷鎮撫監視東道諸王。
當塔察兒大王使者到來，頭輦哥國王站立以聽令旨時，廉希憲竟敢以“大臣無為王起者”為由，安坐如故。很明顯帶有忽必烈的意識。
至元二十年（1283 年）前後，元廷和東道諸王爭奪遼東地區控製權的鬥爭更加強烈。忽必烈曾擔心當地的宣慰司秩卑望輕，一度把宣慰司升格為東京等處行中書省。
至元二十二年（1285 年）元廷籌備再征伐日本，強行征發遼東女真故地的百姓及諸投下民建造船隻，忽必烈還特別降旨征勝納合兒、調乃顏等部鷹房、采金戶充役。進一步強化了衝突。
叛亂發生之前，忽必烈已經接到遼東道宣慰使塔出等有關鐵木哥斡赤斤後裔乃顏謀叛的密報，作事前的準備。不久以後，廢罷宣慰司，改立遼陽行省，命令原宣慰使亦力撒合任行省參政，負責為征討大軍運送軍糧。
至元二十四年（1287 年）二月，乃顏遣使者向漠北節製軍馬的宗王裏鐵木兒征調東道兵，忽必烈宣諭閣裏鐵木兒不得任意撥給。同月，忽必烈又派剛剛從西北前線回京的樞密院同知伯顏赴乃顏處探聽虛實。伯顏攜帶了許多衣裘進入乃顏境內，沿途頻頻贈給驛站管理人員。到達後，乃顏設宴款待。席間，伯顏闡明
大義，乃顏假裝同意，圖謀拘捕他。伯顏覺察，乘酒酣和隨從分三路逃出，驛站管理人員因為得到衣裘贈與，爭先提供健壯的驛馬。伯顏順利擺脫追騎，逃離以後，馳還京師，向忽必烈說明了實情。
至元二十四年四月乃顏公開造反，宣布不再做大汗的臣屬，並且遣同北叛王海都聯絡，雙方約定從東、西兩方麵夾攻忽必烈，來爭取更多的利益。夥同乃顏叛亂的有：哈撒兒後王勢都兒、哈赤溫後王勝納合兒、火魯哈孫、合丹等。因為叛王乃顏距離和林及上都較近，又來自原先支持者陣營，忽必烈聞訊後，非常關注，馬上采取一些緊急措施。
在遼東方麵，忽必烈先下令轉運糧食賑濟女真、水達達部饑荒，減免二部是年賦稅，防止其卷入乃顏叛亂。又派使者傳旨諭北京等處宣慰司：禁止同乃顏所部來往。同時命令遼東道宣慰使塔出率領當地軍兵一萬，同皇子愛牙赤共同抗敵。
在漠北方麵，忽必烈派遣近侍阿沙不花說服諸王納牙勿與乃顏連兵反叛，瓦解叛王的暗中勾結。又加速命令北安王那木罕為首的漠北戍軍抽調兵馬，部署在乃顏與海都之間的要塞關口上，讓兩方失去聯係。當時，勝納合兒隨從北安王戍守漠北部。樞密副使、欽察軍將土土哈說服主將朵兒朵海，拒絕出席宴請，又截取了乃顏通謀勝納合兒的秘使，上報朝廷。忽必烈立刻命令勝納合兒自西道入朝。
闊列堅後王也不幹舉兵東去，同乃顏反叛應和。北安王那木罕命土土哈等率兵急行軍七晝夜，渡土剌河，在孛怯嶺將也不幹擊敗。
這就粉碎了乃顏企圖以漠北部分諸王做內應，同海都東、西配合，攻打蒙古根本之地的戰略計劃。
忽必烈不顧年老力衰和關節疼痛，毅然決定親征乃顏。他甚至發誓說：“如果他不能得勝而去處死那兩個不忠的叛逆，就再也不回到他的領土了”。
忽必烈用了二十二天的時間快速調集了上都、大都附近的大批軍隊（馬可波羅說，數量達四十六萬），親自率領。而且都是秘密進行，除了“禦前會議”人員之外，竟沒有人知道調集兵馬的工作。這些軍隊包括：五投下蒙古軍團與漢軍諸衛軍等。
忽必烈所調集的首先是兀魯兀、忙兀、弘吉剌、劄剌兒、亦乞列思五投下軍團。
忙兀部博羅歡主動向忽必烈請求東征，忽必烈賞他介胄弓矢鞍勒，讓他率領
“五諸侯兵以行”。這裏的“五諸侯兵”，也就是五投下軍團。除忙兀部軍之外，弘吉剌部萬戶帖木兒率所部脫憐千戶；不隻兒等征乃顏多次獲勝，兀魯兀部的慶童帶病隨軍征戰，亦乞列思部脫別台、劄剌兒部碩德、忽憐等也在出征的名列當中。
依照博羅歡的說法，五投下的領地和民戶，略多於乃顏等東道諸王，“惟征五諸侯兵”，足可以對付乃顏。話雖然有些過分，但五投下軍團充當征乃顏的主力之一，是實實在在的。
第二年三月，兀魯兀、亦乞列思、劄刺亦兒等部探馬赤軍又下令自懿州東征。
此探馬赤軍是由上述五投下所抽調兵士混編的軍團，很明顯五投下軍互相有著密切的聯係。
其次是諸衛漢軍及怯薛軍團。元初，漢軍組成的侍衛親軍主要是右、左、中三衛，到元十六年（1279 年），又選平宋漢軍精銳等增置前、後二衛，一起叫作五衛侍衛親軍。
啟程征乃顏之前，忽必烈對蒙古將校同叛軍陣前立馬相向對話，往往釋兵仗不戰，逡巡退卻等狀況，非常焦慮。於是，他接受南入官僚葉李及伯顏的提議，命董士選與李庭統率“諸衛漢軍，從帝親征”。
此“諸衛漢軍”，有的場合又叫作“漢人諸軍”。當時在上都與大都附近駐戍的“漢人諸軍”，大抵是五衛侍衛親軍。因此，“諸衛漢軍”與“漢人諸軍”，其實是一樣的。包括前衛在內的五衛侍衛親軍，估計都抽調精銳參與了從征乃顏。
這也正符合侍衛親軍“掌宿衛扈從……國有大事，則調度之”的職責。
誠然，此時的“諸衛漢軍”及將領並一定都是漢人，阿速人玉哇失就以前衛親軍都指揮使率所部阿速軍充當征乃顏的先鋒。
怯薛宿衛士扈從忽必烈親征的不很少見。木華黎後裔脫以“直宿衛”，率家奴數十人從征；阿沙不花以千率昔寶赤之眾從行到。元二十四年（1287 年）七月十六日，忽必烈車駕抵達合刺合之際所頒的聖旨，依然寫有“安童怯薛第一日”
的字樣。表明四怯薛是按照舊例扈從忽必烈親征乃顏的。
除了這個，哈撒兒後裔八不沙及按隻吉台後裔也隻裏等個別東道宗王，站在忽必烈政權一邊。八不沙所部軍隊還在王府司馬孛蘭奚率領下跟隨忽必烈親征。
孛蘭奚本人“躍馬陷陣，斬其旗，所向披靡”，深得忽必烈的喜歡。
出發前，忽必烈曾讓嶽鉉靳、德進等占星術士替他“揆度日時，占候風雲”，預卜此戰的勝負吉凶，得到吉利預言後，才發兵。同乃祖成吉思汗一樣，忽必烈對占星家很迷信。元初，劉秉忠能得到認可，很大程度上是因為他占卜、推步等方麵的技能。嶽鉉就是劉秉忠推薦給忽必烈的。忽必烈讓占星家預卜征乃顏戰爭勝負，完全符合忽必烈的口味。
為了給元軍運軍糧，忽必烈曾命令運糧萬戶羅璧從海道向遼陽運送糧食。運糧舟船經渤海，入錦州小淩河，到達廣寧十寨，為軍糧提供了保障。
五月十二日忽必烈從上都出發，中途經過應昌，麾師東北方向的乃顏領地。
禦史大夫玉昔帖木兒奉命總領蒙古軍先行。六月三日至撒兒都魯，同叛軍大戰，又進軍哈剌河，十三日攻占乃顏中心失剌斡耳朵。
關於忽必烈與同顏軍隊的激戰，《馬可波羅遊記》作了大量描述：
大可汗率領全隊人馬前進，二十天後到達一個平原，乃顏和他的四十萬騎軍已經在那裏駐紮了……大可汗在四個象背上所負的小樓中，站在小山上，左右圍以弓弩手。旌旗飄揚，旗上有日月形象，高插空中，四處可見。這四隻象都蓋以極厚的熟牛皮，牛皮上麵又蓋著絲與金製的布。他的軍隊排列成三十隊。每一隊有一萬人，全都帶著弓箭。大可汗分自己的兵力為三組，兩翼展開很長……在每隊前麵。有五百帶弓與短矛的步兵……每當騎兵衝鋒時，那步兵就跳到靠他最近的馬的臀上，坐在騎兵的後麵，兩人共同前進。當馬不走時，他們跳下馬來，用他們的長矛去刺殺敵人的馬……大汗這樣排列他的人馬成為很多分隊，來包圍乃顏的營塞，要和他去決鬥……以後人就可以看見與聽到很多樂器聲音作起來了（尤其是那二弦的樂器，有最愉快的聲音）也能聽到很多喇叭的吹聲，和許多的高唱。因為你們必須知道韃靼人的風俗如此。當他們已經擺布與排列成隊伍，在去打仗以前，他們一定要聽到領袖的罐鼓聲……當雙方都預備充足後，大可汗的罐鼓發出了聲音。先在右翼，後到左翼。罐鼓的聲音開始發作，所有阻滯即刻停止，他們用長矛、弓箭、鎚矛與長槍（後者是很少的），衝上前去廝殺。但是兵都有強弩與許多其他的武器……這戰爭開始，沒有人性的戰爭的開始。現在就可以看見箭的飛射，像雨點一樣落下。現在又可以看到騎士和馬倒在地上死了……奮勇戰鬥從早到午……最後，大汗得勝了。當乃顏和他的戰士，看見自己無力戀戰，於是他們開始逃遁。但是這也不能改變戰局。因為乃顏已被捉了。所有他的
達官與臣民，全部歸降。
以上與乃顏軍隊激戰的許多情節，幾乎和漢文及波斯文史籍是一樣的。
忽必烈乘象輿親征，《嶽鉉第二行狀》雲，忽必烈汗“親禦象輿以督戰，意其望見車駕必就降”。沒料想到“乃顏悉力攻象輿”。拉施特《史集》也說：“他（忽必烈）盡管關節酸痛，人老了，仍然坐在象背的轎子裏出發了”。
如忽必烈立於小山之上，《元史》卷一百一十九《脫脫傳》載：“到元二十四年，（脫脫）從征乃顏，帝駐蹕於山巔，旌旗蔽野”。拉施特《史集》又說：“當接近了合罕軍隊潰逃的地方之後，載著轎子的象被趕至一個山丘頂上”。
如陣前飛箭如雨，《嶽鉉第二行狀》雲：“鋒既交，兩陣矢急射，幾蔽天”。
《元史·董士選傳》也說：“乃顏軍飛矢及乘輿前”。王惲也有“囂紛任使前，萬矢飛攙槍”的詩句。
如戰爭殘酷與陣亡甚多，王惲詩又雲：“僵屍四十裏，流血原野腥”有所不同的是，漢文史書說，元軍先後在撒兒都魯、失剌斡耳朵及不裏古都伯塔哈山等處同乃顏叛軍交戰三次，馬可·波羅好像是一起記錄了下來。
在這三次戰鬥當中，忽必烈親臨陣地，經受風險的是撒兒都魯遭遇戰。撒兒都魯和叛軍黃海最先遭遇交戰的是都萬戶閣裏鐵木兒所部。忽必烈乘象輿隨而進到這個地方，一則是因為忽必烈年邁無力和騎馬困難，二則也寓有以大汗象輿親臨督戰與威懾敵軍的意思。
誰料突然遇到叛軍將領塔不台六萬軍士猛烈攻擊，投入兵士敷超過了元軍。
叛軍不僅未被震懾，更加瘋狂起來，他們射來的箭支甚至直抵忽必烈象輿前。博羅歡所率的五投下蒙古軍在兩軍陣前一度有敗跑的痕跡。情況危急，忽必烈將象輿退至一小山丘，後來又改乘馬匹。幸而依賴漢軍將士奮力以步卒和射士抵禦，才阻止進攻。夜晚到來時，元軍以兵車環繞為營衛，嚴加防守。
半夜，李庭率壯士十人，持火炮突襲敵陣，叛軍非常害怕，混亂中自相殘殺。
此時，洪茶丘所率三千高麗漢軍又裂裳帛為旗幟，斷馬尾為旄飾，張設疑兵，掩映林木，叛軍見其狀，以為是官兵大至，慌忙敗逃。
在這次親征之中，大汗的怯薛近侍也披掛上陣，拚死奮戰。撒蠻之子脫脫、木華黎後裔以宿衛士隨從忽必烈征乃顏，兩軍列陣，還沒有等罐鼓響起，就率家奴數十人疾馳陣中，攻擊敵軍，所向無故。忽必烈在象輿中望見此狀，非常高興。
又特意遣使者慰勞，且召脫脫回還，囑咐道：“卿勿輕進，此寇易擒也”。忽必烈看到脫脫所持刀已折斷，馬也中箭，頗有感慨地對近臣們說：
“撒蠻不幸早死，脫脫幼，朕撫而教之，常恐其不立，今天能如此，撒蠻可謂有子矣”。於是，親自解下自己的佩刀及所乘馬匹，賞給脫脫。
乃顏自失剌斡耳朵撤出之後，向東逃到不裏古都伯塔哈山。玉昔帖木兒率領蒙古軍與李庭等漢軍合兵並進，乘勝追擊，展開了一場激烈的戰爭。阿速人玉哇失所率前衛侍衛親軍充當先鋒，陷陣力戰，在後續部隊的支援下，大敗叛軍。乃顏逃逸，最終在失列門林被元軍擒獲。
忽必烈聽見乃顏被擒的消息之後，馬上下令將他處死。其方式仍然遵循蒙古人處死貴族的傳統，即“緊緊地捆紮在地毯裏麵，放在地上亂滾和到處擊打，然後死去”，“不允許皇帝宗係的血灑在地上，或叫太陽或空氣看見”。
忽必烈打完勝仗回到上都，一起出征的樞密院事洪君祥，依次編輯出征期間的車駕起居，撰為《東征錄》。
赤後裔哈丹等乃餘黨仍然在大興安嶺東西兩側帶領殘將與軍打仗，殃嫩江、黑龍江、遼河和高麗地區。忽必烈派遣皇孫鐵穆耳和禦史大夫玉昔帖木兒率軍征討，經過大概四年的戰爭，最後平息了這場叛亂。
忽必烈還嚴肅處理了參與叛亂的乃顏部眾及領地的整頓。首先瓜分他的國民。大多乃顏部眾被沒人國家版籍，有些被強行遷徙江南充軍。然後劃分他們的國土。忽必烈特意從西北遷來兀速、憨哈納思、乞裏吉思三部屯駐於乃顏故地，親自賜名肇州，立宣慰司管轄。忽必烈還親自吩咐首任宣慰使劉哈剌八都魯說：
“從這裏一直往北，就是故地日阿八剌忽者，產魚，吾今立城，而以兀速、憨哈納思、乞裏吉思三部人居之，名其城日肇州。汝往為宣慰使”。
盡管沒有參與叛亂的乃顏親族成員乃蠻帶等繼續能受到優待，但曾經龐大的東道諸王兀魯思已不存在了。
根據馬可波羅所記述，乃顏叛軍的軍旗上綴有基督十字架徽記，他的軍隊中有大量基督徒這也是完全可能的。蒙元時，蒙古諸部乃蠻、中克烈、汪古等部族信仰聶思脫裏教的很多。而成吉思汗之侄按隻吉歹所封三千戶中有相當數量的乃蠻人。乃顏軍隊基督教信仰，很可能是由他們傳播開來的。