至元二十一年（1284），那木罕獲釋回朝，忽必烈改封他為北安王，仍命出鎮嶺北；至元二十四年（1287），設置王傅，掌管軍需及本位諸事。在此前後，又派真金長子甘麻剌到北邊防鎮。這時海都、篤哇勢力極盛，不斷進犯畏兀兒地區和按台山一帶；東道諸王乃顏等人叛跡漸露，而且有暗中勾結嶺北和西道諸王的跡象。這便是忽必烈以兩親王同鎮嶺北的原因所在。至元二十五年（1288），海都乘元朝集中兵力（包括嶺北守軍）平定乃顏之亂的時機，越按台山而東，次年，敗甘麻剌於杭海嶺，進據和林。忽必烈立即統兵親征，收複和林，留知樞密院事伯顏鎮守和林，輔佐那木罕，甘麻剌則召還。
至元二十九年（1292），北安王那木罕死，忽必烈改封甘麻剌為晉王，複命出鎮嶺北，統領成吉思汗四大斡耳朵及北方諸軍和蒙古本土。《史集》所載授予甘麻剌統領之地包括哈剌和林地區，赤那思、昔寶赤、斡難河和怯綠連河地區，薛良格河和海押立，成吉思汗大禁地（即不兒罕山），以及吉利吉思等地。甘麻剌所統之地幾乎囊括全部蒙古本土及其以北地域。這些地區內的諸王、貴戚、勳臣所部軍民，均受晉王節製。元貞二年（1296），成宗曾命合赤溫後王也隻裏、哈撒兒後王八不沙、別裏古台後王甕吉剌帶、斡赤斤後王也裏慳等一道駐夏於晉王怯魯剌之地，這次駐夏即是一次以晉王為首的大聚會。
晉王駐守怯綠連河上遊成吉思汗大斡耳朵之地，置內史府，秩從二品，設內史、中尉、司馬、斷事官等官屬，並在大都置分司；原北安王王府官並轉屬晉王。按元朝製度，蒙古人的刑名、詞訟、婚姻、驅良等事，歸大宗正府管理，因此晉王所部蒙古人案件，即由大宗正府派劄魯忽赤前往，會同晉王內史審理，重刑需稟報晉王決斷。
大德六年（1302）甘麻剌死，子也孫鐵木兒嗣為晉王。至治三年（1323）也孫鐵木兒即皇帝位，泰定元年（1324），以次子八的麻亦兒間卜嗣晉王位。次年，又命第四子允丹藏卜出鎮嶺北。致和元年（1328），擁戴文宗的軍隊打敗擁戴泰定帝太子阿剌吉八的上都集團，八的麻亦兒間卜適在上都，城陷後死。從此晉王甘麻剌這一家失去了統領嶺北蒙古軍民的地位。
就在甘麻剌出鎮的次年（至元三十年），忽必烈遣其孫鐵穆耳（真金第三子）撫軍北邊，以真金的皇太子寶授之，使具有統率諸王、諸軍的權力。這時，海都勢力雖已被逐出嶺北，但力量還很強大，元朝以大量軍隊防守按台山，稱海沿邊之地，除嶺北諸王之軍外，還有安西王阿難答所部軍、諸衛親軍和汪古等部軍，與諸王阿隻吉、出伯所部防守西邊的軍隊連為一線。因此特命鐵穆耳以皇太子身份為諸軍最高統帥，以便統一指揮，其地位在晉王之上。至元三十一年忽必烈死，鐵穆耳回朝繼位，是為成宗，以其叔寧遠王闊闊出代總邊軍。