路置總管府，長官為達魯花赤、總管，又有同知、治中、判官等。至元二十年定製，十萬戶以上或雖不及十萬而地當衝要者為上路，以下者為下路。
府有直隸都省和隸行省或宣慰司的不同，也有統州縣與不統的差異。府設達魯花赤和知府或府尹。
州縣也以戶數多少為差等。至元二十年，定五萬戶以上者為上州，三萬戶以上者為中州，不及萬者為下州。上州置從四品達魯花赤、州尹，六品同知和七品判官；中州置正五品達魯花赤、知州，從六品同知和從七品判官；下州置從五品達魯花赤、知州，正七品同知和正八品判官。
三萬戶以上者為上縣，一萬戶以上者為中縣，一萬戶以下者為下縣。上縣秩從六品，有達魯花赤、尹、丞、簿、尉各一員；中縣秩正七品，不置丞；下縣秩從七品。
此外，在遠離行省中心的地區，又置宣慰司，“掌軍民之務，分道以統郡縣，行省有政令則布於下，郡縣有請則達於省。有邊陲軍旅之事，則兼都元帥府，其次則隻為元帥府”。宣慰司置使、同知、副使、經曆、都事等。“其在遠服，又有招討、安撫、宣撫等使，品秩員數，各有等差”。
蒙古統治者最重軍事，元朝的軍製卻最為混亂。時人記載：“本朝最偏重者無若軍政，最紛亂者無若軍政”，“大無綱紀，細無紀目……分隸頻碎，源委隔絕，棼絲沸羹，互相爭奪。內立樞府兵部，無簿籍之可尋；外設行省、統軍萬戶府，無一定之行伍。”至於軍隊的數目，元朝官員中了解者也為數極少。當時，“天下軍馬總數目，皇帝知道，院官（指樞密院官）裏頭為頭的蒙古官人知道；外處行省裏頭軍馬數目，為頭的蒙古省官知道”。“更這邊關機密，不合交多人每知道”。
早期，大蒙古國的軍隊除大汗的怯薛外，有諸王、駙馬、功臣、千戶的屬民所組成的軍隊。凡有征伐，依大汗的征調出兵。如拔都西征、旭烈兀西征、忽必烈征大理等役，都由東西道諸王派子弟和屬下軍士參戰。而攻堅和鎮戍各占領地區，又有探馬赤軍。隨著征服範圍的擴大，各被占領地區的男丁也成為國家武裝力量的來源，故有漢軍、新附軍（由南宋降軍改編的軍隊）等名目。
按兵種分則有騎兵、步兵、水軍、炮手軍等類。
元朝的軍事防衛可分為兩大係統：保衛皇帝和京畿的宿衛係統和鎮守全國各地的鎮戍係統。
早期，大汗的宿衛由怯薛負責。世祖時，建立侍衛親軍，而怯薛之製不廢。
中統元年（1260），“諭諸路管軍萬戶，有舊從萬戶三哥（指史天澤）西征軍人，悉遣至京師（開平）充防城軍”和“征諸道兵六千五百赴京師宿衛”之事，可能是忽必烈創建侍衛軍之始。二年（1261），任董文炳為侍衛親軍都指揮使；三年（1262），命董文炳共領武衛軍事。至元元年（1264），武衛軍正式改為侍衛親軍，八年，親軍擴充為左、右、中三衛。到至元末，忽必烈共設置過侍衛親軍三十餘衛。侍衛親軍設都指揮使，品秩與萬戶相當（正三品）。侍衛親軍由蒙古、漢軍和新附軍組成，遷入內地的色目人，如康裏、阿速、欽察等後來也有被編入侍衛親軍者。
蒙古、探馬赤軍的防衛重點，主要是腹裏地區，南至河南淮北，北至遼東以及西北、四川等地。淮河以南的廣大地區，主要由漢軍和新附軍鎮戍。
此外，忽必烈即位後，與西北諸王的軍事對抗日益激烈，南方各族人民的反抗鬥爭也此起彼伏，為控扼邊徼禁喉之地，常遣皇子鎮守邊境。如北平王那木罕鎮守阿力麻裏、和林，寧遠王闊闊出鎮守漠北，安西王忙哥剌鎮守京兆和察罕腦兒，西平王奧魯赤鎮守吐蕃，雲南王忽哥赤鎮守雲南等。
諸王、公主和功臣在漢地的分地，是封建製早期的領主製，建立在封建地主製經濟和中央集權的郡縣製地區的分封製不能不受環境的影響而有所變通。耶律楚材在太宗朝提出的五戶絲製的實質就是由地方政權機構州縣行使治理權，而由國家將封地內的部分稅收頒賜給領主。太宗朝由於種種幹擾未能認真貫徹執行，至世祖定製後，封地分別被納入州縣，原則上由地方政權機構管理，領主得自選任達魯花赤監臨。諸王則可由皇帝批準置王府，王傅由朝廷指派。漠北諸王封地則由諸王自治，而統以嶺北行省。
名家回眸
行省製度的創立，對後世產生了深遠的影響，它引出了綿延至明清以及近代的中央集權新模式。對於元朝實行的行省製度，中國曆史學家錢穆先生在《中國曆史政治得失》中評論說：說到行省製度的濫觴其實是元代中央集權高層統治之計，“行省”其實是“行動中的書省”，行省長官是中央政府（中書省）的代表，是由上而下的權力授予，完全沒有中央政府與地方政府平起平坐的意思，沒有地方自治的概念，沒有權力分讓的安排。
元世祖對儒士的重用