朱元璋建立明朝以後，為了強化封建專製主義，加強中央集權，對中央和地方的封建官僚機構，進行了一係列的改革。
在中央，明初設中書省，置丞相，統率百官，總理政務。大都督府管軍事，都察院與大理寺掌糾察、刑法。1380年（洪武十三年），朱元璋殺掉丞相胡惟庸之後，即廢除中書省，不再置丞相，而以吏、戶、禮、兵、刑、工六部分別整理全國政務曠軍事上，分都督府為五，管理衛所，負責軍隊的訓練與管理。有戰事則由兵部征調，派將軍統領出征；事成後則上所佩將印於朝，而官軍則各散歸本衛。司法上，由都察院司糾劾，刑部掌刑獄，大理寺主審查。有大獄則由三法司共同審處。這樣，朝廷的行政、軍事與司法人權被分割而隸屬於幾個獨立的機關分掌，以互相牽製，防止專權。這些機構的官員都直接向皇帝負責，重大事件，必須報請皇帝批準才能實行。
事權過分地集中於皇帝個人身上，必然使他窮於應付，而需要有人協助。1402年（建文四年），朱棣奪得皇位後，特命翰林侍讀解縉、編修黃淮、侍讀胡廣、修撰楊榮、編修楊士奇、檢討金幼孜、胡儼等7人入值文淵閣，參與機務，稱之為“內閣”。但他們官品不高，隻是皇帝的顧問。內閣也不置官屬，不能管轄諸司；諸司奏事也不向他們通知。仁宗繼位，因閣臣楊士奇、楊榮是東宮的舊臣，便升楊士奇為禮部侍郎兼華蓋殿大學士，楊榮為太常卿兼謹身殿大學士。他們不久都升任尚書。從此閣臣或加太師太保、尚書、侍郎仍兼學士、大學士銜，內閣職權漸重。英宗9歲當皇帝，朝廷大政都得由閣臣事先代擬詔令旨意。從此，內閣大學士雖無宰相之名，而有宰相之實。孝宗對閣臣更加尊重，在朝會時，也將閣臣的班位排在六部尚書之前。世宗信任嚴嵩，內閣大學士的權力與宰相完全相同。皇帝口述旨意，司禮監的秉筆太監用碟筆記錄（稱“批紅”），交給內閣，由內閣首席閣臣（稱“首輔”），依照“批紅”擬成詔諭（稱“票擬”），然後，再交皇帝批準頒布。所以首輔的權力又超過其他閣臣。因此，內閣閣臣中爭奪首輔權力的鬥爭經常發生。
在地方，1376年（洪武九年），廢除行中書省，把全國分為十三布政使司（俗稱省），設立承宣布政使司（簡稱布政司）、提刑按察使司（簡稱按察司）和都指揮使司（簡稱都司），合稱“三司”，分理地方政務。布政司，設左、右布政使各一人，下屬左、右參政等若幹人，執掌一省的行政事務，把朝廷的政令下達所屬府（州）縣。按察司設按察使一人，副使、僉事若幹人，掌一省的刑獄按察等事，凡有關官吏好壞，軍民利病，各種興革等，都可查問糾舉。但職權僅限於對布政司、府（州）縣的官吏“笞杖”以下的處罰，“徒、流”以上的處理，都必須交中央三法司審議。都指揮使司，是一省的軍事機構，設都指揮使等，管理本省的衛所。職權是訓練和管理地方衛所部隊，但沒有調遣權。平時，保衛地方政權，維護社會治安。遇有戰事，則聽從中央調動和指揮。
地方上布、按、都三司並立，分別掌管地方的行政、監察和軍事，互相製約，防止了地方專權的現象，達到了集權中央的目的。但也由此引起了三司相互掣肘、推諉，以致政權機器運轉不靈的弊端。明王朝為了改變這種狀況，又設置了巡撫、總督。
巡撫之名起於洪武時期，1391年（洪武二十五年），朱元璋派遣太子朱標以巡撫之名視察陝西地方。1421年（永樂十九年），朱棣派遣大臣分巡天下，了解軍民疾苦。1430年（宣德五年），朱瞻基派遣禦史於謙等6人，分別以侍郎的官銜巡撫山西、河南等省。這時的巡撫，還屬臨時派遣，“事畢複命”。沒有固定的地區和任期，連家屬也不準攜帶。1453年（景泰四年），因巡撫與都察院派往地方的巡按禦史不相統屬，時有矛盾。於是，朝廷加巡撫以都禦史職銜。世宗嘉靖年間，又以巡撫兼提督軍務，任期往往三、五、七年，或一二十年。管轄地區一省至數省不等。於是巡撫儼然成為某一地區總攬行政、監察和軍事的地方長官。原來地方三司長官的職權日小，變成了巡撫的屬員。
總督的設置始於英宗正統時，以兵部尚書王驥總督軍務，征麓川。後來在兩廣及三邊等邊境地方為了加強對防禦和鎮壓的統一指揮，又設置總督或總製。巡撫以下、總兵，都聽其節製。總督由朝廷派重臣擔任，綜理一省或數省的軍政事務，而且逐漸成為地方的專設官員，地位又在巡撫之上。
明朝廢宰相而又增設內閣大臣，廢行省丞相而又置總督、巡撫。廢而複設，並且一直為清代所沿襲，說明當時的政權設置本身存在有這樣一種需要。但是在廢、置之間，已有崇、卑的差別。宰相是百官的首領，內閣是皇帝個人的助手；行省是中樞在地方的分司，總督、巡撫隻是受派遣的地方官長。因此，無論閣臣或總督、巡撫，都是明代高度專製主義中央集權體製的一個環節。