鄱陽湖之役後，朱元璋的領土已擴大到長江中下遊的廣大地區。地廣兵多，局麵打開了。這樣，朱元璋在部下的再三勸說下，於1364年正月，在應天自稱吳王，設置百官，建中書省，以李善長為右丞相，徐達為左丞相。是年二月，朱元璋乘勝親征武昌，陳理舉國請降，漢政權滅亡，湖廣遂劃入朱元璋統治的版圖。
朱元璋滅亡了漢政權後，又開始向新的目標揮師進軍——消滅雄踞東方的張士誠。張士誠出身私鹽販子。其基幹隊伍也是一些鹽販子、鹽丁、中小地主和部分貧苦農民。他們由於不堪忍受元朝統治者的壓迫淩辱，奮起起義，作戰十分勇敢。但其領導集團沒有遠大目標，腐敗得很。朱元璋采取了先剪枝葉後除根本的策略，將張士誠外圍城市據點泰州、徐州、淮安等淮水下遊地區以及湖州(今浙江吳興)、杭州等地先後攻取，最後包圍了平江。
平江城十分堅固，一時難以攻克。朱元璋想起了幾年前海寧人葉兌獻的“銷城法”，便命令士兵在平江城四周築起長圍，搭架三層木塔，登上塔頂，由此城裏敵人的活動看得清清楚楚。他們又在塔頂架起弓弩火銃和鐵炮，日夜轟擊。經過10個月的激戰，平江被攻破，張士誠被俘。隨著朱元璋勢力的不斷擴大，深感龍鳳政權已成為其統一全國的絆腳石。因而決定踢開龍鳳政權自立，於是在進攻張士誠的同時，他陰謀殺害了小明王。從此朱元璋不再使用龍鳳年號，將1367改為吳元年。
朱元璋攻占了張士誠盤踞的長江下遊大片地區後，又製服了浙東的方國珍，平定了福建的陳友定，並乘勝南進，攻克廣東、廣西。在實現了陳四川、雲南外的整個南部中國統一後，朱元璋不失時機地調集精銳部隊實施北伐，同元朝封建政權展開最後的大決戰。
這時的元朝政權在紅巾軍連續的沉重打擊下，加之內部派係林立，矛盾重重，已是搖搖欲墜，日趨瓦解了。
至正二十七年(1367)十月，朱元璋派徐達、常遇春率師北伐。大軍出發前朱元璋親自製定了一整套周密的作戰計劃：先取山東，拆除大都的屏障；再揮師河南，剪除其羽翼；然後奪取潼關，占據門戶。如此一來，天下形勢全為其所掌握，最後進兵大都，元軍孤立無援，可不戰而克。
在北伐戰爭中，朱元璋提出了“驅逐胡虜，恢複中華，立綱陳紀，救濟斯民”的口號對深受民族壓迫的北方廣大民眾產生了很大號召力，廣大民眾紛紛響應，許多城池不戰而降。
很快北伐軍橫掃中原，直逼大都，元軍卻在因皇位的爭奪而忙於內戰。待潼關失守，元順帝才慌忙調集正內戰不休的擴廓帖木兒(王保保)、李思齊的隊伍，南下迎戰。但腐敗的元軍哪裏還有戰鬥力，逢戰必潰。元順帝眼見大勢已去，深夜帶著後妃太子狼狽逃往上都(今內蒙多倫)。第二年八月徐達統領大軍攻進大都，正式宣告統治中國達99年的元朝政權的滅亡。
接著，徐達、常遇春乘勝揮兵四進，攻占了北方諸省。1371年朱元璋又遣水陸兩軍，平定了四川。1382年平定了雲南。1387年元朝丞相納哈出降遼東。至此，除漠北新疆外，統一全國的大業已基本實現。
元至正二十八年(1368)正月，正當北伐軍勝利攻克山東的時候，40歲的朱元璋在文武百官的歡呼聲中，於應天正式登上帝位，國號大明，建元洪武，以應天為南京。立馬氏為皇後，長子朱標為皇太子。仍以李善長、徐達為左右丞相，就這樣，一個窮和尚，經過艱苦奮鬥，終於成為大明帝國的開國皇帝。
因為朱元璋出身農民，知道農民的辛苦，所以對百姓采取休養生息政策。洪武元年，他即位不久就召見各地來朝的府州縣官說：“天下剛剛平定，百姓財力困乏，就如初飛的小鳥，不可以拔掉它的羽毛，剛栽上的樹，不可以動搖它的根部，最重要的是休養生息。”
朱元璋吸取元朝的教訓，開始製定法律，就是很有名的《大明律》。
朱元璋對自己製定的法律，滿懷信心，帶頭實行，而且執法是相當嚴厲，這在中國古代封建皇帝中是少有的。他的女婿、駙馬都尉歐陽倫，憑著自己是馬皇後親生女兒安慶公主的丈夫，不顧朝廷的禁令，向陝西販運私茶。後來河橋巡檢司的一位小吏向朱元璋告發了此事，朱元璋立即下令賜死歐陽倫。
朱元璋當皇帝的30年中，還公開鎮壓了幾起大貪汙案，其中最大的是郭桓案。郭桓案發時為戶部侍郎。洪武十八年(1385)，禦史餘敏等告發北京承宣布政使司、提刑按察使司的官吏李彧(yù)、趙全德等人，夥同郭桓等人貪汙舞弊，吞盜官糧。朱元璋抓住線索，命令司法部門依法嚴加追查。這個案子後來又牽連到禮部尚書趙瑁(ｍàｏ)、刑部尚書王惠迪、兵部侍郎王傑、工部侍郎麥誌德等高級官員和許多布政使司的官員，貪汙盜竊的錢折成糧食達2400多萬石。案件查清後，朱元璋下令將趙瑁、王惠迪等人棄屍街頭。郭桓等六部侍郎及各地方政使司以下的官員有上萬人被處死。有牽連的官吏幾萬人被逮捕入獄，嚴加治罪。各地卷入這個案件的下級官吏、富豪，被抄家處死的不計其數。
為了加強對臣民的監視和控製，朱元璋專門設立了巡檢司。當時，全國各府縣的關津要衝之地，都由巡檢司負責把關盤查，緝捕盜賊，盤詰奸偽。百姓如果要到百裏之外去，事先必須辦理路引，否則就通不過關卡。
洪武十五年(1382)，朱元璋又正式把自己身邊負責警衛事務的親軍都尉府(前身是拱衛司)改為錦衣衛。秘密偵察大小官吏的活動，隨時向朱元璋報告社會上不公不法之事。同時，還授予錦衣衛以偵察、緝捕、審判、處罰罪犯的一切大權。在錦衣衛內設立了特殊的法庭和監獄，將錦衣衛變成正式的特務機構。
朱元璋在位的30多年間，特務多如牛毛，遍布街巷路途，嚴密監視著朝野內外、文武官員的活動，然後向朱元璋報告。
大學士宋濂一次在家設宴招待客人，第二天朱元璋問他，“昨天請客，喝酒了嗎?做的什麼菜?”宋濂如實做了回答。朱元璋笑道：“說得對，沒騙我。”
國子監祭酒寧訥一天在家暗生悶氣，偷偷監視他的特務竟把他這時的樣子畫了下來，上報皇上。朱元璋見了宋訥問道：“昨天你在家生什麼悶氣呀?”宋訥照實做了回答。他吃驚地問朱元璋如何知道此事?朱元璋將畫像遞給他，他展圖一看，方才醒悟，慌忙磕頭謝罪。還有一大臣一日無事，在家與妻妾玩麻將，無意中丟了一張二萬，怎麼找也找不著。第二天上朝，朱元璋問這個大臣昨天在家幹什麼，該大臣如實說是在家與妻妾玩牌，請皇帝恕罪。朱元璋聽後說：“卿不欺我，朕不怪也。”說完從袖中摸出一張二萬扔給了他。
這樣一來，文武百官不管是在朝還是回家後，個個小心，人人自危，時刻處在緊張的氣氛中。加強集權鏟除功臣
建國以後，朱元璋借鑒曆史上成敗治亂的經驗教訓，大刀闊斧地開始了以改革舊製、建立高度中央集權為目標的宏偉事業。
朱元璋的體製改革是首先從地方機構開始的。元朝地方設置的行中書省，是從中央的中書省分設出來的。職官的設置同中央中書省一樣，掌管著一個省的軍政、民政、財政和司法等大權，地位顯赫，權力很大。實際上一個行中書省，就是一個小獨立王國。朱元璋想要把地方的權利收歸中央。
在一番準備之後，朱元璋於洪武九年(1376)，下令廢除了地方上的行中書省，改設承宣布政使司，簡稱布政司。布政司設左、右布政使各一人。其權力範圍也隻限於民政和財政，按照皇上的意誌管理地方政事。當時全國共設13個布政司。同時，地方上還設置了管理軍事的都指揮使司和管理司法的提刑按察使司。三個機構彼此既各自獨立，又相互牽製，同時直接聽命於皇帝。從而把行中書省權力一分為三，改變了元代中央權力分散和地方權力過大的強枝弱幹局麵，使地方權力牢牢掌握在皇帝手中。
實現了對地方行政機構的改革之後，朱元璋又開始集中精力對中央政府機構，首先是總攬天下政事的中書省實行改革。本來中書省在中央的各個權力機構當中，位置最高。其行政長官左、右丞相，又負有統率百官之責，權力很大。明初的第一任左、右丞相分別是李善長和徐達。李善長為人處事，向來以小心謹慎著稱。徐達則較多時間是帶兵征戰在外。他們都沒有與皇上朱元璋形成大的矛盾衝突。但相位傳給胡惟庸之後，他獨攬大權，朱元璋不能容忍相權對君權的威脅，決心廢除丞相，把大權掌握在自己一個人手裏。
胡惟庸是定遠人，與開國第一號功臣李善長的有親戚關係，他依仗著李善長這個後台當上了左丞相。在朝中獨斷專行，官員升降、生殺大事，都自作主張，不向朱元璋請示；朝野內外的報告，凡對自己不利的全扣下來；想做官、升官的人，都奔走他的門下，收受金銀、絹帛、名馬、玩物不計其數。他四處網羅自己的黨羽，培植自己的親信，組織自己的小集團，打擊異己力量，稱霸天下。
一天，胡惟庸的兒子乘馬車在南京城裏招搖過市，不小心從車上跌下來摔死了，胡惟庸判車夫抵命，並處死了車夫。朱元璋知道後，十分氣憤，他非要胡惟庸償命不可，胡惟庸請求，向車夫家人賠償金帛以了此事。朱元璋堅決不準。胡惟庸聽了十分緊張，遂堅定了起事政變的決心。
洪武十三年(1380)正月，胡惟庸入奏，詭稱其住宅中井出醴(ｌǐ)泉，請朱元璋去觀看。朱元璋好大喜功，信以為真，也就匆匆駕出西華門。他正行進中，突然內使雲奇衝上蹕(ｂì)道，攔住車馬，慌忙中一時說不出話來。朱元璋以為不敬，即令左右侍衛棍錘亂下。頓時，雲奇右臂被砸斷，生命垂危。但他仍用左手直指胡惟庸的宅第搖晃。朱元璋猛然醒悟，急忙返駕登城，遠遠望見胡惟庸宅第中繞有兵氣，以此定胡惟庸謀逆，立即發羽林軍逮捕胡惟庸，將其抄家滅族。隨著明王朝的建立，昔日與朱元璋共同出生入死的將領都已封公封侯，爵高位顯。這些功高震主的將領不免做出恃功驕傲、仗勢欺人之事。為加強皇帝權威，同時顧慮太子朱標忠厚，鎮懾不住功臣名將，朱元璋決定借他們違法之機進行鎮壓。朱元璋又以與胡惟庸交通謀反的罪名殺掉了一大批功臣勳將，甚至連位居“功臣第一”的年邁77歲的李善長以及全家70多人也全部伏誅，整個胡案前後共殺掉3萬多人。
洪武二十五年(1392)，太子朱標病故。朱元璋立朱標之子朱允(ｗéｎ)為皇太孫。朱允炆年輕懦弱，朱元璋對此十分擔憂。為解除後顧之憂，洪武二十六年(1393)，朱元璋又興起藍玉獄。大將藍玉是洪武中後期的主要將領，作戰勇敢，戰功赫赫，被封為“涼國公”。但此人居功自傲，驕橫不法。朱元璋加以謀反罪名，興起黨獄，將藍玉斬首並抄斬三族，凡與藍玉關係密切的朝臣，坐黨者則夷滅。藍玉案先後謀殺15000人，功高位顯的元勳舊將幾乎殺個幹淨。這樣，朱元璋利用胡、藍之獄，前後10幾年共誅殺功臣45000人，其殘忍實千古所未有。
朱元璋宣布撤銷中書省，罷除丞相，提高吏、戶、禮、兵、刑、工等六部的地位。由六部分理朝政，直接對皇上負責。並且規定，後代皇帝不得再立丞相，大臣中如果有奏請再立者，處以重刑。就這樣所有的國事就落到了皇帝一個人身上。朱元璋在8天之內，要看內外諸司奏劄1660件，共計3991件事，也就是說平均每天要看或聽200多件報告，處理400多件事，平常人是難以承受這一繁重任務的。再加上激烈的政治鬥爭，使他憂慮江山萬世永固，也迫使他辛勤工作。
洪武三十一年(1398)六月，朱元璋病逝，正因為“勤政”，朱元璋成為曆史上為數不多具有遠見卓識的君主。他一生勤政愛民，實行休養生息的政策，減輕對人民的剝削。因為出生貧苦，深知物力為艱，因此大力提倡節儉，並以身作則、堅持一生。而且他還是一個勤奮好學的君主，從目不識丁到寫詩作賦，其恒心和毅力在帝王中是少見的。但他殘殺功臣，大興黨獄也實屬千古罕見，由此成為曆史上爭議頗多的帝王之一。
朱元璋火燒敵船
元朝末年，朱元璋率軍進攻盤據在江州的陳友諒。兩軍在鄱陽湖匕展開了水上大戰。陳友諒犯了一個致命的錯誤，將幾百艘戰船連在一起。因為朱元璋的戰船小，在陳友諒的大船麵前的確處於劣勢。朱元璋手下的將領郭興看見敵船相連，不由地聯想到從前周瑜火燒曹操的戰艦的典故來，於是他提出了火攻的建議，朱元漳聽罷拍手稱妙，當即下令作好準備。
郭興命令士兵紮束很多草人，手持武器，安置在七條船上，並在船上裝滿了火藥。七條“火船”乘東北風順風疾行，飛快地向陳友諒的戰艦駛去，即將進逼敵船時，郭興下令將船中的草人、火藥點燃。七條船頓時變成了火龍，並很快燒著了敵船。
陳友諒的數百艘戰船因為緊緊地連在一起，所以無法逃脫大火的蔓延，很快便被大火吞噬。陳友諒軍燒死、淹死的將士人數過半，朱元璋大獲全勝。