在北伐軍橫掃中原、直逼大都的時候，元軍卻在因皇位的爭奪而忙於內戰。待潼關失守，元順帝才慌忙調集正內戰不休的擴廓帖木兒（王保保）、李思齊的隊伍，南下迎戰。但腐敗的元軍根本沒有戰鬥力，逢戰必潰。元順帝眼見大勢已去，深夜帶著後妃和太子狼狽逃往上都（今內蒙古多倫）。第二年八月，徐達統領大軍攻進大都，統治中國達97年的元朝政權宣告敗亡。
接著，徐達、常遇春乘勝揮兵前進，攻占了北方諸省。洪武四年（公元1371年），朱元璋又遣水陸兩軍，平定了四川。洪武十五年（公元1382年）平定了雲南。洪武二十年（公元1387年），元朝丞相納哈出降遼東。至此，除漠北新疆外，統一全國的大業已基本實現。
至正二十七年（公元1367年）七月，在朱元璋興致勃勃地與熊鼎等文臣研究慶典雅樂時，李善長便率群臣上表，勸元璋即皇帝位。朱元璋認為時機尚不成熟，“一統之勢未成，四方之途尚便”，而沒有采納。到了十二月，在戰場上大局已定時，李善長又率文武百官奉表勸進。朱元璋自謙說：自己“功德淺薄，自愧弗如，還不足以當此造福萬民的皇帝重任”，而再一次推辭不就。第二天，李善長再率百官懇請，說道：“殿下謙讓之德，已經著於四方，感於神明。願為生民百姓的利益著想，答應群臣的要求。”朱元璋終於同意登基做皇帝了。
至正二十八年（公元1368年）正月，正當北伐軍勝利攻克山東的時候，40歲的朱元璋在文武百官的歡呼聲中，於應天正式登上帝位，國號大明，建元洪武，以應天（今南京）為都城。朱元璋立馬氏為皇後，長子朱標為皇太子。仍以李善長、徐達為左右丞相。就這樣，做過牧童、窮和尚的朱元璋，經過艱苦奮鬥，終於成為我國曆史上繼劉邦之後又一位出身布衣的開國君主。
嚴刑峻法皇權專製
凡事冷靜，是朱元璋成功的一大秘訣。越是打了勝仗，越是辦事順利，他的頭腦就越清醒，就越是能從中捕捉到可能發生的隱憂隱患。現在袞冕登極，實現了多年的願望，他自然處在極度的興奮當中，不過他很快就從激動的情緒中平靜下來。即位第二天，他就告訴身邊侍臣，說：“你們知道，創業之初是怎樣的困難，而不知道守成會更加困難。”第三天，在奉天殿內外大宴群臣時，他又專門講了保持憂患意識的重要性，說：“處天下者，當以天下為憂；處一國者，當以一國為憂；處一家者，當以一家為憂。身擔天下國家之重，不可頃刻忘卻警畏。”
大明王朝建立的前夕，明太祖朱元璋將文武百官請到自己的身邊，給大家出了個題目：元朝為什麼會迅速土崩瓦解？不久將誕生的新王朝當務之急是什麼？請大家各抒己見。高參劉基首先進言：“宋元以來，寬縱日久，當使紀綱整肅，然後才能實施新政。”
朱元璋感到言之有理，也深感大明朝的當務之急，應是製定法律，以法治國。根據朱元璋的命令，法律的製定工作加緊進行，到洪武三十年（公元1397年）正式頒布了幾經修改的《大明律》。《大明律》簡於《唐律》，嚴於《宋律》。《大明律》規定“謀反”、“謀大逆”者，不管主、從犯，一律淩遲，祖父、父、子、孫、兄弟及同居的人，隻要年滿16歲的都要處斬。對官吏貪汙，處罰也特別重。犯有貪贓罪的官吏，一經查清，一律發配到北方荒漠中充軍。官員若貪汙贓銀60兩以上，將被處梟首示眾、剝皮實草之刑。命在各府州縣衙門左側設皮場廟，就是剝皮的刑場，貪官被押到這裏，砍下頭顱，掛到竿子上示眾，再剝下人皮，塞上稻草，擺到衙門公堂旁邊，用以警告繼任的官員。
朱元璋對自己製定的法律，滿懷信心，帶頭實行，而且執法相當嚴厲，這在中國古代封建皇帝中是少有的。他的女婿、駙馬都尉歐陽倫，憑著自己是馬皇後親生女兒安慶公主的丈夫，不顧朝廷的禁令，向陝西販運私茶。後來河橋巡檢司的一位小吏向朱元璋告發了此事。朱元璋立即下令賜死歐陽倫，同時還發了一通敕令，表揚那位小吏不畏權貴的鬥爭精神。朱元璋惟一的親侄、開國功臣朱文正違法亂紀，朱元璋也毫不留情廢了他的官職。開國功臣湯和的姑夫自以為有硬邦邦的靠山親戚，就隱瞞常州的土地，不納稅糧，朱元璋也將他依法處死。
朱元璋當皇帝的30年中，還公開鎮壓了幾起大貪汙案，其中最大的是郭桓案。郭桓案發時為戶部侍郎，洪武十八年（公元1385年），禦史餘敏等告發北京承宣布政使司、提刑按察使司的官吏李或、趙全德等人，夥同郭桓等人貪汙舞弊，吞盜官糧。朱元璋抓住線索，命令司法部門依法嚴加追查。這個案子後來又牽連到禮部尚書趙瑁、刑部尚書王惠迪、兵部侍郎王傑、工部侍郎麥誌德等高級官員和許多布政使司的官員，貪汙盜竊的錢折成糧食達2400多萬石。案件查清後，朱元璋下令將趙瑁、王惠迪等人棄屍街頭，郭桓等六部侍郎及各地方布政使司以下的官員有上萬人被處死，有牽連的官吏幾萬人被逮捕入獄，嚴加治罪，各地卷入這個案件的下級官吏、富豪，被抄家處死的不計其數。