鄱陽湖之役後，朱元璋的領土已擴大到長江中下遊的廣大地區。地廣兵多，局麵打開了。這樣，朱元璋在部下的再三勸說下，於1364年正月，在應天自稱吳王，設置百官，建中書省，以李善長為右丞相，徐達為左丞相。是年二月，朱元璋乘勝親征武昌，陳理舉國請降，漢政權滅亡，湖廣遂劃入朱元璋統治的版圖。
朱元璋滅亡了漢政權後，又開始向新的目標揮師進軍——消滅雄踞東方的張士誠。張士誠出身私鹽販子。其基幹隊伍也是一些鹽販子、鹽丁、中小地主和部分貧苦農民。他們由於不堪忍受元朝統治者的壓迫淩辱，奮起起義，作戰十分勇敢。但其領導集團沒有遠大目標，腐敗得很。朱元璋采取了先剪枝葉後除根本的策略，將張士誠外圍城市據點泰州、徐州、淮安等淮水下遊地區以及湖州（今浙江吳興）、杭州等地先後攻取，最後包圍了平江。
平江城十分堅固，一時難以攻克。朱元璋想起了幾年前海寧人葉兌獻的“銷城法”，便命令士兵在平江城四周築起長圍，搭架三層木塔，登上塔頂，由此城裏敵人的活動看得清清楚楚。他們又在塔頂架起弓弩火銃和鐵炮，日夜轟擊。經過10個月的激戰，平江被攻破，張士誠被俘。隨著朱元璋勢力的不斷擴大，深感龍鳳政權已成為其統一全國的絆腳石。因而決定踢開龍鳳政權自立，於是在進攻張士誠的同時，他陰謀殺害了小明王。從此朱元璋不再使用龍鳳年號，將1367改為吳元年。
朱元璋攻占了張士誠盤踞的長江下遊大片地區後，又製服了浙東的方國珍，平定了福建的陳友定，並乘勝南進，攻克廣東、廣西。在實現了陳四川、雲南外的整個南部中國統一後，朱元璋不失時機地調集精銳部隊實施北伐，同元朝封建政權展開最後的大決戰。
這時的元朝政權在紅巾軍連續的沉重打擊下，加之內部派係林立，矛盾重重，已是搖搖欲墜，日趨瓦解了。
至正二十七年（1367）十月，朱元璋派徐達、常遇春率師北伐。大軍出發前朱元璋親自製定了一整套周密的作戰計劃：先取山東，拆除大都的屏障；再揮師河南，剪除其羽翼；然後奪取潼關，占據門戶。如此一來，天下形勢全為其所掌握，最後進兵大都，元軍孤立無援，可不戰而克。
在北伐戰爭中，朱元璋提出了“驅逐胡虜，恢複中華，立綱陳紀，救濟斯民”的口號對深受民族壓迫的北方廣大民眾產生了很大號召力，廣大民眾紛紛響應，許多城池不戰而降。
很快北伐軍橫掃中原，直逼大都，元軍卻在因皇位的爭奪而忙於內戰。待潼關失守，元順帝才慌忙調集正內戰不休的擴廓帖木兒（王保保）、李思齊的隊伍，南下迎戰。但腐敗的元軍哪裏還有戰鬥力，逢戰必潰。元順帝眼見大勢已去，深夜帶著後妃太子狼狽逃往上都（今內蒙多倫）。第二年八月徐達統領大軍攻進大都，正式宣告統治中國達99年的元朝政權的滅亡。
接著，徐達、常遇春乘勝揮兵四進，攻占了北方諸省。1371年朱元璋又遣水陸兩軍，平定了四川。1382年平定了雲南。1387年元朝丞相納哈出降遼東。至此，除漠北新疆外，統一全國的大業已基本實現。
元至正二十八年（1368）正月，正當北伐軍勝利攻克山東的時候，40歲的朱元璋在文武百官的歡呼聲中，於應天正式登上帝位，國號大明，建元洪武，以應天為南京。立馬氏為皇後，長子朱標為皇太子。仍以李善長、徐達為左右丞相，就這樣，一個窮和尚，經過艱苦奮鬥，終於成為大明帝國的開國皇帝。
因為朱元璋出身農民，知道農民的辛苦，所以對百姓采取休養生息政策。洪武元年，他即位不久就召見各地來朝的府州縣官說：“天下剛剛平定，百姓財力困乏，就如初飛的小鳥，不可以拔掉它的羽毛，剛栽上的樹，不可以動搖它的根部，最重要的是休養生息。”
朱元璋吸取元朝的教訓，開始製定法律，就是很有名的《大明律》。
朱元璋對自己製定的法律，滿懷信心，帶頭實行，而且執法是相當嚴厲，這在中國古代封建皇帝中是少有的。他的女婿、駙馬都尉歐陽倫，憑著自己是馬皇後親生女兒安慶公主的丈夫，不顧朝廷的禁令，向陝西販運私茶。後來河橋巡檢司的一位小吏向朱元璋告發了此事，朱元璋立即下令賜死歐陽倫。