不久，陳友諒果然統領大軍進擊應天府。朱元璋部將紛紛請求迎戰，被朱元璋製止，他告訴眾將士，待降雨後再出擊。須臾，果然大雨傾注，將士們奮力廝殺，水陸夾擊。陳友諒大敗逃回江州（治今江西九江）。朱元璋所部乘勝收複太平，進而攻占安慶（今屬安徽）、信州。陳友諒的篡權已大失人心，及其戰敗，原徐壽輝舊部將領乘機紛紛叛離，投奔朱元璋。
至正二十一年（1361）八月，朱元璋於江州大敗陳友諒軍，陳友諒沿江逃至武昌（今屬湖北）。朱元璋軍占據撫州（治今江西撫州西）。二十二年（1362）正月，陳友諒部屬、江西行省丞相胡廷瑞獻龍興府（今江西南昌）投降。朱元璋接管此城，更名為洪都府，返回應天府時，留下鄧愈領兵戍守。然而不久，降將反叛，洪都失陷，鄧愈敗逃應天府。
四月，徐達領兵收複洪都，派朱文正、趙德勝、鄧愈率兵鎮守。朱元璋在江南的勢力日趨壯大，令元朝政府坐臥不安。十二月，元帝遣尚書張昶經海上至慶元，授朱元璋江西行省平章政事，企圖以此收買、招撫，但遭到朱元璋的斷然拒絕。
至正二十三年（1363）二月，張士誠遣其將呂珍攻安豐（今安徽壽縣），殺紅巾軍首領劉福通。朱元璋統兵救援，擊退呂珍，救出韓林兒，安置於滁州（今屬安徽）。趁朱元璋北上救援之機，陳友諒趕製樓船數百艘，領兵號稱60萬，包圍洪都府。一時間，吉安（今屬江西）、無為（今屬安徽）等州縣相繼陷落。洪都守將朱文正等率領兵士堅守城池長達85天。使朱元璋得以集結兵力，趕赴救援。陳友諒得知朱元璋親自領兵，隻得放棄圍攻洪都，退至鄱陽湖迎戰。雙方出動水軍，激烈交戰，朱元璋募敢死之士，火攻陳友諒。
陳友諒中流矢身亡，其部將張定邊護衛其子陳理逃奔武昌。
至正二十四年（1364）正月，朱元璋稱吳王，建置百官，以李善長為右相國，徐達為左相國，常遇春、俞通海為平章政事，立其子朱標為世子。
二月，親統大軍征伐武昌，陳理投降，漢亡。隨後，諸將分路征討，平定割據南方的諸勢力和紅巾軍。至二十五年，唯有張士誠一支勢力最強的割據武裝尚未剿滅。時張士誠據有南至紹興（今屬浙江），北達濟寧的大片地域。朱元璋令徐達、常遇春先籌劃攻取淮東。隨後於高郵大戰張士誠軍。
至正二十六年（1366）五月，朱元璋發布《平周檄》，為消滅張士誠製造輿論。張士誠高郵戰役後，南下占據平江府（今江蘇蘇州），並以此為都，據有富庶的長江三角洲地區。朱元璋令將士先攻取張士誠外圍據點，以孤立之，隨即雙方對峙於鎮江。張士誠屢戰屢敗，投降元朝，封為太尉。此後，張士誠與另一支割據勢力方國珍勾結，與紅巾軍為敵，八月，朱元璋以徐達為大將軍，常遇春為副將軍，率20萬大軍征討張士誠。十一月，包圍平江府。
在進攻和平定竊據江南的地方割據勢力的同時，朱元璋亦加快政權的建設。自至正二十六年起，改築應天城，修建新宮。設文武科取士，製定律令、禮儀、《大統曆》等。吳政權已初具規模。
至元二十七年（1367）九月，朱元璋所部攻克平江府，擒張士誠。隨後，大軍分兵兩路進攻割據浙江台、溫地區的方國珍。十一月，方國珍兵敗投降。逾年，元福建行省平章、占據閩中八郡的陳友定勢力亦遭覆滅，福建遂得以平定。江南地區大部為朱元璋勢力所據。
至二十八年（1368）正月，朱元璋於應天府即皇帝位；建國號大明，建元洪武。朱元璋即為明太祖。此時，元朝尚據有北方半壁江山；而兩廣、四川、雲、貴及福建等地尚有割據勢力。明朝建立後，朱元璋即著手進行統一全國的大業。
朱元璋將重點放在北伐上，同時分兵平定南方諸割據勢力。由徐達、常遇春率領的北伐軍自正月出征，由淮水入黃河，僅用3個月的時間，平定河南、山東，進逼大都（今北京）元順帝倉惶逃奔上都（今內蒙古正藍旗東）。八月，北伐軍攻占元大都。之後為掃除元朝殘餘勢力，北伐軍繼續兵進上都，元順帝北遁，於洪武三年（1371）四月病逝，殘部北退至和林（今屬蒙古）。自洪武元年至十四年，大明軍先後平定福建、廣東、廣西、四川、雲南，經過前後20年的南征北伐，明朝終於平定各地的割據勢力，消滅了元朝政權，基本實現了全國的統一。
注釋
①②③《明史）卷一《太祖紀一》。
④《明史）卷一三六《朱升傳》。
⑤《明史》卷一《太祖紀一》。
⑥《明太祖實錄》卷九。