於是，朱元璋以徐達為征虜大將軍，統率全軍；以常遇春為副將軍，另以參將馮勝、右丞薛顯、參將傅友德各領一軍，全力北伐。
朱元璋再三申明軍紀，告誡出征將士，北伐不是攻城略地，而是平定中原、推翻元朝、解除人民痛苦。隨後還發布了由宋濂起草的告北方官吏和人民的檄文，文中提出“驅逐胡虜，恢複中華，立綱陳紀，救濟斯民”的口號，這對中原地區的廣大漢族人民具有很強的號召力；檄文還表示，對於蒙古人和色目人若願為新皇朝臣民，則與中原人民一樣看待。
北伐軍節節勝利，迅速攻下山東諸郡。至正二十八年(公元1368年)四月占領開封，平定河南，同時攻克潼關。八月，攻克元朝首都大都(今北京)，元順帝見孤城難守，於是帶著後妃太子慌忙棄城逃走，奔向漠北，統治中原長達九十九年的元朝滅亡。
在南征北伐不斷取得勝利的情況下，至正二十八（公元1368年）正月，40歲的朱元璋告祀天地，於應天南郊登基，建國號大明，改元洪武，以應天為南京。
經過十六年的征戰討伐，朱元璋終於實現了自己的夢想，從一個橫笛牛背的牧童、小行僧，成為明朝的開國皇帝。
1371年，明軍入川，夏主明升暗降，四川平定。1381年，朱元璋命傅友德、沐英、藍玉進攻雲南，次年攻破大理，基成上完成了南方的統一。1387年，馮勝、傅友德、藍玉奉命進攻遼東元朝殘將納哈出，納哈出無路可走，隻好投降，遼東平定。至此，除漠北草原和新疆等地外，全國已基本上統一。
休養生息
明朝建立伊始，中華大地經過近二十年戰亂的破壞，一片凋敝。對此情形，朱元璋實行了發展生產，與民休息的政策。1368年，朱元璋稱帝不久，外地州縣官來朝見，朱元璋對他們說：“天下初定，老百姓財力困乏，像剛會飛的鳥，不可拔它的羽毛；如同新栽的樹，不可動搖它的根。現在重要的是休養生息”。
1370年，朱元璋接受大臣建議，鼓勵開墾荒地，並下令：北方郡縣荒蕪田地，不限畝數，全部免三年租稅。他還采取強製手段，把人多地少地區的農民遷往地廣人稀的地區；對於墾荒者，由政府供給耕牛、農具和種子；並規定免稅三年，所墾之地歸墾荒者所有；還規定，農民有田五至十畝的，必須栽種桑、棉、麻各半畝，有田十畝以上者加倍種植。這些措施大大激發了農民墾荒的積極性。
除了民屯外，明初還有軍屯和商屯。軍屯由衛所管理，官府提供耕牛和農具。明軍士屯守比例是：邊地軍隊三分守城，七分屯田；內地軍隊二分守城，八分屯田。軍糧基本上自給自足。商屯是指商人在邊境雇人屯田，就地交糧，省去了販運費用，獲利更豐。商屯的實行，解決了軍糧問題，同時也開發了邊疆。
為了恢複和發展生產，朱元璋十分重視興修水利和賑濟災荒。在即位之初，朱元璋就下令，凡是百姓提出有關水利的建議，地方官吏須及時奏報，否則加以處罰。到1395年，全國共開塘堰40987處，疏通河流4162道，成績卓然。朱元璋出身農民，深知災荒給農民造成的痛苦，在他即位後，常常減免受災和受戰爭影響的地區的農民的賦稅，或給以救濟。
朱元璋還十分愛惜民力，提倡節儉。他即位後，在應天修建宮室，隻求堅固耐用，不求奇巧華麗，還讓人在牆上畫了許多曆史故事，以提醒自己。按慣例，朱元璋使用的車輿、器具等物，應該用黃金裝飾，朱元璋下令全部以銅代替。主管的官員報告說用不了很多黃金，朱元璋卻說，他不是吝惜這點黃金，而是提倡節儉，自己應作為典範。在朱元璋積極措施的推動下，農民生產熱忱高漲。明初農業發展迅速，元末農村的殘破景象得以改觀。農業生產的恢複發展，促進明代手工業和商業的發展。朱元璋的休養生息政策鞏固了新王朝的統治，穩定了農民生活，促進了生產的發展。
清除權臣
明初，官僚機構基本上沿襲了元朝，朱元璋逐漸認識到其中的弊病，於是進行了改革。
首先是廢除行省製。1376年，朱元璋宣布廢除行中書省，設立承宣布政使司、都指揮使司和提刑按察使司，分別擔負行中書省的職責，三者分立又互相牽製，防止了地方權力過重。
在軍事上，朱元璋廢除了管理全國軍事的大都督府，將其分為中、左、前、後、右五軍都督府，並和兵部互相牽製。兵部有權頒發命令，但是不直接統帥軍隊，都督府掌管軍隊的管理和訓練，但是沒有調遣軍隊的權力。這樣，軍權便集於皇帝之手。
在中央機構改革的重點是廢除丞相製。明初中書省負責處理天下政務，地位最高。其長官為左、右丞相，位高權重，丞相極易與皇帝發生矛盾，明朝時以胡惟庸任相後最甚。
胡惟庸是鳳陽定遠人，1373年由右丞相升任左丞相。胡門生故吏遍於朝野，形成一個勢力集團，威脅皇權。1378年，朱元璋對中書省采取行動。一天，胡惟庸的兒子騎馬在大街上橫衝直撞，結果跌落馬下，被一輛過路的馬車壓了，胡惟庸將馬夫抓住，隨即殺死。朱元璋十分生氣。十一月又發生了占城貢使事件。占城貢使到南京進貢，把象、馬趕到皇城門口，被守門的太監發現，報與朱元璋，朱元璋大怒，命令將左丞相胡惟庸和右丞相汪廣洋抓進監獄。但是，兩丞相不願承擔罪責，便推說接待貢使是禮部的職責，於是，朱元璋便把禮部官員也全部關了起來。
兩相入獄，禦史們理解了皇上的意圖，便群起攻擊胡惟庸專權結黨。於是，1380年，朱元璋以擅權枉法的罪名處死了胡惟庸和有關的官員，同時宣布廢除中書省，以後不再設丞相。
朱元璋以專權枉法之罪殺了胡惟庸後，胡案就成為他打擊異己的武器，以致受牽連而被殺者達三萬多人，最後太師韓國公李善長也受牽連，77歲的李善長全家被殺。
接著，朱元璋又於1393年殺掉功臣藍玉。藍玉是明朝開國大將，被朱元璋封為涼國公。1391年，四川建昌發生叛亂，朱元璋命藍玉討伐，臨行前，朱元璋麵授機宜，命藍玉手下將領退下，連說三次，竟無一人動身，然而藍玉一揮手，他們卻立刻沒了身影。這使朱元璋下決心要除掉藍玉。1392年的一天，早朝快結束時，錦衣衛指揮使參奏藍玉謀反，朱元璋隨即令人將其拿下，並由吏部審訊。當吏部尚書詹徽令藍玉招出同黨時，藍玉大呼：“詹徽就是我的同黨！”話音未落，武士們便把詹徽拿下，審判官們目瞪口呆，不再審了。三天後，朱元璋將藍玉殺死，爾後，就是大規模的清洗和株連。胡、藍兩案，前後共殺四萬人。
對於朱元璋的濫殺，皇太子朱標深表反對，曾進諫說：“陛下誅戮過濫，恐傷和氣。”當時朱元璋沒有說話。第二天，他故意把長滿刺的荊棘放在地上，命太子揀起。朱標怕刺手，沒有立刻去揀，於是朱元璋說：“你怕刺不敢揀，我把這些刺去掉，再交給你，難道不好嗎？現在我殺的都是對國家有危險的人，除去他們，你才能坐穩江山。”然而朱標卻說：“有什麼樣的皇帝，就會有什麼樣的臣民。”朱元璋大怒，拿起椅子就扔向太子，朱標隻好趕緊逃走。
專製統治
明朝是我國曆史上封建君主專製統治空前加強的時期。朱元璋利用特務機構，派出大量名為“檢校”的特務人員，遍布朝野，暗中監視。有一次，學士宋濂上朝，朱元璋問宋濂昨天在家喝酒沒有，請了哪些客人，宋濂一一照實回答。朱元璋聽後滿意地說：“你果然沒有騙朕。”著名儒士錢宰被征參編《孟子節文》，一日散朝回家，隨口吟詩道：“四鼓冬冬起著衣，午門朝見尚嫌遲。何日得遂田園樂，睡到人間飯熟時。”結果第二天上朝，朱元璋便問錢宰：“昨天的詩不錯，不過朕沒有‘嫌’遲，改作‘憂’字，如何？”錢宰一聽，嚇得忙磕頭請罪。
1382年，出於打擊功臣的需要，朱元璋將管轄皇帝禁衛軍的親軍都尉府改為錦衣衛，並授以偵察、緝捕、審判、處罰罪犯等權力，這是一個正式的軍事特務機構，由皇帝直接掌控。它有自己的法庭和監獄，俗稱“詔獄”，詔獄裏采取剝皮、抽腸、刺心等種種酷刑。朱元璋還讓錦衣衛在朝廷上執行廷杖，有很多大臣慘死杖下，工部尚書薛祿就是這樣被活活打死的。
在地方上，在各府縣的重要地方，朱元璋還設置了巡檢司，負責把關盤查、緝捕盜賊、盤詰奸偽。
朱元璋專製統治的另一個表現是實行八股取士和文字獄。1370年，朱元璋下令設科取士，規定以八股文作為取士的標準，以“四書”、“五經”為題，不允許有自己的見解，必須依照古人的思想。這種考試製度，目的在於培植為專製君主服務的奴才，它極大地限製了人們的思想。
同時，對於不肯合作的地主知識分子，朱元璋則想盡辦法加以鎮壓。他出生貧寒，並且早年做過和尚，所以十分忌諱“光”、“禿”等字眼，就連“僧”也不喜歡，甚至連和“僧”讀音差不多的“生”也同樣厭惡；他曾參加過紅巾軍，因此不喜歡別人說“賊”、“寇”，連和賊讀音相近的“則”也厭惡。有好多人因此送命，如浙江府學林元亮替海門衛官作《謝增俸表》，其中有“作則帝憲”一語，杭州府學徐一夔表文中有“光天之下”、“天生聖人，為世作則”等語，朱元璋便硬說文中的“則”是罵他做“賊”，“光”是光頭，“生”是僧，是罵他做過和尚。據說，有一年元旦夜裏，朱元璋外出，發現一則燈謎：上畫了一個女人，手裏抱著一個西瓜，坐在馬背上，其中馬蹄畫得特別大。對此，朱元璋大怒，認為這是暗諷馬皇後是個大腳，於是即命查緝，將作燈謎的人杖責至死。
文字獄從1384年一直延續到1396年，長達十三年，造成了人人自危、不敢提筆的局麵，以致文官們不得不請求設計出一種標準的文牘的措辭，以免犯忌。
身葬孝陵
同任何一個皇帝一樣，朱元璋在生前也安排自己的後事。他將自己的陵墓修在了鍾山南麓，稱為孝陵。孝陵方圓四十五華裏，規模宏偉。1398年，71歲的朱元璋病逝，葬於孝陵，諡號“聖神文武欽明應運俊德成功統天大孝高皇帝”，廟號“太祖”。
朱元璋以一介平民，於群雄間角逐數十年，最終推翻元朝，成為明朝的開國皇帝。他對政治製度加以改革，並以錦衣衛清除權臣，以鞏固皇權；同時推行與民休息的政策，發展生產。明朝初期是中國曆史上較強盛的時期，朱元璋是中國曆史上一位比較傑出的地主階級政治家。