1357年，朱元璋在攻占徽州（今安徽歙縣）後，親自到石門山拜訪老儒朱升，向他請教奪取天下的方略。朱升贈他意味深長的9個字：“高築牆，廣積糧，緩稱王。”意即增強軍事實力，鞏固後方，多儲備糧食，暫不稱王。―朱元璋聞後大喜，因為在當時，強敵如林，相比之下，朱元璋起兵較晚，實力較小，要想由弱轉強，削滅群雄、平定天下，朱升的計謀實在是上策。於是，朱元璋加強軍隊的軍事訓練，整頓軍隊紀律，使將士們的素質和戰鬥力得到提高；他重視農業，組織屯田，保證了軍隊的糧食供給；為了避免樹大招風，成為其他勢力打擊的重點對象，他遲遲不稱王，打的是紅巾軍的紅色戰旗，使用的是宋政權的年號，接受小明王的封號，表麵上與小明王保持臣屬關係。這樣，經過幾年的努力，朱元璋的根據地得到鞏固和發展，軍事及經濟實力大為增強，巳有能力與諸雄一爭天下了。
在當時的各股割據力量中，以陳友諒的勢力最為強大，他占有湖廣一帶廣大的地區，兵多將廣，氣勢逼人，能否打敗1360年，陳友諒曾順江東下，進攻朱元璋，結果在應天府附近的龍江遭到伏擊，損兵折將。1363年，陳友諒乘朱元璋率軍北上之機，點起60萬大軍，包圍了朱元璋的侄子朱文正鎮守的洪都（江西南昌），朱元璋聞訊，親率20萬軍隊前來救援，兩軍相遇於鄱陽浙，於是爆發了中國古代規模最大的一次水戰―鄱陽湖大戰。這場戰爭進行了36天，打得十分艱苦，從軍隊人數和戰船的數量和質量來看，陳友諒占有明顯的優勢，但朱元璋以火攻的方式，燒毀了敵人的許鄱陽湖之戰娜拿後來，陳友謝被流矢射死，全軍潰敗，朱元璋終於獲得了最後勝利。
在消滅陳友諒之後，朱元璋乘勝進軍，於1364年攻占武昌，陳友諒子陳理投降。1366年朱元璋進軍江南，次年消滅了張士誠，迫條了方國珍。1367年10月，朱元璋命大將徐達、常遇春率師北伐，北伐軍以朱元璋提出的“驅逐胡虜，恢複中華，立綱陳紀，救濟斯民”等口號來爭取民心，所向披靡，不到1年時間，就進人了元的大部，推翻了統治中國達98年之久的元王朝。此後，又陸續消滅了各地殘存的割據勢力。
1368年正月，朱元璋在應天稱帝，國號大明，建元洪武，以應天府為京師，建起了中國曆史上又一個新的封建王朝。
2.加強集權以“猛”治國
明王朝剛建立時，中央和地方的機構建製基本上承襲元朝。經過幾年的統治實踐，朱元璋感到這種體製弊端很多，極易產生地方割據、尾大不掉、大臣擅權、君權旁落的不良後果。他決心采取措施，改變這種體製，以防患於未然。
明初仿效元朝，在地方上設行中書省，置平章政事和左右丞。行中書省總管一省的軍事、政務和司法，權力非常大，儼然是地方上的小朝廷。洪武九年〈1376年廣朱元璋廢行中書省，代之以承宣布政使司，置左右布政使各1人，隻管理1省的民政和財政；另設按察使司掌管刑法，都指揮使司掌管軍事。這3個機構合稱為“三司”，它們彼此獨立又互相牽製，都直接聽命於朝廷，這就便於中央對地方的控製。
明朝初期，丞相掌管全國政務，凡事要先向丞相報告，然後再上奏皇帝，權力很大。1380年，朱元璋借口丞相胡惟庸“謀不軌”，將他殺死，此後就廢賒中書省，罷去丞相官職，分相權於吏、戶、禮、兵、刑、工六部，六部直接對皇帝負責。這樣，秦漢以來實行了一千多年的宰相製度就此廢除，以後再也沒有恢複，朱元璋實際上身兼皇帝、宰相二任，成為中國曆史上權力最大的皇帝之一。
在軍事上，朱元璋實行“衛所”製度，全國軍隊編為衛所軍和京衛軍，由中央的中、左、右、前、後五軍都督府分別統轄。然而五軍都督府隻掌管軍隊的組織管理和軍事訓練，軍隊將帥的任免及軍隊的調遣權在兵部。若遇戰事，則調遣軍隊和任命將帥都須由皇帝決定，一旦戰事結束，將帥就要交回將印，士兵回歸原來的衛所。這樣，皇帝便牢固地控製了軍權，有效地防止了大將專權現象的發生。
為了加強對官吏、百姓的監察和控製，朱元璋設立了巡檢司、檢校和錦衣衛。巡檢司遍設於各地，負責盤査行人、緝捕“盜賊”。檢校是朱元璋特設的特務人員，多是他自己的心腹，其職責主要是：監視在京的大小官吏的活動，發現或聽說他們有任何“不公不法”之事，隨時向皇帝報告。錦衣衛是朱元璋專門設置的特務機構，它除了擁有偵察、緝捕“盜賊奸宄”的大權外，還設立了法庭和監獄，負責全國重罪犯人的審判和處刑。錦衣衛有指揮使一人，正三品；同知二人，從三品；下設僉事、鎮撫、將軍、力士、校尉等官吏，組織完備，權力極大。它和朝廷的府、部、院並無隸屬關係，由皇帝直接指揮，隻對皇帝一人負責。在朱元璋統治時期，檢校和錦衣衛的特務活動娼厥，本事很大，幾乎是無孔不入。有一次，大學士宋濂宴請賓客，第二天，朱元璋問他昨天喝酒了沒有，請了哪些客人，酒宴上上了哪些菜肴？宋濂為人謹慎，便一五一十地如實回答。朱元璋聽後笑著說：“說的全對，沒有騙我。”可見此事早有耳目向他詳細報告了。有一天，國子祭酒宋訥在家獨自生悶氣，麵帶怒容。第二天上朝時，朱元璋問他昨天生什麼氣。宋訥如實地說了，但卻感到納悶：皇上怎麼知道自己昨天生了氣？便壯著膽子就此事問皇上。朱元璋並不直接回答，他叫人拿出一張畫來，宋訥一看，這正是他昨天生氣時被人偷畫明太祖的寫真圖，於是恍然大悟。博士錢宰被征調到南京編纂《孟子節文》，不大習慣於在朝廷工作的作息安排，尤其是淩晨上朝。有一天罷朝回家，他信口吟道：“四鼓鼕鼕起著衣，午門朝見猶嫌遲，何時得遂田園樂，睡到人間飯熟時。”第二天上朝時，朱元璋對他說：“昨天作的好詩，不過，我並沒有‘嫌’嗬，改作‘憂’字怎樣？”錢宰聽罷，嚇出了一身冷汗，趕緊向皇帝磕頭謝罪。朱元璋任用的大小特務嗅覺靈敏、手段陰狠，是他加強集權、維護統治的得力鷹犬。
朱元璋在總結前代統治的經驗教訓時說：“元朝因寬大而失天下，我理國家非猛不可。”朱元璋的“以猛治國”，就是要堅決鎮壓一切對他的政權構成威脅的人，不論是明顯的敵人，還是潛在的對手。
權臣和功臣是朱元璋重點打擊的對象。權重主忌，功高震主，這本是很普通的現象，但與一般君主不同的是，朱元璋往往是采取異常猛烈的手段來消滅他們。1380年，朱元璋以擅權枉法等罪狀將丞相胡惟庸淩遲處死，後來，他將胡惟庸的罪名逐步升級，株連網羅的人也越來越多，胡惟庸的親屬、朋友、部屬及其與他有這樣或那樣關係的人，幾乎被斬盡殺絕，前後共殺死3萬餘人。1知3年，朱元璋又借機興起大將軍藍玉之獄，藍玉被殺並滅族，連坐被誅的有1.5萬多人，其中有不少是功高權重的軍中將帥。功績卓著、被譽為頭號開國功臣的徐達也未能逃脫厄運，1385年，他的背上長了毒疽，這種病最忌吃蒸鵝，在他病重時，朱元璋特賜蒸鵝令他食，徐達流著眼淚將蒸鵝吃下，不多日就死了。另一開國元勳韓國公李善長，在77歲時被殺，他全家及親戚70多人一同遭殺戳。朱元璋還製造文字獄來誅殺那些他認為敢冒犯自己尊嚴的文人，其實，基本上都是他的疑心使然，不少的文人成為了他屠刀下的冤鬼。朱元璋做過和尚，參加過紅中軍，在當時，紅巾軍被元朝統治者罵為“紅賊”，因而，凡是與"釋”、‘“賊”等字音義相近的字，都成為他的忌諱。例如，趙伯寧所作《賀萬壽表》有“垂子孫而作則”一語，林伯璟所撰《賀冬至表》中有“儀則天下”字樣，蔣質所寫《正旦賀表》中“建中作則”之句，這些句子中的“則”都被朱元璋念成“賊”，認為是辱罵自己，下令將上述撰表人統統處死。杭州府學教授徐一夔所撰的《賀表》中寫道：“光天之下，天生聖人，為世作則。“連犯朱元璋幾處忌諱，他讀後勃然大怒，說：“生者僧也，罵我當過和尚，光者，罵我剃過光頭，則者/罵我做過賊”，喝令將徐斬首。此外，朱元璋還將其他一些表中的字句如“藻飾太平"'，讀作“早失太平"、“帝扉”念成“帝非”、“式君父”理解成“失君父”等等，這些作者都因此掉了腦袋。