而且那時的朱元璋，看似是一方梟雄，麵臨的局麵，卻是極其嚴峻的。朱元璋占領南京後的中國，其實是四角鼎力。北方是以中央政府自居，占有中原以及蒙古草原和西域的元王朝。南方除了占有淮西以及南京的朱元璋外，更有占有湖北荊襄平原的“漢王朝”陳友諒，以及表麵向元朝稱臣，其實卻占據蘇南地區割據自立的梟雄張士誠。在這四家裏，朱元璋不但是力量最弱的，而且還是處境最危險的，他的地盤其實是夾在三家中間。論軍隊實力，他比不上陳友諒，論經濟實力，他比不上張士誠。而且更嚴峻的形勢是，就算打敗了張士誠和陳友諒，如果想統一天下，就必須要戰勝元王朝，也就是要打敗當時天下自強的騎兵——蒙古騎兵。可當時實際情況又是怎樣呢，在朱元璋之前，紅巾軍起義也曾一度席卷南中國，並發動了聲勢浩大的北伐，然而當進入北方平原，與強悍的蒙古騎兵交手後，由南方農民組成的紅巾軍卻大多敗下陣來，當時的元王朝，雖然後世史家常津津樂道他們的“腐敗無能”“皇帝昏庸”，但軍事方麵，彼時擔負平定農民軍大任，執掌元王朝軍事大權的擴敦帖木兒（漢族名王保保）等人，可以說是不世出的名將，他們麾下的元軍，也一改早期腐敗無能的形象，戰鬥力直線恢複。凶險的局麵外加強悍的對手，使朱元璋必須要擁有一支強大的軍隊，他也一直在做這方麵的工作，比如嚴明紀律，比如每攻克一處城池，都格外注意招降敵人中具有騎兵訓練經驗的將官並委以重任，甚至不惜重金，通過各種渠道在北方購買戰馬，然而大明軍隊真正擺脫“流寇”形象，實現脫胎換骨，成功升格為“國家軍隊”，卻是以元朝至正二十年（1360）年為轉折，因為那一年朱元璋遇到了一個人，並展開了一番決定大明軍隊命運的談話——劉伯溫。
那一年，也是劉伯溫第一次受朱元璋邀請，到朱元璋麾下效力，在談話中，朱元璋麵對這位早已聲名在外的浙東大儒，提出了一個困惑自己已久的問題：為什麼天下義軍這麼多，卻屢起屢滅，始終難以成事。劉伯溫卻給出了朱元璋一個令人震驚的回答：因為農民起義有“九惡”，所謂的九惡，就是曆代農民起義都不曾避免的九條錯誤，一惡“不敬孔孟，褻瀆聖人之道，敗壞天理人倫”；二惡“攻伐無度，形同流寇”；三惡“時降時反，相互猜疑”；四惡“糧餉不能自足，臨陣不知兵法”；五惡“掠人妻女財產，隻知取之於民，而不知養於民”；六惡“為將者心胸狹隘”；七惡“為士者缺乏訓練，作戰形同群毆”；八惡“勝時聚集，敗時作鳥獸散”；九惡“此義軍與彼義軍之間，相互猜疑，互相攻伐”。史載朱元璋邊聽邊“聞之勃然色變”。而劉基卻毫無懼色，繼而總結發言：“九惡不除，雖稱義軍，實則草寇流賊。”
放在當時的環境下，這番宏論，等於打了朱元璋一巴掌，但朱元璋到底是朱元璋，挨了巴掌後不但不怒，反而如獲至寶，不但對劉伯溫大加重用，而且依照劉伯溫的九惡，開始了針對性的改革。這“九惡”中，涉及到軍隊的最重要問題，朱元璋也有了自己的辦法，元朝“至正二十二年”，朱元璋設大都督府，並正式確立軍規二十二條，同年在南京設刑台，公斬二十二名犯事軍官，從而震懾全軍。這個改革最重要的效果是，之前的明軍雖然陣容龐大，但製度鬆散，管理疏散，可以說是草台班子，這之後的明軍，卻有了自上而下完備的軍事製度，和條令森嚴的軍規。之前朱元璋抓軍紀，風聲緊的時候軍隊紀律就好，風聲鬆了軍隊紀律就壞，這以後一切有了規章製度，不管風聲鬆緊，一切都按製度來。軍事製度立刻煥然。這之前的明軍，好像一個內力深厚，卻經脈不通的習武者，雖然不斷的集聚力量，但始終不能把力量爆發出來，反而經常鬧得內力失調，在這以後，明軍算是徹底打通了任督二脈。我們僅從明軍的表現上，就可以看出這前後的脫胎換骨。至正二十年（1360年）之前，數目龐大的明軍，每年都要消耗大量的錢糧，後來朱元璋痛定思痛，開始厲行屯田製，不但軍隊自己要種地，還要幫助地方興修水利。結果地方生產發展，百姓富庶，原本向老百姓征收用於軍用的“寨糧”，朱元璋也大手一揮不收了，從此深得民心，戰鬥力方麵，明軍也直線進步。至正二十年（1360年）之前，麵對最直接的對手陳友諒，朱元璋處於絕對劣勢，然而這以後，朱元璋卻開始逐漸取得勝利。甚至至正二十三年（1363年）大決戰時，陳友諒先以六十萬大軍，圍攻朱元璋的邊防要塞洪都，明軍在朱元璋侄子朱文正的統帥下嚴防死守，以劣勢兵力死守八十五天，硬是沒讓陳友諒前進一步。洪都之戰，不但創下了中國古代戰爭史城池防禦戰的經典範例，更為朱元璋的反撲贏得時間，七月，朱元璋以二十萬大軍反撲陳友諒，雙方在鄱陽湖決戰，麵對三倍於己的敵軍，明軍巧妙運用火攻戰術，在頂住陳友諒瘋狂攻擊後，成功焚毀陳友諒旗艦，一舉反敗為勝。將陳友諒的漢政權——這個當時南中國最強大的割據政權徹底擊敗。兩場以少勝多的經典戰例，打出了明軍的赫赫威名。次年朱元璋調轉槍口，開始進攻另一大割據勢力——張士誠的“吳”政權，如果說打陳友諒，明軍經曆的是防禦戰的考驗，那麼打張士誠，明軍卻又承受了攻堅戰的洗禮。在元末各路梟雄中，張士誠是最擅長打防禦戰的，他最成功的戰例就是早年起兵時，以幾萬劣勢兵力死守高郵城，頂住了元王朝由丞相脫脫統帥的百萬大軍，死守四十天後居然一舉反敗為勝。而這一次，朱元璋也在張士誠的銅牆鐵壁麵前碰的頭破血流，在掃清張士誠外圍，形成對張士誠首府平江的包圍後，張士誠的嚴防死守發揮了效用，明軍在平江城外圍鑄起了三層木塔樓，將其重重圍困，並以塔樓向內發射弓弩火槍，卻久攻不下，在戰爭後期，明軍甚至動用了新式武器——襄陽炮。這是一種銅鑄的重型火炮，按照《明史》的紀錄，它不但殺傷力強大，而且射程驚人，平江之戰中，他的炮彈不但重創平江堅城，甚至更有炮彈落進了張士誠的王宮裏。這場攻堅戰，也可以說是人類戰爭史上較早的炮兵騎兵步兵協同作戰的範例。經過八個月的攻堅後，明軍終於攻克平江城，滅掉了張士誠政權，而這場戰爭除了政治意義外，軍事意義也格外重大——戰勝了當時中國最擅長防禦戰的張士誠，從此之後，在那個時代裏，沒有任何一條防線可以阻擋明軍。
如果把爭霸戰爭，比作現代拳王爭霸戰的話，那麼之前明軍與陳友諒，張士誠等割據勢力的鏖戰，好比爭霸賽中的預選賽，為的就是獲得挑戰“拳王”——元王朝的資格。比起平定張士誠和陳友諒來，挑戰元王朝對於明軍來說，卻是一個看似容易，其實難上加難的任務，從元末農民大起義爆發後，還沒有一支起義軍能夠北伐成功，甚至再往前數，自從北宋滅亡後，以長江為界，更沒有一支南方政權可以北伐成功。乃至再往前數，在之前的整個中國曆史上，還沒有一位開國皇帝，可以用從南向北的方式統一中國。明朝北伐元朝，不僅僅是改朝換代，更是在挑戰曆史的定律。