定遠有一支擁有3000多人的地主武裝，駐紮驢牌要寨。因該寨人多勢眾，又有堅固寨牆，朱元璋隻好用計巧取。朱元璋一行來到定遠，聞知這寨中缺糧，他心生一計，叫兵士鑽進布袋裏，詭稱民夫送糧，來到寨門前，派人通知寨主，請出門接糧。寨主哪知是計，正愁軍糧無著落，聞報自然大喜，急步出迎。寨門開後，朱元璋一聲令下，兵士們破囊而出，立即將寨主拿下。寨中士卒見寨主被擒，無心戀戰，也紛紛逃命去了。
首戰告捷驢牌寨，朱元璋又乘勝星夜襲擊定遠另一股武裝繆大亨。臉居橫澗山的繆大亨，擁兵20000餘眾。他做夢也沒有想到朱元璋會如此神速地偷襲他的營地，睡夢中他爬起來慌忙迎戰，但怎能抵擋得住義軍潮水般的攻勢呢！繆大亨見大勢已去，隻好率眾投降，歸順朱元璋。
朱元璋占據定遠後，愛民練兵，威聲大振，四方歸附。馮國用、馮國勝兄弟是定遠的兩個中小地主，因害怕紅巾軍，就組織鄉兵結寨自保。後來，他們聽說朱元璋作戰勇敢，紀律嚴明，人心歸附，就帶著自己的鄉兵來歸附朱元璋。朱元璋見馮家兩兄弟是兩個讀書人，非常高興。他便向他們二人請教天下的大計。馮國用說：“金陵地勢險要，是曆代帝王建都的地方，先奪取金陵為根據地，然後以仁義之師救萬民於水火，必定人心歸向，然後重用有才德的人，不貪戀財色。如此奪取天下是不難的。”朱元璋聽完大喜，任命國用、國勝兄弟為參謀。同時下令拔營向金陵方向進發。
大軍行進途中，又有人謁見朱元璋。此人姓李名善長，字百室，也是定遠籍的地主知識分子。他從小讀書，注重研究法家學問，很有些智謀。朱元璋高興地同他促膝交談，問他奪取天下之方略。李善長從容答道：“秦末大亂的時候，漢高祖以布衣起兵。他豁達大度，知人善任，不濫殺無辜，五年就成帝業。如果你能效法漢高祖的長處，天下是可以平定的。”朱元璋聽後連連稱善，當即將李善長留在身邊幫助自己出謀劃策。文人儒士的韜晦方略使朱元璋堅定了奪取天下的雄心壯誌。
此時朱元璋已有軍隊3萬多人，“號令嚴明，軍容整肅”。1354年，他打敗了圍困六合的百萬元兵。第二午正月，朱元璋又率軍攻下和州（今安徽和縣），被郭子興任命為總兵官，鎮守和州。同年二月，紅巾軍領袖劉福通擁立韓山童的兒子韓林兒在亳州稱帝，又號小明王，國號宋，年號龍鳳。3月，郭子興病逝，小明王任命他的兒子郭天敘為都元帥，朱元璋任左副元帥。不久，郭天敘戰死，從此，朱元璋成為這支部隊的主帥。
身在和州，手握兵權的朱元璋沒有忘記攻取金陵的目標。元至正十六年（1356），朱元璋親督水陸諸將，按既定戰略攻取金陵。在城外的一場激戰中，元軍大敗，僅收降元兵即達36000多人。降兵收容後，不知朱元璋會如何處置，個個非常恐懼。朱元璋身旁的將士向他進言，降眾過多，怕有變故，不如及早處置。可朱元璋沒有采納將士們的意見，而是在降卒中挑選500個驍勇健壯者，做為自己的侍衛親兵。這些勇士非常感謝朱元璋對他們的信任。數日之後，朱元璋複用這500名降卒為先鋒，攻打金陵城。降卒們感恩思奮，衝鋒陷陣，英勇殺敵，長驅直取金陵城下，人人榮立戰功。3萬餘名降卒見朱元璋果真以誠相待，也感激不已，以後作戰中忠心為他效命。朱元璋的隊伍由此實力大增。
攻占金陵之後，朱元璋改金陵為應天府。這時，在他的北麵是義軍韓林兒、劉福通，東麵是張士誠，西麵是徐壽輝。雖然地盤不大，但東、西、北三麵都有義軍力量處在第一線，牽製元軍主力，似屏障一樣保護著朱元璋這支義軍隊伍。朱元璋充分利用這一有利形勢，以應天府為中心，先後迅速攻克鎮江、長興、常州、寧國、江陰、常熟、池州（今安徽貴池）、徽州（今安徽歙縣）、婺州（今浙江金華）、揚州等地作為戰略據點，既保證了應天安全又為下一步對外擴展打通了道路。