朱元璋在戰敗了陳友諒、張士誠之後，領有湖南湖北、安徽江西、浙江江蘇等地盤，這些地方都是國內最富庶的，他兵多將廣，錢多糧多，成為國內最大的一支地方勢力，雖然南方還有一些不聽調遣和他唱反調的軍閥，北方還有所謂正統的元朝，但顯然已經沒有什麼力量可以阻擋他統一全國的步伐了。
所以，朱元璋決定揮軍北上，盡早將元朝推翻。於是，他先找劉伯溫商量了大致的作戰方針，然後又和諸將在軍事會議上詳細商討。
素有“猛將”之稱的常遇春說：“末將以為，如今南方已定，隻剩下北方一些軍事割據，那些勢力又互相爭鬥，應趁此機會，用攻堅戰術，重兵出擊，直接攻下大都，都城一旦被破，乘勝再攻擊北方的軍事勢力，即可大獲全勝。”而朱元璋的思路剛好相反，當然他也知道常遇春提出的方案也是大多數將領的想法，但是卻有輕敵冒進的傾向。
朱元璋說：“大都是元朝經營了上百年的都城，防禦守護一定非常堅固。倘若集中兵力深入，久攻不下，而分散在山東等地的元兵再去大都援助，那麼我們的軍隊到時可能糧餉不足，進退皆難。”
這個時候劉伯溫說：“直接進攻大都雖然是速戰的策略，但正如主公分析，看似存在優勢，仔細分析弊端更多，不如反其道而行。”
朱元璋看了一眼劉伯溫，又掃視諸將，決定選擇和常遇春相反的策略，他說：“剛才所說的劣勢，對我軍來說都是致命的威脅。我以為，都到了這種地步了，攻大都是早晚之事，不過方式不同罷了。大都好比是一棵大樹的根，而山東、河南等地不過是其所剩無幾的枝葉，不如先去枝葉，取下山東，回師河南，砍其枝葉，去其羽翼，再進軍潼關，占其門戶。這樣，東、南、西三麵的軍事要地皆被我軍掌握，此時大都處於孤絕無援的境地，再發動總攻包圍大都，自然拔其根基。攻下大都，再乘勝向西，雲中、太原等地亦在掌控之中，元朝即可徹底滅除。”
諸將聽了，皆連連稱讚這是最穩重全麵的策略。
這就是朱元璋在十多年的戰鬥生涯中培養出的軍事分析能力，既能把握全局，又能細心緊密地注意到局部，同時野心和魄力共存。
戰略既定，下一步就是具體的軍事部署。這次真像李善長建議的那樣，用最精銳、最強的將領出擊。朱元璋備戰工作的下一步就是組織挑選統帥部人員。
朱元璋知道，選拔人才得和李善長商量，李善長雖謀略策劃不如劉伯溫，但對人際關係的處理，對將領們的熟悉卻是最好的。
朱元璋說：“這次北伐，關係重大，我覺得還是要任用老將擔任將帥。”
李善長說：“平陳友諒之前，主公親自指揮諸將，此次北伐，將領皆在遠處作戰，善長認為需要選出一個能在場指揮節製諸將的大將軍。”
朱元璋道：“這也是我在考慮憂心的問題啊。像常遇春、藍玉這樣的猛將，雖驍勇善戰，但常常會意氣用事，必須有個大將軍來壓陣，你以為誰做這個大將軍最合適呢？”
朱元璋這樣問李善長，並不是說他自己心中就沒有人選，不過他更想聽聽他人的意見。
李善長略有所思，沉默片刻即說：“善長以為，徐達可統帥全軍。徐達身經百戰，用兵持重，言行謹慎，不做無把握之事，也不打無把握之仗，又注重軍紀。在將士中又屬老字輩，能服眾。”
朱元璋點頭應允，其實他心中也選了徐達，徐達是他的結拜兄弟，一同打天下可謂是赴湯蹈火，性情穩重，靠得住，對朱元璋絕對服從和忠心。
經過縝密的考慮，朱元璋在行軍前宣布了北伐的將帥部署：徐達為征虜大將軍，管製諸將，有運籌決策之權。常遇春驍勇善戰，所向披靡，為副將軍，做先鋒。朱元璋知道，像常遇春這樣的驍將，必須要適當駕馭，他的位次僅在徐達之下，他就無話可說，畢竟徐達是老將，同時任命參將馮勝配合常遇春，做左右翼。雪顯、傅友德各領一路大軍，獨當一麵。
應該說，這支北伐軍配備了最優秀的將領，也使用了最精銳的兵士。
出發前，朱元璋特地和幾位主將談心，談心不過是為了讓他們更好地打仗，更好地為自己服務，這是朱元璋用人的聰明之處，他非常清楚將領的情緒和心理在作戰中的重要性，所以每次大戰，朱元璋都懇切關心地和將領談話。先是徐達、常遇春、馮勝、傅友德等人。對徐達、湯和這兩個結拜兄弟，朱元璋在私下裏都是以兄弟相稱，從不擺架子。而朱元璋跟老將在一起，最拿手的談心方式就是回憶，通過對往事的記憶，喚起情感共鳴，這樣情感拉近了，說什麼也都容易聽進去。
朱元璋說：“北伐的重任在你肩上擔著，這個責任很重，你作為大將軍，一定要嚴整軍隊，溝通上下，使將士們同心協力。大將軍的威嚴，你當用則用，有違紀犯規者，當嚴懲不誤，萬事慎重再慎重，當斷則斷，指揮百萬大軍當鎮定自若，統籌兼顧。”