在進攻滁州的路上，有一個叫李士元的歙（shè）縣（今屬安徽省黃山市）人前來求見，他就是日後大名鼎鼎的李善長（據俞本《明興野記》載，李士元於龍鳳二年改名為善長）。李善長頭腦清楚，善於料事。“少有誌計，讀書粗持文墨”，“習法家言，策事多中”，聽說朱元璋帶兵路過，“謁道旁”求見，想看看這個人是不是個能成事兒的主兒。朱元璋和他一見如故，聊得十分投機。李善長說，我看到您，馬上想起一個人來。
朱元璋問：誰？
李善長說：漢高祖劉邦！他和您一樣，也是起自草野，現在的形勢，和當初的漢高祖劉邦差不多：
秦亂，漢高起布衣，豁達大度，知人善任，不嗜殺人，五載成帝業。今元綱既紊，天下土崩瓦解。公濠產，距沛不遠。山川王氣，公當受之。法其所為，天下不足定也。
朱元璋也聽說過劉邦這個麼人，不過從來沒有想到過這個人和自己有什麼關係。聽李善長這麼一說，他茅塞頓開，連連點頭“稱善”。知識分子的種種建議讓還在黑暗中摸索的他如同遇到明燈，通往皇位的道路在他頭腦中一下子清晰起來。他任命李善長為掌書記，從此將劉邦視為自己的偶像，開始不斷鑽研他的事跡。
通過與讀書人的交往，朱元璋深刻地認識到，“知識就是力量”，知識分子眼界寬，計謀多，用之則為力，驅之則為敵。而且這些人在地方上往往影響巨大，“能左右一方老百姓的態度。把他們爭取過來，一方百姓也就跟著過來了”。隨著和讀書人的接觸多了，他也知道請讀書人成本不高：隻要客氣點，給足他們麵子，讓他們吃得好穿得好，再給個虛職，他們就會感激涕零，為你賣命。“費得不多，賺頭極大，真是劃算的買賣。”因此，嚐到了甜頭的他一路征戰過程中，遇到讀書人，就盡力延攬。甚至在手下的將領出征時，他也經常囑咐他們，聽說哪個地方有知名的讀書人，一定要把他們帶回朱元璋這裏。有時，還派專人攜帶大量金銀財寶，四處打聽哪有讀書人。
徽州老儒朱升學名很大，攻打皖南時，朱元璋仿效劉備三顧茅廬，“微服從連嶺出石門，親臨其室”，向他請教奪天下大計。結果朱升說出了一句名言：“高築牆，廣積糧，緩稱王。”
朱元璋聽人說，鎮江有個讀書人叫秦從龍，學問很大。徐達出征鎮江的時候，朱元璋特地交代要他去拜訪此人。徐達找到秦從龍後，朱元璋又親派自己的侄兒朱文正和外甥朱文忠帶著大批白銀、綢緞前去禮聘。秦從龍來到南京後，朱元璋特意到城門外迎接，安排他和自己住在一處，“朝夕訪以時政”，“事無大小，悉與谘謀”，“稱先生而不名”。每年到秦從龍生日之際，朱元璋“皆有贈遺，或親至其家，與之燕飲，禮遇甚厚”。這些做法傳出去，廣大知識分子深受感動。
當時的讀書人，大多數曾與農民軍為敵，對朱元璋既疑且懼。朱元璋特地宣布：“吾當以投誠為誠，不以前過為過”，隻要誠心歸附，一概既往不咎。還有一些知識分子瞧不起他這個出身寒微的山大王，嫌紅巾軍氣味不對，躲在山裏不肯出來。朱元璋也不以為忤，而是愈加低聲下氣千方百計，絕不放棄。
當浙東大部平定之後，名士劉基（劉伯溫）“自以仕元，恥為他人用”，說什麼也不肯出來為朱元璋所用。朱元璋叫處州總製孫炎派人去力請，孫炎於是寫了一封洋洋數千言的信，反複說明利害，非要他出山不可，又叫他的朋友陶安和宋濂分別贈詩勸說。劉基實在沒有辦法，這才勉強出山。龍鳳六年三月，他與宋濂、葉琛、章溢三位名士一起來到應天，朱元璋大喜過望說：“我為天下屈四先生耳！”下令在自己住宅西邊蓋了一座禮賢館，把他們請到那兒去住。跟劉基說話，從來都稱“老先生”，在給劉基的信中這樣開頭：“元璋頓首奉書伯溫老先生閣下”（《慰劉基書》、《諭劉基書》等，見《全明文》），語氣恭敬虔誠得無以複加。
朱元璋的知識分子工作，做得很到位。他的謙虛、熱情、耐心、豪爽、推心置腹傾倒了大批文化人。許多亂世中生計斷絕的讀書人，本來通過朱元璋軍“不嗜殺人”這一跡象就已經看到了“做穩了奴隸”的希望。如今又得知朱元璋喜歡親近讀書人，便有許多人來投奔，指望依靠朱元璋，重建三綱五常的理想社會。朱元璋的投入獲得了百倍、千倍的回報，他們不斷對朱講解各種道理，聽得朱喜不自勝。朱元璋說：“我讀書，常常從中受益……讀書明理，讓人在日常事務中能用道理去分判，可以叫人少犯錯誤。”評論者多認為，朱元璋的知識分子政策是他最終從群雄中脫穎而出的根本。比如方孝孺就說，元末“地大兵強，據名號以雄視中國者十餘人，皆莫能得士；太祖高皇帝定都金陵，獨能聘至太史金華公（宋濂）而賓禮之……識者已謂天下不足平”。
正是因為知道讀書人的作用如此巨大，所以在自己大力招攬任用讀書人的同時，朱元璋又製定了一項特殊的政策：不許自己的部下隨意任用讀書人。他時時刻刻提防自己的將官們和知識分子勾結，因此規定，所有前來投奔的儒士，一律由他親自考察任用，“禁諸將擅用”。他生怕讀書人使這些天不怕地不怕的將軍們大腦開了竅，特意規定：“所克城池，令將官守之，勿令儒者在左右議論古今。止設一吏，管辦文書，有差失，罪獨坐吏。”