還有一次，老和尚見大殿上的蠟燭讓老鼠咬壞了，就當眾訓斥了明皇。明皇心想，伽藍神連自己麵前的東西都管不住，還怎麼管殿宇?更害得自己受罵，越想越氣。於是，他就找管筆，在伽藍神的背後寫了“發配三千裏”幾個字。這些都反映了明皇不甘於受壓迫的性格。 可是，他做行童不久，寺裏的糧食不夠和尚們吃了，寺裏也得不到施舍，主持高彬法師隻好罷粥散僧，打發和尚們雲遊化緣。這樣，明皇才做五十天行童，而且還不會念經、做佛事，但是沒有辦法，也隻好扮成和尚的樣子，離開寺院托缽流浪。這時明皇年僅17歲。
明皇邊走邊乞討，他聽人說哪裏年景好就往哪裏走，他從濠州向南到了合肥，然後折向西進入河南，到了固始、信陽，又往北走到汝州、陳州等地，東經鹿邑、亳州，於1348年又回到了皇覺寺。在這流浪的三年中，他走遍了淮西的名都大邑，接觸了各地的風土人情，見了世麵，開闊了眼界，積累了社會生活經驗。艱苦的流浪生活鑄就了明皇堅毅、果敢的性格，但也使他變得殘忍、猜忌。這段生活對明皇的一生產生了深遠的影響。
明皇在外雲遊的三年，也正是元末農民起義風起雲湧的時期。社會上廣泛流傳著“明王出世，普度眾生”的說法，北方的白蓮教也在進行同樣的宣傳。明皇在流浪中，也接觸到這樣的宣傳，他目睹國是日非、人民生活惡化的現狀，意識到天下大亂很快就會來臨了。於是在回到皇覺寺後，他發奮勤學，廣交朋友，準備幹出一番事業來。
1351年，白蓮教首領韓山童、劉福通在穎州(今安徽阜陽)發動起義，並推韓山童為明王。同年八月，彭瑩玉、徐壽輝在蘄水(今湖北浠水)起義。這些起義者用紅巾裹頭，故稱紅巾軍。1352年，郭子興和孫德崖在濠州起義。
明皇聞聽起義的消息，不由心想，老在寺院裏，隨時可能被元官軍抓走，性命難保。正在此時，他收到兒時夥伴湯和的信，湯和在信中邀請明皇參加郭子興的義軍。恰在此時他的師兄秘密告訴他，說有人知道此信，要去告密。於是，明皇放下缽盂，趕緊去投奔郭子興的紅巾軍。這一年，明皇25歲。
在明皇稱帝之前，奉行的策略是朱升提出的“高築牆、廣積糧、緩稱王”。高築牆是指加強軍事防備，鞏固後方；廣積糧是指發展經濟生產，儲備糧食，增強經濟實力；緩稱王則是指不要過早稱帝，以免樹敵過多。這三條建議極具戰略眼光，是明皇發展初期的指導思想。
明皇在和州駐守幾個月後，糧食供應成了問題。與和州相對，緊靠長江南岸的太平(今安徽當塗)、蕪湖是盛產稻米的地方，但是沒有船隻，隻能望江興歎。這時恰好兩支紅巾軍的巢湖水軍前來歸附，明皇親自處理合並事宜。七月間，巢湖水軍千餘隻戰艦突破元軍封鎖抵達和州。明皇的步馬軍登上巢湖水軍的船隻，從和州東渡長江。到達對岸的采石，常遇春一馬當先，率軍衝殺，攻克采石，獲得大量糧食。將士想把糧食和戰利品運回和州慢慢享用。見此，他果斷地命人砍斷船纜，任船順流而下，斷絕退路。將士們見無路可退，一鼓作氣，在明皇率領下攻克太平。進入太平，明皇重申軍紀，嚴禁擄掠，有個別兵士犯禁，立即處死，因此，明皇的軍隊受到當地百姓的擁護。明皇於是置太平興國翼元帥府，自己做元帥，任命李善長為帥府都事。這樣，明皇便開始了穩固根據地的工作。