第二天，朱元璋召李善長問道：“郭王欲調汝赴王府任職，可否?”“善長堅決不從。”“為何?”“此人胸無壯誌，難成大器。”“如何婉言拒之?”“屆時善長自有辦法。”
過了數日，郭子興召李善長至身邊問道：“本王欲調汝至王府任參謀，即日上任。”李善長未言先涕泣有聲，一副可憐兮兮的樣子。郭子興十分驚異，問道：“這是為何?”“善長無才無德，總兵參謀都難以勝任，王府參謀之職，嚇得我不知如何是好。”郭子興對男子漢動輒哭泣十分反感，覺得一位總兵的參謀，沒等打仗就如此窩囊，不調也罷。於是，連連擺手，道：“速回原處，等候調遣!”這樣，李善長又回到朱元璋手下。郭子興再也沒有提起要李善長之事。
攻占滁陽之後，朱元璋又繼續征討，拿下和州，隨後又率軍攻打雞籠山，隻留800人由李善長率領駐守和州。
朱元璋率重兵離開和州，前往雞籠山時，雞籠山元將陳野先派探馬得知紅巾軍隻有幾百人守城，便派兵來偷襲和州。和州城較小，四周修有城牆，東南邊是長江，通過江上的吊橋方可入城門。李善長用100士兵把守城門，在城牆上插滿穿兵服的稻草人，用50人準備拉弓放箭，另50人擂鼓呐喊，虛張聲勢。夜幕降臨時，李善長親率600士兵，悄悄溜出城門，於五裏外樹叢中埋伏下來。夜半子時，雞籠山的軍隊偷偷泅過江水，搭上雲梯，爬上城牆。城上守軍見敵人爬上來了，立刻拉弓放箭，將登上城牆者射死。隨後，陳野先率兵又豎起幾十架雲梯，大批士兵迅速攀登城牆。守城紅巾軍，拚命放箭；登上城牆者，即遭砍殺。這時，其餘紅巾軍立即擂鼓呐喊，有登牆逾半者，被嚇得掉下雲梯。
李善長聽到擂鼓呐喊聲，知道敵兵已來偷襲。便先命300士兵繞到敵兵之後，突然衝殺出來，殺敵無數。這時，一聲炮響，從河南岸殺出一隊元兵，約有2000多人，將紅巾軍包圍。紅巾軍兩麵受敵，形勢十分危急，便且戰且退，消失在樹叢中。這時，李善長率300士兵，從敵人援兵後又殺出，將追殺紅巾軍之元兵，殺得人仰馬翻，鬼哭狼嚎。隱藏於樹叢中之紅巾軍複又殺出，將2000餘元軍團團圍住，用長槍、大刀奮力砍殺，元兵死傷大半。陳野先率幾百人拚命逃竄，剩下攻城的元軍以為大隊紅巾軍來援，不敢戀戰，紛紛投降。這樣，李善長率800士兵擊退了3000多元軍的偷襲；用兩隊伏兵打敗了敵人援兵，殺死敵兵1000餘人，俘獲1000餘人。
朱元璋率兵攻占雞籠山後，聽探馬報告敵兵偷襲和州城，大驚失色，迅速率兵返回和州城，在距城二裏之遙，見城牆上仍是紅旗招展。走近一看，見李善長仍與士卒站在城門樓上。李善長見總兵率大隊歸來，放下吊橋，將隊伍迎進城內。
朱元璋落座，問明元兵偷襲經過，知道李善長用兩隊伏兵殺退陳野先的偷襲，大獲全勝，異常高興，道：“善長，吾之好謀士，能人也!”
朱元璋有了李善長的幫助，更加如魚得水，東征西討，無往不勝。而李善長也屢出奇謀，立下了赫赫功勳。
朱元璋收編了元巢湖水軍以後，李善長勸說他渡江攻占集慶路(今南京)，以之作為自己發展的根據地。朱元璋接受了建議，先率軍攻下采石，大軍直逼太平。李善長事先書寫好禁止軍隊擄掠的告示，攻下城池以後，馬上張貼在大街小巷，因此朱元璋的軍隊紀律嚴明，深得民心。最後朱元璋終於攻占集慶路，改稱應天，從而確定了自己的政權基礎。在奪取鎮江前，朱元璋擔心眾將不能約束部下，因此打算重重處罰以前違反軍紀者，李善長出麵極力營救才使其得免。占領鎮江以後，朱軍軍紀嚴明，秋毫無犯。
元至正二十四年（1364）正月，朱元璋在應天府稱吳王，以李善長為右相國。至此，李善長成為朱元璋軍中的關鍵人物。此時的朱元璋已滅掉了陳友諒，占據和州、太平、應天、鎮江、安豐、洪都（今南昌）等重要城鎮，兵馬號稱百萬之眾。如何解決百萬人馬的後勤給養問題，是擺在李善長麵前的一項十分艱巨的任務。
李善長首先抓住兩件大事：一個是糧食，一個是銀子。有了這些，隊伍就有了生命力。
因為連年戰爭，勞動力缺乏，農村糧食產量急劇下降。各地紅巾軍的供給，隻好采取強征的辦法，他們到處張貼大榜，讓鄉村百姓繳納糧草，稱為完糧。農民種的糧食被征走，生產的積極性也就低了，懶得深耕細作，糧食產量因之更加減少。軍隊征不到糧食，越發吃不飽肚皮。
明代武士複原圖李善長認為，軍隊的給養，光靠向農民征糧不是辦法，就向朱元璋建議，采取三國時曹孟德屯田的辦法，軍隊且耕且戰。不打仗時，一律開荒耕田。朱元璋認為這個建議很好，便任命元帥康茂才為都水營田使，要他專門負責興修水利，分派諸將在各處開荒種田。李善長還為其立下規章，以糧食產量的多少給予獎懲。一年後，康茂才的屯區得穀15000石。在李善長的督促下，康茂才到處屯田，倉庫裝滿了糧食，使百萬大軍有了足夠的糧草。
隊伍行軍打仗，光吃飽肚皮還不夠，還要有錢，用於支付隊伍的各項開銷。朱元璋原先的隊伍隻有兩三萬人，用打勝仗繳獲的銀兩，就足夠支付隊伍的各項費用，如今隊伍增加到百萬，就需要大批的銀兩，除了用於隊伍穿衣、兵器等花銷外，還要給將士發餉，如果沒有銀錢，軍隊也會失去戰鬥力。
為了得到大批銀兩，李善長殫精竭慮，想盡各種辦法。當時，兩淮、浙江的鹽場俱為張士誠的地麵，李善長就派人化裝成商人前去購鹽，回來銷售賺錢，又將餘糧販至沿海漁村賺取銀兩；在江州設茶運司，抽取茶稅，規定三十取一，違者重罰；在應天等城鎮，除了收取商號、酒肆、妓院的課稅外，還在三山門外等地，蓋了幾十座大房子，租給各地來往客商存貨，收取租金；還號召農民多種棉花、養蠶，織成粗布綢緞，銷售至姑蘇、杭州、廣州、北平等地，賺取銀兩；鼓勵沿海和各大湖的漁民打魚、養魚，收取稅銀；還號召百姓大量開采鐵礦煉鐵，同時也煉銅、鉛、錫等，製成毛坯，由專人統一收購販至張士誠、方國珍、陳友諒等所轄地盤，賺取銀兩。朱元璋稱王後，李善長奏請朱元璋同意，開始鑄造錢幣，為大中通寶錢，以400文為一貫，40文為一兩，4文為一錢。在應天設寶源局，凡攻占地區分設寶泉局，專管發行錢幣事宜。
朱元璋率領幾十員大將，攻占十多個城市，打下了江山。而李善長在管理這些城市、鞏固江山上，顯示了卓越的才能。他不僅為朱元璋出謀獻策，運籌帷幄，使其取得了軍事上的勝利，而且，為其搜羅、準備了充足的給養和銀餉，使百萬大軍取得勝利有了充分的保障。
元末戰亂紛起，社會動蕩不安，飽受饑苦的流民為了口，不得不偷偷溜進城市，幹一些搶劫、盜竊的勾當。而依照元朝的法律，這些流民犯法，要株連三族。於是，往往可以看到，前麵一個犯人被五花大綁，後麵跟著十多個男女老幼，穿糖葫蘆似的被綁成一串，一並被送到刑場斬首示眾。
朱元璋一直忙於征戰，尚無暇顧及於此，所以一直沿用著元朝的酷刑峻法。李善長心中不是滋味，他找到朱元璋，道：“主公身為布衣之時，可曾為元朝所辱？”朱元璋一愣，不知道李善長葫蘆裏賣的是什麼藥。但這句話卻勾起了他對討飯、為僧時的貧苦生活的回憶，他不禁點了點頭。
“元朝刑罰，極其苛刻，一人獲罪，全家受誅。有罪者罪有應得，無罪者無辜受戮。蒙人生性剽悍，且對我漢人視若敝屣，任意宰割。如今主公稱王，獨霸一方，當以民心為重。否則，天亦不助也。”
朱元璋聽了個一頭霧水，問：“百室意欲何為？”
“主公聖明。善長欲修我漢人之法，以斥元之亂綱，慰天下蒼生。孔子曰：‘不教而殺謂之虐’，而無罪而殺謂之暴。主公若允請除此刑法，則民心所歸，天下不久即定於主公之手矣！”
“百室所言甚善，即命你同中丞劉基（字伯溫）裁定律令，頒示朝野！”