胡大海得儒士許瑗來見，太祖喜曰：“我取天下，正要讀書人。”除太平府知府。陳友諒陷太平，死之。
胡大海克嚴州，得儒士王宗顯，問係烏江人。及大海克蘭溪，進攻婺州不克，回蘭溪築城守之。太祖至蘭溪，大海以宗顯見。太祖曰：“爾與我同鄉裏，正濟所用。”令宗顯潛至婺州城，察聽事體。宗顯到於近城五裏吳世傑家，察得城中守將各自為心。回告，太祖甚喜。太祖曰：“我得婺州，令爾作知府。”
太祖曰：“金華是吾親征之地，乃浙東、江南之重鎮，密近江西、福建、浙江敵境，必得重望之臣鎮之。”改分樞密院為江南分省，升僉院胡大海為本省參政。未久，苗軍元帥蔣英等謀叛，殺大海。至夜半，殺都事王愷、掾史張誠。次曰早，逼勒一城男女數萬出南門，經台州仙居縣，殺右丞方國章，赴紹興張士誠降。事聞，太祖改江南分省為浙東行省，升同僉李文忠為本省右丞，總製處州等五府一州軍馬，選都事楊憲為左右郎中，參讚之。太祖謂憲曰：“李文忠乃吾甥也，年少，未曆練方麵之事，皆從爾主之。如有差失，罪隻歸你。”
饒州平章吳宏調守撫州，太祖命於光為江西參政。特遣楊憲齎印信，令光開設分省於饒州。吳宏原部下吳三尉不服，糾合王思義謀叛據城，光遁走浮梁。憲在城，無馬走。憲以大義曉諭思義，思義欲憲到京明其不叛，留之不殺。及江西大軍複饒州，思義入福建。憲得免回京，以前在金華時，李文忠用儒士屠性、孫履、許元、王天錫、王禕幹預公事，聞於太祖，差人提取屠性等五人到京，內王禕、許元、王天錫發充書寫，惟屠性、孫履誅之，升憲為提刑按察使。憲得前官單居仁不合將贓罰易作貨物營利，優給吏典，劾奏。太祖曰：“單居仁杖一百，不用。吏典追贓，發和州種田。”複任憲江西行省參政，再調山西參政，升禦史台中丞。太祖嚐曰：“楊憲可居相位。”憲數言李善長無大材。胡惟庸謂善長曰：“楊憲為相，我等淮人不得為大官矣。”憲因劾汪廣洋不公不法，李善長排陷大臣、放肆為奸等事，太祖以極刑處之。
處州苗帥賀仁德、李佑之謀叛，殺院判耿再成、元帥朱文剛、知府王道同，據城以守。太祖曰：“李文忠軍馬不敷調用。”命平章邵榮領參軍胡深等軍馬往覆處城。未至，紹興張士誠乘隙調呂同僉寇諸暨。文忠以嚴州兵少，又兼密近桐、廬賊境，衢、信兵出，江西無以應援，金華止是文忠獨守，城亦空虛，況隔諸暨二百餘裏，計無所出。文忠與都事史炳謀議，兵貴虛聲，揭榜於賊境，詐雲平章邵榮領兵五萬已出江西，右丞徐達領兵五萬已出徽洲，約會金華，克曰進據諸暨剿捕。賊兵見榜，具告呂同僉，欲退五裏下營，以待決戰。當有降卒走報，同僉胡得濟得其實，與院判謝再興分門以守。至夜半，令軍士飽食，高聲發喊，鑼鼓炮銃震動天地，一齊出城，寇營驚亂，人馬奔走，自相蹂躪。得濟等督兵追殺，橫屍滿野，惟呂同僉部下先鋒過河溺死，片甲不返。寇敗之後，邵榮至，就領胡深等兵攻破處城，李佑之縊死，賀仁德就擒，誅之。七月，邵榮回京。八月，榮與參政趙某謀為不軌，元帥宋某以其事首告。太祖命壯士執邵榮、趙某連鎖，置酒待之，間曰：“我與爾等同起濠梁，望事業成共享富貴，為一代之君臣。爾如何要謀背我？”榮答曰：“我等周年出外取討城池，多受勞苦，不能在家與妻子相守同樂，所以舉此謀。”不飲酒，止是追悔而泣，太祖亦淚下。趙某呼邵榮曰：“若早為之，不見今曰獵狗在床下死，事已如此，泣何益？惟痛飲而醉。”太祖欲禁錮其終身，聽其自死。常遇春曰：“邵榮等反得成，豈得留我等性命，妻子亦沒為奴婢。上位有天命，其事敗露，乃天誅之也。今反留之，是違天也。所以後人仿效，遇春心實不甘。”太祖命縊殺之，籍沒其家產。
太祖於國初立君子、舍人二衛為心腹，選文官子侄居君子衛，武官子侄居舍人衛，以宣使李謙、安子中領之，晝則侍從，夜則直宿，更番不違。
太祖用高見賢為檢校，嚐察聽在京大小衙門官吏不公不法及風聞之事，無不奏聞太祖知之。又與僉事夏煜惟務劾人，李善長畏之。及兵馬指揮丁光眼巡街生事，無引號者拘拿充軍。又淩說、楊憲執法不阿。太祖嚐曰：“有此數人，譬如惡犬則人怕。”見賢又建言：“在京犯贓經斷官吏不無怨望，豈容輦轂之下居之，及在外犯贓官吏，各發江北和州無為住坐。彼中荒田甚多，每人撥與二十畝開墾，亦且得人納糧當差。”太祖從之，以參軍郭景祥督之。
太祖差按察僉事安慶撫諭及內官佛保整治種田。一曰，太祖親坐黃船忽到和州登岸駐馬，移時叫出前鎮江知府楊遵數之，曰：“爾楊仲弘之子，有學問，多才能，止是心忍。徐達曾言爾將鎮江百姓田畝增加分數，見得糧多，人目之曰：‘革？宣田楊’。又將斛麵削去，支糧與軍少了升合，積下糧米又無歸著。留你在世，恐生別事。”誅之。高見賢被楊憲舉劾，受句容王主簿豹皮等贓，發和州種田。先在彼者指而罵曰：“此語是你聞，今亦到此，是報也。”夏煜亦犯法，太祖取到湖廣，投於水。丁光眼害民事發，胡惟庸問招明白，太祖命誅之。
高見賢奏掾史張有道賣選，太祖命楊庸鞫之。有道招受同鄉徐君瑞買求樞密院掾史銀十兩。律該杖一百，太祖命分屍示眾。憲奏曰：“臣職專執法，不該死而誅之，是臣壞法也。”太祖從憲言，依律。
太祖在婺州夜出私行，遇巡軍阻之。小先鋒張煥從行，謂巡軍曰：“是大人。”巡軍曰：“我不知是何大人，隻知犯夜者執之。”言之再三，已之。次曰，太祖賞巡軍米二石，後不夜出。
太祖於國初以軍儲不足，禁軍民造酒，違者罪之。
太祖謂章溢曰：“爾在處州石抹參政處謀軍事，聞知部屬甚多，授爾浙江按察僉事，往處州收集，赴京助我調用。”溢集到原部下鄉兵二萬名，今男章允載管領，赴京聽調。太祖大喜，後用溢為禦史中丞。
太祖謂胡深曰：“爾回處州收集舊部屬，授爾王府參軍，就便管領守禦處城。”深為軍儲不足，於麗水等七縣大戶內征科銀兩以給軍，民苦之。有言其弊於太祖，太祖曰：“胡深未可與之較也。”深領兵攻溫州，不克。後又領兵取福建，至浦城，與陳友定兵戰敗被擒，友定殺之。太祖憫深陣亡，授其子世襲指揮。
王溥以建昌降，率將士赴京居住，自備糧食，不支官糧。太祖曰：“王溥可以聚寶門外南街住，置立牌樓，號其街曰宰相街。”溥為事毀之。溥係陳氏偽平章也。
方國珍既獻三郡，不奉正朔，太祖累遣夏煜、李謙、孫養浩、楊憲、傅仲章、程明善往諭之。國珍答曰：“當初獻三郡，為保百姓，請上位發軍馬來守，交還城池。不至，若遽奉正朔，實恐張士誠、陳友定來攻，援若不及則危矣。姑以至正為名，彼則無名罪我。況為元朝亂首，元亦惡之，不得已而招我四兄弟，授以大職名，我弱則不容矣。要之從命，必用多發軍馬來守，即當以三郡交還，國珍願領弟侄赴京聽上位之命。止乞國珍一身不仕，以報元之恩德，如此心持兩端。”太祖曰：“且置之，候我克蘇州，雖欲奉正朔則亦遲矣。”
太祖以嚴州密邇杭州敵境，命徐達至嚴州，展開五裏築城池，移浙東省治及金華軍馬守之。未久，諸暨院判謝再興叛降紹興張士誠。太祖特升同僉胡德濟為浙東行省參政，再於五指岩下新築諸暨城，屯駐軍馬，以圖進取。德濟部下將士家火尚留嚴州，間有潛地搬往新城者，文忠知之，意德濟使之，故將都事羅敬彥誅之，以戒後人。各將士怒曰：“我等守方麵，舍命征戰，略不相容。”說德濟曰：“何處不富貴？別為之圖。”德濟曰：“左丞殺羅敬彥，自為廣信戰卒作弊，非為我也。爾等分守寧家，再勿言，言以軍法治之。”後張士誠兵寇新城，德濟且守且戰，文忠援兵至，殺敗寇眾，獲到驍將數十人。捷報太祖，召德濟赴京。既見，太祖謂群臣曰：“我朝豈無人物，此等皆誠豪傑。”特升浙江行省左丞，賞駿馬一匹，以酬其勞。太祖召文忠責曰：“爾不能牢籠人，胡德濟之德量，你不及也。”克杭州，遷德濟浙江行省左丞。
太祖特令徐達征西，於莊浪失利，部下千、百戶十餘人達皆誅之，獨械德濟聽太祖自處之。至潼關，太祖有敕曰：“胡德濟固是慢功，前守新城有功，可宥之。”仍於徐達處聽調。達班師，德濟至京，後為陝西都指揮使。有病，太祖命醫治之，不痊而死。
胡大海克諸暨，錢萬戶來降，太祖賜衣服令其回。後獻策於張士誠，離諸暨五十裏溪中築一壩，水發即沒城，以戰船攻之可克。謝再興爭戰數年不能破決。及紹興歸附，械錢萬戶到京，太祖誅之。