明初的統治集團，是由兩方麵地主組成的，一方麵是原有的地主，如淮西和浙東地主集團，他們支持朱元璋建立了新政權；一方麵是農民出身的朱元璋的將領，他們轉化成地主以後，和支持朱元璋建立明朝的舊地主，都是新朝權貴。在鞏固和發展新王朝的統治中，他們的階級利益雖然一致了，但發生了新的矛盾，在財產權力再分配中，淮西、浙東之間，文臣、武將之間，都要發展各自的勢力。除各集團之間的矛盾外，有時還和皇權形成衝突，成為明初朱元璋加強集權發展專製的內在原因。麵對著公侯將相的權勢和有些新權貴的不法行為，特別是他的戰友與舊將邵榮和謝再興的背叛，使朱元璋放心不下，猜疑他們來搶奪皇位。
為了使公侯將相盡忠於朱明王朝，洪武五年（2372），朱元璋作了申誡公侯的《鐵榜文》①；洪武八年（1375），又編了《資治通訓》，反複強調要他的臣僚對他效忠，勿欺、勿蔽；洪武十三年（1380），又編了《臣戒錄》，“纂錄曆代諸侯王宗戚宦臣之屬，悖逆不道者凡二百十二人”的行事②，來教育他的臣僚；洪武十九年（1386），又頒布了《誌戒錄》，“其書采漢唐宋為臣悖逆者凡百有餘事，賜群臣及教官諸生講授，使知所鑒戒”③。原來，朱元璋不允許儒者在他的將領左右議論古今，這是因為在天下擾攘君臣名分未定之際，怕知識分子為他的將領出謀劃策，去獨立發展。而當明王朝建立後，朱元璋卻鼓勵他的將領去接近儒臣，並規定武將在“操練之暇”，命儒臣去給他們講解“上古以來忠臣烈士”、“忠君報國之義，事上死長之節”④，等等。盡管如此，朱元璋仍不放心。因為統治階級內部的矛盾越來越突出。如楊憲為禦史中丞，朱元璋曾想用作相，胡惟庸對李善長說：“楊憲為相，我等淮人不得為大官矣。”於是李善長就乘機彈劾其“放肆為奸事”，最終使楊憲沒有逃脫被殺的下場。早在洪武初年，一天朱元璋召見劉基，同他商量任用丞相的事。劉基認為楊憲有丞相的才能，沒有丞相的器度，汪廣洋的器量比楊憲更褊狹，他們都不能任相。朱元璋又問到胡惟庸，劉基連連搖頭，說胡惟庸像一頭小牛犢，一經重用，就會摔破車轅，撞碎犁杖，為禍不淺。後來，朱元璋還是起用胡惟庸擔任左丞相。
胡惟庸是朱元璋在和州時的帥府奏差，李善長的親戚。由於李善長的推薦，洪武三年任中書省參知政事，六年升右丞相，進左丞相，深得朱元璋信任，權勢日盛。他本人的品格，據明人諸書所記，是一個狡猾陰險、專權樹黨的人。就這一點來說，他與賦性猜嫌、自私慘刻的朱元璋必然不能相容。再則，他大權在握，不免一意專行，朝廷上生死人命和官吏升降等大事，有時徑自處理，不向皇帝請示。因此各地想做官、升官的人和功臣、軍人遭貶斥的都奔走在他的門下。功臣吉安侯陸仲亨和平渡侯費聚，都因受到朱元璋的譴責，與胡惟庸密相往還。胡惟庸又和禦史大夫陳寧結為死黨，秘密翻閱軍隊的檔案，招勇夫為衛士，納亡命作心腹。由於胡惟庸在中書省時間最久，權力最重，已使朱元璋感到大權旁落，而軍事貴族陸仲亨等又和胡惟庸相勾結，更使朱元璋產生懷疑，君權與相權的矛盾更加嚴重。朱元璋決心消除這一心腹之患。於是終於在洪武十三年（1380），以擅權枉法的罪狀殺了胡惟庸，屠滅三族，連坐其黨羽，誅戮了一萬五千多人。
胡惟庸一案，使朱元璋對身邊的功臣宿將，猜忌之心大起，遂著手開始了一場血腥的屠殺。洪武二十三年（1390），距胡惟庸案發已經十年之久，再興大獄，又有一批人被殺，就連七十七歲的老丞相李善長也被賜死，自縊，家屬七十餘人全部被殺。“詞所連及坐誅者三萬餘人”⑤。朱元璋興猶未已，親自羅列被殺諸臣的罪狀，作《奸黨錄》，布告天下。
李善長死後的第二年，工部侍郎王國用上書說：“善長與陛下同心，出萬死以取天下，勳臣第一，生封公，死封王，男尚公主（李善長的兒子李祺被朱元璋招為駙馬），親戚拜官，人臣之份極矣。自圖不軌，尚未可知；而今惟其欲佐胡惟庸者，則大謬不然。人情愛其子，必甚於兄弟之子；安享萬全之富貴者，必不僥幸萬一之富貴。善長與惟庸，猶子之親耳（李善長的侄兒是胡惟庸的侄女婿），於陛下則親子女也。使善長佐惟庸成，不過勳臣第一而已矣，太師國公封王而已矣，尚主納妃而已矣，寧複有加於今日？”⑥朱元璋聽後雖然不高興，但也沒說什麼。