可惜如瑤等人才剛來到中國，就聽說胡惟庸已經掉了腦袋，於是悻悻而歸。朱元璋一直蒙在鼓裏，這一年不知道怎麼一來，已經過時的陰謀終於被揭穿了。朱元璋大怒，把林賢滿門抄斬，並且決定從此斷絕與日本的往來。因為此事而死的不止林賢一家，當然又會牽連出一大群人來，全都沒有好下場。
洪武二十三年（1390年），胡惟庸被殺十年以後，相關他的案件又有了新的突破。且說元順帝被趕出大都以後，向北逃回草原，史稱“北元”。明軍長年與北元交戰，洪武二十一年（1388年）大將藍玉領兵北伐，捉住了一員名叫封績的元將。封繼供稱，明朝前宰相胡惟庸曾經通過他聯絡北元太子愛猷識理達臘，打算向北元借兵以推翻朱元璋的統治。封繼被押回南京，隨即就被李善長藏匿起來了。
到了這一年的五月，封繼二度被捕，供認不諱，於是就又把太師李善長給牽扯了進去。正好李善長的家奴盧仲謙，以及陸仲亨的家奴封帖本也紛紛告密，揭發出李善長、陸仲亨等人早就參與過胡惟庸的“逆謀”，也是“胡黨”中人。於是朱元璋大開殺戒，把功臣吉安侯陸仲亨、延安侯唐勝宗、平涼侯費聚、南雄侯趙庸、滎陽侯鄭遇春、宜春侯黃彬、河南侯陸聚等人都給殺了。他看李善長年紀太老，隨時可能咽氣，就法外開恩，賜李善長一個人自縊，而把李善長全家七十多口都處以斬刑。
風波甚至一直延續到洪武二十五年（1392年），靖寧侯葉升被圈進“胡黨”，最後一個丟了性命。就連已經退隱多年的名臣、太子朱標的師父宋濂也逃不脫噩運，因為傳說他的孫子宋慎參與了“胡黨”，所以朱元璋就派錦衣衛把宋濂從老家金華捉到南京，打算抄殺他的滿門。皇後馬氏勸說道：“老百姓為孩子請個老師，尚且客客氣氣，好來好去，何況是皇家的老師呢？況且，宋先生退休多年，一直住在鄉下，孫子做了什麼事情，他怎麼會知道？”朱元璋想想也是，如此株連太沒道理，於是就饒了宋濂的性命，把他充軍到茂州（今四川省阿壩自治州茂縣）去。宋濂已經七十多歲了，連驚嚇帶勞累，走到半路上就咽了氣。
●君權大勝相權
胡惟庸到底有無謀反之心，曆代學者各執一詞，誰都說服不了誰。但有一點是肯定的，即便胡惟庸真的有謀反之心，並且開始謀劃了，他的黨羽也不會有三萬之多，李善長、鄭遇春等功臣宿將有一半以上都是被冤殺的。那麼朱元璋知不知道這是一樁冤案呢？很明顯，他心裏明鏡似的。
洪武二十六年（1395年），繼“胡案”之後又發生了“藍案”，也就是涼國公、大將藍玉因謀反罪被誅，前後牽連一萬五千多人。經過這兩個大案，朱元璋幾乎把開國功臣殺了個幹淨，從此再也沒有威脅他皇帝寶座的外姓力量存在了——所以後來他的兒子朱棣起兵“靖難”，搶侄子建文帝朱允炆的天下，建文帝竟然找不到一個帥才領兵去抵禦。
朱元璋為人深險忌刻，他對誰都不放心。為了奪取天下，他曾一度禮賢下士，到處招攬人才，然而等到天下坐穩了，他就開始搞特務政治，設立“錦衣衛”等機構監視大臣們。劉基多謀，朱元璋對他頗為忌憚，開國以後隻給了他一個禦史中丞的官位，結果使得浙東集團被淮西集團壓製得喘不過氣來。然而朱元璋對那群淮西老鄉隻有更不放心，所以找個藉口殺掉胡惟庸，順便把李善長等老鄉全都扯下了馬。
徹查“胡案”，興起大獄以後，朱元璋特地頒布《昭示奸黨錄》，以隱瞞自己藉機屠戮功臣的真相。其實“胡案”所打壓的並非僅僅胡惟庸的黨羽，也包括其他淮西老人，甚至包括非淮西集團的臣子。劉基、章溢、葉琛、宋濂被稱為“浙東四先生”，都是浙東集團的首腦，可是最終宋濂竟然也因為“胡案”而死。
“藍案”也是如此，朱元璋頒布了《逆臣錄》，其內容與《昭示奸黨錄》有異曲同工之妙，充滿了猜測、假想和根本沒法讓人相信的所謂“證據”。比如一個叫蔣富的招供說，藍玉出征回來曾請他喝酒，席間說：“老蔣，你是我的舊人，我有句話和你說，你千萬別走漏了消息。如今我要圖謀大事，已經和眾頭目都商量定了，你回去到家等候，等下手的時候就來幫忙，日後我也會抬舉你的。”又有一個叫張仁孫的招供道，藍玉曾經對他說：“我要成大事，你們各自準備兵器，聽候傳喚。事成之後都有大官做。”然而這兩個人當時的身份，一是漁戶，一是染匠，就算再受藍玉信任，這種大事能夠隨便向他們泄露嗎？
當然，“胡案”和“藍案”還是有很多不同之處的，“胡案”主要打擊的是文官係統，“藍案”則把開國武將幾乎一網成擒。而且，朱元璋引發“胡案”，還有一個很大的原因，那就是壓製相權。
中原王朝的相權是逐漸在減弱的，從兩漢的丞相，到唐宋的同中書門下平章事，管轄範圍越來越小，權力越來越弱，人數反倒呈上升趨勢。可是元朝的宰相權力卻很大，出了燕鐵木兒、伯顏等多位權相，明初沿襲元製，宰相一樣一人之下，萬人之上，地位重要得不得了。
明初的宰相是中書省左、右丞相，中書省是政府最高機構，同時還管轄著各地的行中書省，宰相隻有兩個，當其中一人不能理事或不願理事的時候，很容易就變成獨相製。比如一開始李善長和徐達，實際管事的就隻有李善長一人，後來的胡惟庸和汪廣洋，實際管事的也隻有胡惟庸。
在這種情況下，相權很可能威脅到君權，宰相有機會推翻皇帝，取而代之。這是一個製度所產生的趨勢問題，不是指的實際情況，即便胡惟庸並不是獨相，即便他沒有欺上瞞下，擅權枉法，朱元璋也是不會放過他的。就象李善長退休已經那麼多年，還是被朱元璋給揪出來法辦了。
洪武九年（1376年），朱元璋下旨撤銷平章政事和參知政事等宰相的副手官職，又勒令吏、戶、禮、兵、刑、工六部向皇帝奏事可以不通過中書省，從而削弱了中書省的權力。隨即他就趁著用“胡案”興起大獄的機會，幹脆廢除了中書省，將原本隸屬中書省的六部改為直接對皇帝負責，實行六部治國。這是中國封建史上唯獨沒有宰相機構的一段時間——當然，在強權皇帝的統治下，沒有宰相或者宰相不管事的情況則多了去了。
洪武二十八年（1395年），朱元璋發下諭旨，召示群臣說：“國家撤銷丞相，設各府、部、院、寺以分別管理政務，這樣建立國家機構最為完善。以後的皇帝，都不要再設丞相，臣下敢於提出類似建議的，要處以重刑。”
然而取消了丞相，固然加強了君權，但這沉重的君權壓在一個人的肩膀上，就算精力旺盛的朱元璋也有點吃不消了，很多奏章他都不能一一加以批閱。為了協助自己處理政務，朱元璋設立了“四輔官”，品級很高，但權力很小。然而既然沒有什麼權力，也就無法在實際行政事務上幫上皇帝多少忙，“四輔官”設置了一年以後，朱元璋被迫又把這項製度給廢除了。
其後朱元璋又仿造宋朝的製度，設置殿閣大學士，作為皇帝的顧問官。大學士品級不高，但因此逐漸地握有了部分實權。從明成祖朱棣開始，逐漸提升大學士的品級，並且把他們聚集起來辦公，就稱為“內閣”。就這樣，朱棣以後，內閣大學士變成了新的宰相。
宰相是皇帝的輔佐官，是統籌大局的官僚，按照中國傳統的官僚體係來說，它是不可欠缺的存在，以朱元璋一人之力，是無法把這個製度從根本上抹殺掉的。他下令後世不設丞相，但宰相正不必要叫丞相這個名字，並且事實上，曆朝曆代掛著“丞相”這個名號的宰相也並不是主流。民間往往把作為官名的丞相和作為職務的宰相混而為一，朱元璋恰巧也犯了同樣的錯誤。
不過朱元璋之廢黜丞相製度，甚至一段時間內真的不設宰相，從一個側麵反映出明朝君主的權力又比前代有所加強。在君權與相權的鬥爭中，朱元璋打了一個大勝仗，這個勝仗對後世影響頗深，封建集權體製更加完備了，皇帝的權力越來越大了，於是封建官僚體製也就日益走向它的黃昏落日。