明朝建立之初，雖然朱元璋勤於朝政、鞠躬盡瘁，但借由戰爭浮上新貴階層的地主官僚還是想方設法地營私舞弊、盤剝農民，曾經追隨朱元璋南征北戰的功臣宿將也開始居功自傲、巧取豪奪。由於民生之艱難，剛剛緩和的農民運動又有抬頭的趨勢，再加上東南沿海一帶倭寇頻繁出沒，剛剛登上曆史舞台的明朝竟陷入了內憂外患之中。朱元璋也充分認識到官員腐敗的危害性，他製定了嚴酷的《明律》，又建立起都察院，下設十三道監察禦史，用以施行《明律》中所規定的嚴刑峻法。
明太祖對權臣的血洗，是由胡惟庸開始的。朱元璋手下最具遠見的文臣劉基一開始就認為胡惟庸這個人不過是區區小犢，不能委以重任，一旦重用必然導致轅裂犁破、禍不單行。胡惟庸的為人向來狡猾奸詐，當上宰相之後更是恃權自專，常常不經請示便自行決斷朝中的生殺陟黜之事，甚至私自拆閱公文，對不利於自己的奏章就藏匿不報。後來，他眼見朝廷官吏屢屢得咎，有的人甚至性命不保，便暗中勾結遭到朱元璋懲治而心懷不滿的官吏，準備起兵反叛。
公元前1380年正月，胡惟庸及同黨奏告朱元璋，說京宅井出現的一眼甜泉乃是大吉大利之兆，請太祖前去觀看。就在朱元璋信以為真，準備從西華門駕車前往的時候，內使雲奇突然勒住馬的韁繩，極力勸阻皇上不要前往。
雲奇唐突犯上的行為激怒了朱元璋，他命令左右護衛用金錘擊斷了雲奇的胳膊，然而氣息奄奄的雲奇仍然鍥而不舍地用手指著胡惟庸宅第的方向。朱元璋見狀才突然醒悟，連忙登高遠望胡惟庸的宅第，一眼便覺察出胡宅中透出的隱隱兵氣。朱元璋大驚，立即派兵將胡惟庸及埋伏的士兵捉拿歸案。很快，胡惟庸便被押至市曹淩遲處死。
朱元璋當然並沒有就此罷休，而是借題發揮、四處清算，大肆屠殺與胡惟庸一案有關的官員和平民，最後竟連太師韓國公李善長的全家都慘遭血洗。1393年，朱元璋又以誅殺開國大將藍玉為開端，再次進行慘絕人寰的大規模清洗運動。單是胡惟庸和藍玉兩案，就讓四萬人成為了刀下亡魂。
對於那些僥幸活著的官員，朱元璋著重營造全民告密和特工監督的高壓態勢。在錦衣衛的監視之下，文武百官的一舉一動都處在朱元璋的監視之下，其荒誕程度已經到達了登峰造極的地步。
有一次，博士錢宰在退朝回家的路上隨口吟誦道：“四鼓咚咚起著衣，午門朝見尚嫌遲，何時得遂田園樂，睡到人間飯熟時？”他萬萬沒有想到，一個“嫌”字差點為自己帶來殺身之禍。第二天上朝之時，朱元璋對錢宰說：“聽說愛卿昨天做了一首好詩？但是朕並沒有‘嫌’你啊，改成‘憂’字你意下如何？”錢宰當即嚇出一身冷汗，連忙磕頭謝罪，好在朱元璋心情大好，並沒有問責之意，錢宰才沒有丟掉性命。
吏部尚書吳琳告老還鄉，好不容易擺脫了朝中的恐怖，卻沒想到自己悠然自得的田園生活仍然遭到了錦衣衛的監視。有一天，特務向附近田間插秧的一個老農夫詢問道：“你們這兒可有個退了休的吳尚書？”那老人拱手答道：“在下便是。”這段對話原封不動地傳入了朱元璋耳中，吳琳因為沒有異心而得到了皇上的重賞。
著名的大學士宋濂對朱元璋可謂是赤膽忠心。一天，他在家中大宴賓客，特務竟向朱元璋呈報了完整的賓客名單和菜單。第二天上朝的時候，朱元璋便問起宋濂賓客及菜肴的情況，宋濂如實回答之後，朱元璋才露出了滿意的笑容：“看來宋學士確實沒有騙我！”
國子監祭酒宋訥因為家事而悶悶不樂，特務懷疑他對皇上不滿，便將他生氣的樣子畫下來交給朱元璋。第二天上朝的時候，朱元璋果然質問宋訥為什麼要生氣，宋訥再三解釋，朱元璋才不予追究。為了起到警告作用，朱元璋還特意將錦衣衛所作的畫像拿給宋訥看，將宋訥驚得目瞪口呆。
除此之外，朱元璋對當朝文人喜怒無常的暴虐態度也十分讓人心驚膽寒。朱元璋有個幼時的朋友叫陳君佐，此人年少成名，文采斐然。朱元璋當上皇帝之後，每次在淮陽一帶巡視的時候總喜歡帶上陳君佐。相傳朱元璋在一家小店用餐時興致頗高，當場出了一個上聯：“小村店三杯五盞，沒有東西。”坐在一旁的陳君佐不假思索地對道：“大明君一統萬方，不分南北。”朱元璋聽後非常高興，令人重賞了陳君佐。沒過幾天，朱元璋又遇到一位文采風流的重慶府監生，為了考察他是否有真才實學，朱元璋又出了一個上聯：“千裏為重，重山重水重慶府。”那人也不慌亂，開口就對道：“一人為大，大邦大國大明君。”朱元璋對這個下聯十分滿意，第二天便派人送去了千兩黃金。