背景
洪武六年（1373年），淮西朋黨集團的領袖李善長推薦其同鄉兼姻親胡惟庸擔任右丞相。洪武十年（1377年）九月，胡惟庸升任左丞相。他做了七年丞相，任期內在朝中遍植朋黨，不遺餘力地打擊異己，使得淮西朋黨集團的勢力不斷膨脹。譬如，浙江青田人劉基，曾輔佐朱元璋，立下過汗馬功勞，但由於他與淮西朋黨集團的矛盾，一直未受重用。明朝開國後，朱元璋大封功臣，劉基僅封為誠意伯，歲祿只有240石 。而李善長則功封韓國公，歲祿4000石。翌年，劉基告老還鄉。然而，由於他曾對朱元璋說過胡惟庸不宜入相的話 ，故而深受後者的嫉恨，被解僱革去歲祿 。洪武八年（1375年），劉基生病，胡惟庸派醫生前去看望，但劉基服藥後不久便一命歸西 。
當然，排斥異己還不是胡惟庸案的關鍵所在。事實上，胡案的癥結在於——他為人過於獨斷專行，許多生殺黜陟等重大案件，他往往不向朱元璋請示，就擅自加以處理。這自然讓權力欲極強的朱元璋，深感宰相專權、皇權旁落的危機。
經過
洪武十三年（1380）正月，丞相胡惟庸稱其舊宅井裡湧出醴泉，此為祥瑞，並藉此邀請朱元璋前來觀賞。朱元璋欣然前往，走到西華門時，太監雲奇緊拉住韁繩，急不能言，拚命指向胡家。朱元璋感覺事態嚴重，立即返回，登上宮城時，發現胡惟庸家上空塵土飛揚，牆道都藏有士兵。大怒，以“枉法誣賢”、“蠹害政治”等罪名，當天處死胡惟庸、陳寧等。同時藉辭窮追其友好，包括開國第一功臣韓國公李善長等大批元勛宿將皆受株連，牽連致死者三萬餘人，史稱胡惟庸案。胡惟庸案與藍玉案合稱胡藍之獄，誅滅直到洪武二十五年（1392）方告結束。
洪武十八年（1385），有人告發李存義與其子李佑，曾同胡惟庸謀逆。洪武十九年（1386年）明州衛指揮林賢通倭事發，經審訊得知，是受胡惟庸指使。李善長為了大興土木，向信國公湯和借用衛卒300名。湯和暗中向朱元璋報告。朱元璋頒敕李善長以“元勛國戚，知逆謀不舉，狐疑觀望懷兩端，大逆不道”，其妻等70餘人被殺。陸仲亨的家奴告發陸仲亨與唐勝宗、費聚、趙雄三名侯爵，曾串通胡惟庸“共謀不軌”。宋濂的孫子宋慎亦受牽連被殺，宋濂本人貶死四川茅州。朱元璋特地頒布《昭示奸黨錄》。
然而經歷史學家考證，並沒有太監拉韁繩從而阻止朱元璋進入胡家這回事。雲奇這個人物也僅僅是正史捏造出來的。
評價
胡惟庸是中國歷史上最後一個名至實歸的丞相。此後，中國皇朝的“丞相”職位徹底消亡。從這個意義上說，不管他是奸是忠，他是最後一個敢向皇帝權威挑戰的丞相，胡惟庸被動地改變了中國歷史。
爭議
明代史籍中關於胡惟庸案的記載多有矛盾，因此關於其是否確實謀反，當時便有人懷疑，明代史學家鄭曉、王世貞等皆持否定態度。也有學者指出：所謂的胡惟庸案只是一個藉口，目的就在於解決君權與相權的矛盾，結果是徹底廢除了宰相制度，大大加強了皇帝專制集權。
晚明學者錢謙益說：“雲奇之事，國史野史，一無可考。”《明史》說“惟庸既死，其反狀猶未盡露”。後世懷疑這根本是朱元璋對相權威脅君權恐懼，故引發殺機，甚或濫殺無辜。早在洪武十一年（1378年），朱元璋就命令以後臣下上奏書， 不許“關白”中書省（大臣奏事時，中書省不必知道）。洪武十三年（1380年）廢除丞相制度之舉，只是不許“關白”中書省的延續，意思是大權獨欖，集自古以來皇權、相權於一身，從此六部尚書直接對皇帝負責。洪武二十八年（1395年）六月，太祖御奉天殿，敕諭文武群臣說：“自古三公論道，六卿分職。自秦始置丞相，不鏇踵而亡。漢、唐、宋因之，雖有賢相，然其間所用者多有小人專權亂政。我朝罷相，設五府、六部、都察院、通政司、大理寺等衙門，分理天下事務，彼此頡頏，不敢相壓，事皆朝廷總之，所以穩當。以後嗣君並不許立丞相，臣下敢有奏請設立者，文武群臣即時劾奏，將犯人凌遲，全家處死。”
