洪武十三年（1380）正月，丞相胡惟庸稱其舊宅井里涌出醴泉，此為祥瑞，并借此邀請明太祖朱元璋前來觀賞。朱元璋欣然前往，走到西華門時，太監(jiān)云奇緊拉住韁繩，急不能言，拼命指向胡家。

朱元璋感覺事態(tài)嚴(yán)重，立即返回，登上宮城時，發(fā)現(xiàn)胡惟庸家上空塵土飛揚，墻道都藏有士兵。太祖大怒，以“枉法誣賢”、“蠹害政治”等罪名，當(dāng)天處死胡惟庸、陳寧等。

同時藉辭窮追其友好，包括開國第一功臣韓國公李善長等大批元勛宿將皆受株連，牽連致死者三萬余人，史稱胡惟庸案。胡惟庸案與藍玉案合稱胡藍之獄，誅滅直到洪武二十五年（1392）方告結(jié)束。

除掉胡惟庸后，朱元璋罷左右丞相，廢中書省，其事由六部分理，另設(shè)殿閣大學(xué)士供皇帝做為顧問，結(jié)束了中國的宰相制度，加強了專制皇權(quán)。胡惟庸是中國封建王朝最后一個名至實歸的丞相。此后，中國封建王朝“丞相”職位徹底消亡。從這個意義上說，不管他是奸是忠，他是最后一個敢向皇帝權(quán)威挑戰(zhàn)的丞相，胡惟庸被動地改變了中國歷史。