法避免政敵的嫉妒和皇帝的猜疑。洪武六年(1373年)，劉伯溫的政敵胡惟庸當了左丞相，指使別人誣告劉伯溫，說他想霸占一塊名叫“茗洋”的“有王氣”的土地做自己的墳墓，圖謀不軌。早就對劉伯溫放心不下的明，聽到誣告后果然剝奪了劉伯溫的封祿。劉伯溫非?；炭郑谑怯H自上南京向明謝罪，并留在南京不敢回來。

洪武八年(1375年)，有病在身的劉伯溫由皇帝朱元璋所派使者護送回家，不久在家憂憤而死，享年65歲。在明初的官場中，以劉伯溫為代表的浙東派在與淮西派首領李善長的爭斗中，曾一度占上風，但最終卻劉基卻被李善長的心腹、奸臣胡惟庸所害。劉伯溫在南京時，胡惟庸曾派太醫(yī)為劉伯溫診病送藥，但劉伯溫吃了他的藥后，病情加劇。因此，當時人們懷疑劉伯溫是胡惟庸下毒致死。他死后139年，即明武宗正德九年（1514），被追贈太師，謚號文成，因而后人又稱他劉文成。

劉伯溫不但是一位謀略大師，也是一位著名的學者和文人，他的著作很多，流傳于世的有《郁離子》10卷和《誠意伯文集》20卷。其中，代表作《郁離子》一書在中國思想上和文學史上都占有重要地位。 劉伯溫死后，葬于青田武陽夏山。據說，劉伯溫死前曾預言胡惟庸必敗，到時明會為自己平反昭雪，他還特留下一封密奏給兒子，要他在日后明想起自己的時候再上奏。5年后，胡惟庸果然垮臺。又10年后，劉伯溫果然被平反。明還賜給劉氏家族金書鐵券，特批劉氏成員可憑此免一次死罪。