劉伯溫功成身退，謹言慎行。但他究竟是怎么死的呢？

明哲保身

劉伯溫博古通令，善觀天象，又有豐富的行政經驗，深知功高蓋主的危險，特別是朱元璋性好猜忌，自己更應該及早抽身。于是在洪武四年，也就是他被封為誠意伯的第二年，劉伯溫以年老多病為由，請求解甲歸田，并謝絕了太祖的一切賞賜。朱元璋見他沒什么野心，也就讓他帶爵回鄉養老了。

劉伯溫回到青田老家后，仍然謹言慎行，小心翼翼。他知道明太祖派出很多特務，在各地巡行，監察官員們的言行。無論官員在朝還是在野，都逃不掉這些特務的監視，許多大臣就是因為在日常生活中不謹慎而遭到了嚴懲，嚴重的甚至為此而丟了性命。劉伯溫深知此中利害，擔心言多必失，所以回家后閉口不談政事，也不與任何地方官員往來，盡可能的避免一切嫌疑。據說當時的青田知縣一直想找機會拜見他，但幾次都遭到劉伯溫的拒絕。后來，知縣換上農夫的便裝，終于在山中見到了劉伯溫。可劉伯溫一聽他說出真實身份之后，馬上自稱草民，辭謝而去，從此避而不見。

小人陷害

盡管他如此謹慎，卻還是遭到朝臣的陷害和皇帝的懷疑。

劉伯溫在朝中時一向與胡惟庸不和。劉伯溫素有識人的精準眼光，他一直認為胡惟庸是個害群之馬，成事不足而敗事有余。當朱元璋在李善長辭去宰相之職后，向他詢問新宰相的人選時，劉伯溫就向朱元璋如實地說出自己的想法。這件事后來被胡惟庸知道了，認為劉伯溫是有意阻礙自己當宰相，因此心里十分憎惡他。而且劉伯溫在初任司法官員時，鐵面無私，不徇私情，也很讓胡惟庸心生忌憚。盡管這時候劉伯溫已經辭官回鄉了，但是還十分受到朱元璋的寵信，常常寫信給他詢問一些事情。這對于一心想掌握大權的胡惟庸來說，仍是一個巨大的潛在威脅，所以胡惟庸總想找機會致劉伯溫于死地。這個機會終于來了！

事情的起因是劉伯溫的一道奏折。當時劉伯溫的家鄉附近有一片三不管的不毛之地，后來成了盜賊的聚集地。劉伯溫上奏折給朱元璋，請求在這個地方設立巡檢司，以防止盜賊在那里聚眾起事。為了這件事，劉伯溫派他的長子劉璉進京面見朱元璋。劉璉到京城后，沒有先告訴胡惟庸掌管的中書省，而是由通政司直接上達給朱元璋。胡惟庸知道后自然更加不滿，認為劉伯溫眼中根本沒有自己。他到朱元璋面前惡意誣陷，說劉伯溫看中了那塊地，那地方有帝王之氣，風水好，劉伯溫想搶過來做自己的基地。當地的百姓不讓給他，他就想以設立巡檢司為名，把百姓都趕走，借以實現他日后讓子孫稱王的目的。

朱元璋聽了胡惟庸的造謠，雖然當時表面上沒什么反應，心里卻也在暗暗懷疑，因為他深知劉伯溫精通陰陽天象之理。不久之后，朱元璋就借故剝奪了劉伯溫的爵位和俸祿。劉伯溫知道皇帝對自己起疑了，心中十分害怕，趕忙親自到京師謝罪，然后就一直住在京城中，不敢再提返回家鄉的事。

恩及子孫

劉伯溫在京城中，每一天都提心吊膽，戰戰兢兢，深知自己處在危險的境地之中。這時胡惟庸已經當上了宰相，大權在握，表面上雖然對劉伯溫很客氣，暗地里卻在虎視眈眈。劉伯溫不久就憂慮成疾，一病不起。他一再請求朱元璋讓他回鄉養老。一直到洪武八年，朱元璋才準許他返回青田。

劉伯溫回到青田后一個月，就病重死去了，死時還不到65歲。他在臨死之前，曾經把二子劉璟叫到床前，告訴他說：“為政之道，有時要寬大一些，有時要嚴猛一些，應該寬嚴交替并用。數年來，皇上以嚴猛治國，現在的要務則是在于修德省刑，實行寬大之政，以安撫民心，使國家長治久安。”他還說，現在正是胡惟庸當政之時，他無論說什么都是沒用的，不過日后一旦胡惟庸失勢，皇帝一定會想到他。他叮囑兒子如果那時皇帝來問他死前說過什么，就把這些話上奏給皇帝。

果然，洪武十三年，胡惟庸因謀反大罪被殺，朱元璋又想起了當年劉伯溫對他的評價，于是派人去劉伯溫家中去探問。劉璟按照父親的遺囑，把他死前的話密奏給朱元璋。朱元璋看到后不禁感慨萬千，更加佩服劉伯溫的先見之明。

據說，劉伯溫在京中病重之時，胡惟庸曾特地帶了醫生去為他診治。他們回去后，劉伯溫服了這個醫生開的藥，從此更是一病不起，藥實無效，不久就病重而死。因此，劉伯溫的被害，也成為日后胡惟庸被殺的一個重要罪名。而朱元璋在劉伯溫死后，才想起他來，因為感念他的忠誠，破例讓他的子孫世世代代傳承爵位，而不是一代即止，一直延續到明朝滅亡。