劉伯溫嫉惡如仇，法律嚴明，最后卻因后怕而去。

制定嚴法

劉伯溫的性情剛烈，嫉惡如仇，尤其痛恨非法之事，只要被他抓住了，無論是誰都決不放過，因此經常與他人發生沖突，也因此得罪了不少人。

劉伯溫認為宋元幾朝的最終崩潰，其原因都在于法制廢弛，刑獄過寬，世人沒有畏懼之心，以致最終釀成天下大亂的局面。所以，他建議朱元璋，在建國之初就應該建立起嚴密的法律制度，并且要嚴格執行，這樣才能使朝政振作，官民一心，都不敢為非作亂，在這個基礎之上，才能談到對百姓施行仁政的問題。他的說法很接近法家的學說，主張以嚴刑治國，使臣民畏懼聽從。這在建國之初局勢還沒有穩定下來的時候是有一定的合理性的，只有百姓迅速安定下來，才有可能談到休養生息或是國家建設的問題。從歷史的發展表明，他的這個意見受到了朱元璋的大力贊同，他命劉伯溫等文人制定了完備的法律，并多次親自厘定，在以后數十年的皇帝生活中也是毫不猶豫的身體力行著。

嚴格執法

在具體的執法問題上，劉伯溫總是保持著一種剛正嚴肅的作風，也要求他手下的官員都要如此做，作為國家耳目的御史，糾察百官時必須要鐵面無私，無所畏懼，只以朝廷綱紀為準繩，只以事實根據為憑證。遇到有官吏犯了法，他就馬上收捕，加以無情的懲治。正因為他的鐵面無私，執法時的六親不認，當時朝中的官員、侍衛、內官無不懼怕他的威嚴，力求行事正經，就怕被劉伯溫抓到了錯處。

當時中書省有個官員叫李彬，他利用手中的權力貪污受賄，違反了國家的法紀，按照律令應該被處以重刑。但是這個李彬很受宰相李善長的信任和喜愛，李善長知道他犯了法被人揭發，很怕劉伯溫對他不利，就親自去找劉伯溫求情，希望劉伯溫放過李彬這一次。但是劉伯溫一向嫉惡如仇，又怎么肯徇私情而放了他呢？他不假思索地拒絕了李善長的請求，還馬上派人去向此時正在外地巡視的朱元璋報告，要求盡快處理李彬這個案子。朱元璋也和劉伯溫一樣憎恨貪官污吏，見到報告，立刻就批準了劉伯溫的請求。

當時正值金陵一帶大旱，因為皇帝不在城中，所以就由李善長主持搭建了一個高臺作為祈雨之用。朱元璋的文書到后，他知道李彬就要被處決，想以祈雨之時不能殺生作為借口，盡量拖延李彬被處死的時間，再另尋解救他的辦法。劉伯溫卻是毫不動搖，堅持要立刻處決李彬，并且說正是因為有了李彬這樣為非作歹的人在，老天爺因此很憤怒，才以干旱作為懲罰人們的手段，所以只有立刻就殺了李彬，才能消解上天的不滿，才能祈得降雨。

如此一說，使李善長再也沒有什么話可以回答。劉伯溫見他不再出言反對，就立刻命令手下把李彬推到祈雨的高臺之上，當著眾多圍觀的百姓宣布了李彬的罪狀，并且命人將他就地斬首，這一下，臺下的百姓都拍手稱快，紛紛叫好。

后怕而去

李善長因為這件事，對劉伯溫恨之入骨。本來劉伯溫所顯示出的聰明才智已經讓他非常忌憚，朱元璋很信任劉伯溫，常常與劉伯溫單獨在密室里長談，談話的內容從沒有人知道，所以他總是擔心有一天劉伯溫會搶了自己手中握著的大權。通過李彬這件事，他更覺得非盡快除掉劉伯溫不可。朱元璋一回到京城，他就馬上去告狀，說劉伯溫在祭神之日殺人，是對上天的不敬，觸怒了神靈，因此到現在還沒有下雨。其他一些吃過劉伯溫虧而嫉恨他的人也紛紛趁機落井下石，在朱元璋的面前說劉伯溫的壞話。

朱元璋一聽果然不太高興，就找來劉伯溫詢問此事。劉伯溫也知道皇帝現在正寵信李善長，必定會對自己產生不滿，他對這件事的解釋是因為那個地方有數萬士兵家屬居住，因此陰氣匯集造成不下雨，只要解決這個問題就會有降雨的。朱元璋采納了他的意見，不知是否真是劉伯溫的神機妙算，還是因為他精通天文，早已算出會有降雨，不久果真大降大雨，朱元璋才轉怒為喜。

雖然過了這一關，劉伯溫明白只要自己在朝中，還是會有許多奸詐小人設法陷害，這次雖然平安過關，但是難免早晚會觸怒皇帝而招來殺身之禍。正巧這時他的妻子去世了，他就以自己哀傷過度、精力衰竭為借口，請求辭官回鄉養老。

朱元璋親自頒布一道詔書，表彰他的功績，并賞賜了他很多東西，允許他辭官回鄉，并派專人護送他離去。劉伯溫謝絕了皇帝的一切封賞，孑然一身的離去了。