尉遲敬德原是劉武周手下的一員偏將。公元619年（唐武德二年），劉武周命尉遲敬德與宋金剛等人向南侵入了山西等地，攻陷了晉州（治所在今臨汾東北）、澮州，使得新建立的唐朝受到威脅。恰好唐將呂崇茂在夏縣（今陜西韓城南）造反，尋相、尉遲敬德率軍深入至夏縣接應(yīng)呂崇茂，擊潰了唐朝的永安王李孝基的軍隊(duì)，俘獲了唐將獨(dú)孤懷恩、唐險(xiǎn)等人，取得了一系列的勝利，關(guān)中震駭。

唐高祖李淵聽說了這種情況，親筆書寫敕令說：“賊勢如此，難與爭鋒，宜棄河京（今山西省），謹(jǐn)守關(guān)西（潼關(guān)以西，今陜西）而已。”李世民覺得這樣做太保守，不是立國之道，就上表章諫道：“太原是王業(yè)的基礎(chǔ)，是國家的根本，河?xùn)|（今山西省）富足，是京城物資供應(yīng)的基地，如果把這些地方全都放棄，我內(nèi)心實(shí)在感到遺憾。我愿請兵三萬，必能消滅劉武周，克復(fù)汾州、晉州。”高祖了解李世民，知道他善打硬仗，就把關(guān)中的兵馬都調(diào)歸李世民指揮，而且親自到長春宮為李世民送行。

是年11月，李世民率軍奔赴龍門關(guān)，大軍踏冰渡過黃河，進(jìn)駐柏壁（今山西新絳縣西南），與宋金剛的軍隊(duì)相對峙。尋相、尉遲敬德在接應(yīng)唐朝叛將呂崇茂之后欲撤回澮州，李世民見這是戰(zhàn)機(jī)，就派殷開山、秦叔寶在美良川截?fù)簦褜は唷⑽具t敬德打得大敗。于是眾將請戰(zhàn)，想乘勝追擊，取得更大的戰(zhàn)果。李世民分析了當(dāng)時(shí)的情況，對眾將說道：“宋金剛率軍遠(yuǎn)行千里，深入我方地域，已犯了兵家大忌，敵人的精兵強(qiáng)將都集中在這里。劉武周雖然占據(jù)太原，但完全依賴宋金剛作前衛(wèi)，敵人的士兵雖多，實(shí)際上后方是空虛的，因此他們想速戰(zhàn)速?zèng)Q。如果我們此時(shí)出擊，正好以己之短，攻敵之長。當(dāng)下之計(jì)，應(yīng)該堅(jiān)守營寨，養(yǎng)精蓄銳，以挫敵人的銳氣，待敵人糧盡計(jì)窮時(shí)逃走時(shí)再行追擊。”諸將同意李世民的看法。

公元620年（武德三年）2月，宋金剛終于因軍糧接濟(jì)不上而率軍逃跑，李世民指揮大軍追擊敵人，到達(dá)了介休（今山西省介休縣，位于山西省中部），宋金剛見無法逃脫唐軍的追擊，只好列陣抗拒唐軍，李世民指揮唐軍三面夾擊，宋金剛軍潰敗，自己也逃奔突厥。此時(shí)，尉遲敬德收拾殘部，退守介休城。

唐軍把介休城四面圍定，尉遲敬德內(nèi)無糧草，外無救兵，陷于絕境。李世民派任城王李道宗、宇文士及入城勸說尉遲敬德投降。尉遲敬德早就聽說了李世民禮賢下士的名聲，就與尋相率全城八千士兵來降。李世民見勸降成功，非常高興，對尉遲敬德十分信任，仍然讓尉遲敬德統(tǒng)領(lǐng)降軍，而且降軍營與唐軍營就駐扎在一起。

李世民部下行軍元帥長史屈突通擔(dān)心尉遲敬德、尋相會(huì)再度叛變，請李世民預(yù)先采取防范措施。李世民說道：“過去，蕭王劉秀推赤心置人腹中，他手下的人都忠于使命，現(xiàn)在，我信任尉遲敬德，委以重任，何必懷疑他呢？”

屈突通的話不是沒有道理。不久，尋相與原劉武周部下的降將再度叛變而去，眾將都懷疑尉遲敬德也一定會(huì)叛變，就將他囚禁在軍營中。屈突通與殷開山都對李世民說：“尉遲敬德剛剛歸順國家，情志不穩(wěn)，此人極其勇猛。我們已拘禁他很久了，他既被我們猜疑，必生怨恨之心。留著他恐是養(yǎng)虎貽患，請立即殺掉他。”

李世民說：“我的看法不是這樣。尉遲敬德若懷有背叛之心，難道會(huì)在尋相之后嗎？恐怕早就叛變了。”說完，立即命人將尉遲敬德釋放出來，命人把他領(lǐng)進(jìn)自己的臥室之中，賜給他金銀珠寶，對他說：“大丈夫期望的是講大義氣，對小的懷疑不要介意。我不會(huì)聽信讒言而殘害忠良，您應(yīng)該相信這一點(diǎn)。如果您一定要離我而去，現(xiàn)在我就把這些東西當(dāng)作贈(zèng)給您的路費(fèi)，以表達(dá)這一段時(shí)間共事的情誼。”尉遲敬德感激涕零，表示不會(huì)離開李世民。

當(dāng)天，李世民就讓尉遲敬德跟從自己到榆窠去打獵。恰巧王世充帶領(lǐng)數(shù)萬步兵騎兵來戰(zhàn)，與李世民迎面相遇。王世充部下的勇將單雄信躍馬挺槊，直取李世民，李世民的形勢非常危機(jī)。就在此時(shí)，尉遲敬德大吼一聲，拍馬上前，一槊刺單雄信于馬下。敵軍見主將落馬，紛紛后退，尉遲敬德保護(hù)李世民沖出重圍后，再率軍返回，與王世充軍交戰(zhàn)，將王世充的軍隊(duì)擊潰，并且生擒了王世充的部將陳智略，還俘獲敵軍六千余人。

過后，李世民對尉遲敬德說道：“當(dāng)初，眾人認(rèn)為您必定會(huì)叛變，是上天引導(dǎo)我排除眾議，認(rèn)識了您，保住了您。福和善都是有證驗(yàn)的，回報(bào)得真是快呀！”于是，李世民賜給尉遲敬德一箱金銀，李世民對尉遲敬德也越來越信任了。

后來，尉遲敬德跟從李世民征竇建德，討劉黑闥，屢立戰(zhàn)功，被授予秦王府左二副軍之職。

太子李建成與李元吉等人為了爭奪皇位企圖謀害李世民，派人秘密送書信及重禮收買尉遲敬德。尉遲敬德堅(jiān)定地推辭說：“我出身微賤，適逢隋亡，天下土崩瓦解，我沒有安身的地方，長期淪落于逆地，實(shí)在是罪不容誅。秦王對我有知遇之恩，讓我在門下任職，我只能以身報(bào)恩。我對殿下（指李建成）無功，不敢接受這樣的厚賜。我若私自答應(yīng)殿下的要求，就是對秦王懷有二心。我若為了私利而丟掉忠心，對殿下又有什么用處呢？”李建成見不能收買尉遲敬德，心中十分惱怒。

不久，尉遲敬德把李建成、李元吉想收買他的事報(bào)告了李世民。李世民說：“您的忠心，郁結(jié)如山，我自然深知，即使成斗的黃金，也不能使您轉(zhuǎn)移。不過，以后他們只要送來禮物，您就應(yīng)該收下，不必顧慮。若不收下，他們就會(huì)嫉恨您，恐怕您將遭受陷害，您的安全得不到保障。況且，您了解了他們的陰謀，還可以及時(shí)告訴我，好讓我采取對策。”

李元吉等人十分嫉恨尉遲敬德，但又沒有什么好辦法，幾次派人前去刺殺他，尉遲敬德故意把大門打開，讓刺客進(jìn)來，但刺客懾于他的威名，不敢靠近。李元吉見刺殺不成，就捏造罪名，在高祖面前誣陷他。高祖聽信了讒言，降旨把尉遲敬德拘禁審訊，險(xiǎn)些把他殺掉。最終經(jīng)李世民一再苦諫，并羅列證據(jù)，尉遲敬德才得以獲釋。

后來，尉遲敬德聽說李建成和李元吉要?dú)⒑钍烂瘢团c長孫無忌等人力勸李世民趕緊采取措施。公元626年（武德九年）6月4日，李世民發(fā)動(dòng)玄武門之變，打敗了李建成，尉遲敬德親手誅殺李建成、李元吉。甲子日，李世民被立為皇太子。八月癸亥日，高祖退位，傳位于皇太子，李世民在東宮顯德殿即位，是為唐太宗。

李世民登帝位之后，仍以誠信待部下。公元634年（貞觀八年），尉遲敬德曾在慶善宮侍宴，當(dāng)時(shí)有的人座位在尉遲敬德之上，尉遲敬德性情暴躁，當(dāng)即惱怒地質(zhì)問：“你有什么功勞，敢坐在我的上位？”任城王李道宗的座位在敬德之下，覺得尉遲敬德有些過分，就上來解勸。敬德勃然大怒，一拳打中了李道宗的眼睛，幾乎把眼睛打瞎。太宗李世民十分不悅，宣布罷宴。后來，李世民對尉遲敬德說：“我閱讀漢朝的史書，看到高祖的功臣保全性命的極少，當(dāng)時(shí)我總是責(zé)怪他。自從我登基以來，總是想著保全功臣，不加誅戮，使他們子孫繼續(xù)不斷。可是，您做官卻經(jīng)常違反國家法令，到現(xiàn)在我才知道韓信、彭越為什么遭到殺戮了，看來那不是漢高祖的過失。國家大事，只有通過賞與罰來辦理，不恰當(dāng)?shù)亩鲗櫍荒軐掖螌?shí)行，請您自我檢點(diǎn)，免得使自己將來再后悔。”

尉遲敬德聽了，汗如雨下。

公元637年（貞觀十一年），拜尉遲敬德為宣州刺史，改封為鄂國公。公元643年（貞觀十七年），尉遲敬德請求告老還鄉(xiāng)，太宗授予敬德開府儀同三司，準(zhǔn)許他只在每月初一、十五兩日上朝。不久，敬德與長孫無忌等24名功臣的畫像被掛上凌煙閣。