輔公祏棄城逃走，打算向南奔赴越州，因為左游仙已出任越州總管，所以有心想去依附于他。偏偏唐將李靖率軍拿下丹陽后，李世勣不肯放過輔公祏，連夜追來。輔公祏逃到句容時，手下的軍兵只剩下五百人。天快黑時，他打算投宿常州，突然聽說部將吳騷等人，正打算把自己獻給大唐，于是連忙逃去，隨行的妻子也一并丟掉，只帶了幾十個心腹。一行人逃到武康時，被野人襲擊，部將西門君儀戰死，輔公祏被抓到丹陽，立即被斬首，頭顱被傳到長安。唐軍又分兵追捕余黨，很快大部分賊軍被捕殺。輔公祏從開始造反到滅亡，僅僅只過了六個月。江南從此太平。
高祖聽了捷報后，非常高興地說：“李靖這次剿滅蕭銑和輔公祏立了大功。古時的衛青、霍去病也不過如此啊！”隨即，高祖封李孝恭為東南道行臺右仆射，李靖為行臺兵部尚書。后來行臺被罷撤，于是，李孝恭改任為揚州大都督，李靖為都督府長史。
張善安被押入京都審訊時，他把所有的罪責都推到其他人身上，說自己是無辜的，于是高祖赦免了他。后來，李孝恭在丹陽搜到叛變的書信，張善安無可抵賴，這才被殺死了。
輔公祏偽造杜伏威的詐書也被高祖看到，高祖懷疑是真的，于是追除了杜伏威的官職并沒收了家產。闞稜居功自傲，李孝恭很是看不慣，于是也把他所有田產一并沒收了。闞稜不服，跟李孝恭爭論，惹得李孝恭很生氣，竟然誣陷他與輔公祏是同謀，把他殺了。
唐高祖武德七年，中國已經基本統一，所有從前的強盜竊賊，割據州縣的草寇，都被消滅，只有梁師都還占據著北方，沒有被平定。高祖決定暫時休兵，整頓朝政，于是開始正官階，制定學制，修改刑法。
官階分好幾個等級，太尉、司徒、司空稱為三公；其次是尚書、門下、中書、秘書、殿中、內侍、稱為六省；接著是御史臺；往下是太常、光祿、衛尉、宗正、太仆、大理、鴻臚、司農、太府，共九等；再往下是將作監、國子學、天策上將府，再往下是左右衛、左右領衛，為十四衛。東宮設置了三師（即太師，太傅，太保）、三少（即少師，少傅，少保）、詹事等職位，王公設置府佐、國官，公主設置職司。這些都是在京的官職，各州縣城鎮的官員稱為外執事官。文官自從一品起，到從九品，共分二十八階；武官自從一品起，到從九品，共分三十一階。這些大部分都是參照隋制，稍有改動。
學制有國子學、太學、四門學、律學、書學、算學六種，全都隸屬國子監，只有崇文館和弘文館等作為皇室宗親及功臣子弟的學校，不歸國子監管轄。此外如各州縣鄉，一律設置學校，限定年限畢業，依次升級，與選舉法并行。學校以習經為主要科目，選舉以策論為主要科目，各有等級，不互相混雜。
刑法大多按照隋朝的舊制，把謀反、謀大逆、謀叛、惡逆、不道、大不敬、不孝、不睦、不義、內亂等定為十惡不赦之罪。五刑（笞、杖、徒、流、死）、八議（議親、議故、議賢、議能、議功、議貴、議勤、議賓）都按隋朝舊律。另外又訂了十二律（名例、衛禁、職制、戶婚、廄庫、擅興、賊盜、斗訟、詐偽、雜律、捕亡、斷獄），這跟隋朝舊制稍有不同。
同時還重新修訂了租、庸、調三法。新法規定百姓十六歲以上為丁，每丁給田地一頃。每年交粟米二石，叫作租。男丁根據種植的品類，繳納一定數量的綾、絹、絁、綿、布、麻等物品，叫作庸。百姓每年充服公役二十天，如果不想服役，就酌情出庸相抵，叫作調。如果有戰事征兵，那么滿十五天就把調免去，滿三十天就把租和調全都免了，遭小災免租，遇中災免調，遇大災租、庸、調全免。朝廷官員吃國家俸祿，不得跟百姓爭利。這樣征取有制，全國上下都覺得方便可行。
正在整理朝綱的時候，忽然，從慶州傳來都督楊文幹造反的消息，慶州全境被其占領。原來，楊文幹曾做過東宮宿衛，他和李建成關系非常好。李建成與李世民有矛盾，于是，李建成經常和楊文幹密謀，想要殺害李世民。李元吉也曾參與過，他對李建成說：“想要殺李世民，只要吩咐弟弟一下，就能搞定，還要這么謀劃干什么啊？”楊文幹很贊成。一天，李世民跟著高祖，來到李元吉的王府，李元吉命令護軍宇文寶等人，埋伏在室內，然后暗地里派人，告知李建成，準備襲擊李世民。李建成搖手勸阻，李元吉很生氣地說：“我不過是為了哥哥著想，我又得不到什么好處。”李建成解釋道：“弟弟沒有聽說過投鼠忌器嗎？父皇已經老了，如果受到驚嚇，那真是我的罪過啊。”元吉這才停止行動。
李建成私下里募集了兩千多壯士作為東宮衛士，又調來三百名幽州騎兵守衛東宮，接著推薦楊文幹為慶州總管，暗地里讓他招募壯士送入長安。有一天，高祖到仁智宮小住，派李建成居守，李世民和李元吉也跟著一起去。李建成對李元吉說：“秦王這次出行，有機會和后宮嬪妃接觸，他必定會用重金賄賂眾妃，眾妃得了錢財，肯定會為秦王說好話的，難道我們只能坐等著遭受災禍嗎？安危大計，我們現在應該趕緊決定！”李元吉笑道：“哥哥前幾天要是聽我的話，這個人早就已經被除去了。”李建成說道：“今天父皇出行，可以干掉李世民。”李元吉問李建成用何計策，建成悄悄地告訴了李元吉。李元吉覺得計策很好，就和李建成作別，兩人約好依計行事。隨后，李建成暗地里命令郎將爾朱煥和校尉橋公山兩人，聯絡楊文幹，往楊文幹處偷偷運送軍兵，命令他馬上起兵，與自己里應外合。
朱煥等人走到半路時，擔心事情敗露被連累，就跑到高祖面前告密了。高祖大怒，立即派司農卿宇文穎，快馬召見楊文幹，李元吉得知這個消息，嚇得一身冷汗，連忙囑咐宇文穎，給楊文幹傳話，讓他不要回京。楊文幹聽了宇文穎傳的話，就道：“一不做，二不休，干脆造反算了！”隨即楊文幹帶兵到寧州去了。高祖又親筆寫詔書，召見李建成。李建成很是害怕，不敢前往。詹事主簿趙弘智勸李建成貶損車服，輕騎謝罪。李建成左思右想，也沒有別的辦法，不得已輕車減從，前往行宮，見到高祖便撲在地上，接連磕頭。高祖狠狠地痛責了他一番，并把他監禁了起來。
楊文幹在寧州造反的消息像雪片一樣飄來，剛開始說寧州被包圍，后來又說寧州被攻陷。高祖連忙召李世民問計。李世民答道：“楊文幹算個什么，有什么好怕的？地方有官員，如果他們不能剿滅他，只要派一員大將去征討，就能很快掃平的。”高祖道：“事情關系到李建成，恐怕響應的人會很多，不如由你親自出馬，等你把叛軍掃平回來，我一定立你為太子，把建成貶為蜀王。蜀兵最弱，不用擔心有什么變故，即使有變故，你也好容易對付些。”李世民奉命前行。李元吉趕緊賄賂妃嬪，請她們幫李建成說好話，又委托封德彝勸高祖不要怪罪李建成。封德彝本來就是隋朝的佞臣，這時候也很得高祖寵眷，往往三言兩語，就讓高祖眉開眼笑，身心舒坦。于是，高祖被這些人迷惑，放了李建成，仍讓他回去守衛京師，只是責備他兄弟不睦，以后當痛改前非。接著，高祖將罪責歸到王珪、韋挺及天策參軍杜淹三人身上，說他們攛掇是非，發配雟州。
李世民率軍西征，大軍剛到寧州附近，楊文幹的部眾就嚇得要死，有人殺了楊文幹，投降李世民。宇文穎也被擒住，押送長安，審明后就地正法。李世民班師回京后，高祖已經還朝，卻并沒有提改立太子的事。李世民知道其中又有變故，只能一笑了之。
東突厥主處羅可汗把隋煬帝的蕭后和幼孫楊政道接到突厥后，就想要為大隋報仇，有意南侵。所以，從武德四年到七年，突厥多次進犯關中，雙方互有勝敗。大唐并州總管府長史竇靜建議在太原大量屯田，邊耕邊戰，秦王李世民非常贊同這個辦法，于是依照竇靜之言執行。一年下來收獲谷物數千斛，稍稍解了邊境之困。
但是，突厥總是出沒不定，防不勝防，這時就有人勸高祖道：“突厥多次侵犯關中，無非是因為羨慕長安繁麗，想要入境搶奪，如果陛下把長安一把火燒了，然后遷到別的州城去，到那時胡人失望，自然就不會再來了。”高祖竟然認為這是個好主意，于是派宇文士及到襄陽一帶擇都，為南徙做準備。太子李建成和齊王李元吉也極力慫恿，他們覺得越早越好。只有李世民進諫道：“突厥侵犯邊境，由來已久，陛下以圣武龍興，擁有中原大地千里，精兵百萬，所向無敵，為什么要因為突厥侵犯邊境，就要遷都逃避呢？這樣做不但會被天下人恥笑，還會貽笑千古。兒臣愿意率幾萬軍兵出征，一定能掃平突厥，把頡利活捉回來獻給您。萬一沒有成功，您再遷都也不遲。”
高祖也不禁點頭稱道：“這話深合朕意。”當即召回宇文士及，取消遷都的決定。誰知，李建成又勾結妃嬪，誣陷李世民，說道：“突厥侵犯邊境，只要得了錢財就退了。秦王借口說是掃北，實際上是想掌握兵權篡位，陛下就沒有察覺嗎？”就這幾句話，又把高祖的心弄得猶豫不定。
幾天之后，高祖打算到城南打獵，兄弟三人也一起去，打獵競賽。李建成有一匹肥壯的胡馬，很喜歡跳躍，他牽來馬對李世民道：“這匹馬很好，能躍過好幾丈的深澗，二弟向來善于騎馬，那就來試一下吧？”李世民一躍上馬，追趕一頭鹿，誰知在快追到鹿的時候，馬忽然仆倒。李世民還沒等馬倒地，已經跳了下來，等馬再次站起，他又躍上馬身，這樣連續三次，一點都沒有受傷，因此，李世民對左右道：“死生有命，豈是暗算能害死么？”李建成聽了這話，不禁失色。等到打獵結束，又去賄賂尹、張二妃，尹、張二妃又向高祖說李世民的壞話，說道：“秦王說自己是天命所歸，是真正的君主，不可能意外身亡。”
高祖聽了這話，頓時大怒，先召李建成李元吉站在身邊，然后召李世民，呵斥道：“天子自有天命，不是說你聰明就能當的，你為什么總是覺得自己是天子呢？”李世民連忙否認，摘下帽子磕頭，請求把自己抓去法司，查明真相。高祖還沒有消氣，忽然有一內監進來，報告：“突厥大舉進犯，前鋒已經到豳州了。”高祖被內監的話一驚，才將怒意打消，對李世民改變了態度，反過來安慰李世民，讓他重新整理冠帶，跟他商量戰事。李世民說道：“兵來將擋，水來土掩，兒臣愿率軍迎戰。”高祖高興地說：“好極了，李元吉也可隨你一起去，能戰就戰，能和就和。”李世民、李元吉領命，當即點齊兵馬，過了一夜便出發了。
大軍快到豳州時，有探兵來報，說突厥連營百里，氣焰囂張。李元吉聽了這話，就有點害怕。李世民讓探兵再去查探，回報說：“頡利、突利兩位可汗率全國大軍來出戰，確實有好幾十萬的兵馬。”李世民從容道：“兩個賊酋都來了，我也不怕，我自有法子破他，不必擔心。”于是，李世民帶著大軍來到豳州，依城扎營。當時，關中已經下了好長時間的雨，運糧的糧道被阻斷了。軍兵們又由于長時間打仗，都疲憊不堪，朝廷和軍中都很是擔憂。只有李世民一個人不動聲色，安泰自如。
第二天，頡利率一萬多精兵來出戰。大軍開到城西，列陣五隴坂，昂然待戰。
李世民對李元吉道：“現在胡虜來挑戰，我們也不能示弱。弟弟能和我一起出戰嗎？”李元吉戰戰兢兢地說：“胡胡虜氣勢這么強盛，不不要輕易出戰吧？如果我軍戰敗了，那就后悔莫及了。”李世民答道：“頡利和突利兩人名為叔侄，實際上是互相猜疑。突利是始畢可汗的兒子，始畢把汗位傳給弟弟處羅，處羅又把汗位傳給弟弟頡利，這樣汗位兄弟傳給兄弟，就導致突利失了王位，他心中自然不平。頡利擔心突利不滿，于是讓他鎮守東方，也封他為可汗。現在，他們雖然合兵來攻打我們，但是卻貌合神離，我正好可以從中做文章。別人怕他，我卻不怕，你如果不敢去，我就一個人去了。”
話說完，李世民就帶領一百騎兵，來到頡利陣前，大聲喊道：“我們大唐和你們的可汗和親，為什么你們違約來侵犯我國？我就是秦王李世民，如果可汗能戰，就快出來跟我大戰。如果你率全軍來戰，我也不怕，雖然我手下只有一百騎兵，但也可以抵擋你們的軍兵萬人。”頡利聽他這么說，懷疑李世民是誘敵之計，于是只笑不答。
李世民見突利自己率領一隊兵馬，和頡利隔一條河相望，遙對呈斜角狀。于是，李世民又派人去向突利喊話，說道：“你們跟我國前兩天剛定了盟約，一旦有事，相互援救，現在卻帶兵來攻我，為什么一點都不顧念焚香盟誓之情？”突利被問得無話可說。李世民又故意催馬來到河邊，拉著韁繩裝作要過河，頡利連忙派人阻止李世民，道：“秦王不必渡河，我來并無他意，只不過是想要和貴國更改盟約。”
李世民于是勒馬道：“可汗想要更改盟約，只需要派一個使臣來就可以了，為什么要這么大費周章，率領大軍前來呢？如果想戰就進兵，想求和就趕緊退兵。”
頡利于是帶兵往后退了一段。
這時，突然下起傾盆大雨，于是兩軍各自收兵回營。李世民對將士們說：“胡虜的長處是弓箭，現在雨水連連，箭膠都壞了，弓就不能用了，他們就好像飛鳥斷了翅膀，無法高飛。而我軍的長處是刀槍鋒利，現在出擊正是以長擊短。這么好的機會，還要等到什么時候？”于是，李世民讓軍士們飽餐一頓，冒雨進兵攻打頡利，同時派人到突利那里，說明利害，突利欣然答應不戰。
頡利看到李世民突然來攻，很是驚疑，急忙召突利商量，打算出戰，突利說道：“天降大雨還沒有晴，糧草供給不上，我軍又深入唐軍領地，就使戰勝，也不能深入長安，一旦兵敗，必將大禍臨頭。況且，秦王的軍隊向來很勇猛，開戰了我們不一定能取勝，不如跟他們講和算了。”頡利沒辦法，只好派突利和部帥阿史那思摩去見李世民，請求和親。李世民坦誠相待，突利很是高興，愿意和李世民結為兄弟，很是親密，雙方定好盟約，隨即退兵離去。
李世民率軍回朝，突厥又派阿史那思摩拜見高祖，高祖讓他同坐御塌，再三慰勞他，封他為和順王。阿史那思摩謝恩后回去，高祖派左仆射裴寂一同到突厥還禮，并答應兩國互通貿易。裴寂也修好而回。
誰知突厥言而無信，反復無常，沒過多長時間又來侵犯邊境。高祖很生氣，于是兩國再次交惡，又開始打仗。代州都督藺驀與突厥兵在新城交戰，戰敗返回。他一邊派行軍總管張瑾出兵石嶺，派李高出兵大谷，分兩邊防御突厥，另一邊又向朝廷請求增援。高祖命秦王李世民出兵蒲州，調李靖為安州大都督，出兵潞州，又派任瓖為行軍總管，出兵太行。李靖來到潞州，就見張瑾一個人逃出來，報稱全軍覆沒，連長史溫彥博都被敵軍捉去了。李靖留住張瑾，并寫信給秦王李世民和總管任瓖，約他們三路出擊，合力夾攻。
李世民正要出兵，忽然頡利派人來請和，說是愿意將溫彥博放了，仍舊和好。李世民嚴厲斥責了來使，叫他立即放回溫彥博，才同意撤兵。來使唯唯諾諾地回去了。
原來溫彥博被抓后，頡利知道他職掌機要，于是問他唐廷兵糧的情況，然而溫彥博卻默不作答。頡利很生氣，就把他發配到陰山，又進兵攻打靈州。靈州都督王道宗兜頭痛擊頡利，殺了頡利好幾千人，頡利這才退兵，接著又聽說秦王李世民等人，會師來攻，就更加害怕了，于是派使者前來求和。頡利聽了使臣的回話，連忙把溫彥博送歸唐營，雙方再次停戰撤軍。李世民回京復旨，從此威名遠揚，也因此遭來更多的嫉恨。一次，李建成和李元吉假裝跟李世民增進感情，邀李世民晚上一起喝酒，誰知二人竟然在酒中下毒。李世民回府后，突然心痛，喉嚨非常癢，咳了很多血來，隨即臥床不起。淮安王李神通知道這件事，告訴高祖，高祖親自到秦王府看望他，李世民哭著大概講了下事情的經過。高祖長嘆了好幾聲，然后對李世民道：“我從晉陽起兵以來，能夠掃平中原，多虧了你的功勞。我本來想立你為太子，而你又一再推辭，這才立了你哥哥李建成。現在時間一久，我又不忍心再換了。只是現在你們兄弟實在是不相容，同處京師，暗斗一天比一天厲害，那就只好派你到洛陽去了。以后自陜州以東都歸你管，你可以用天子的旌旗，就像漢朝的梁孝王一樣。”
李世民哭著說：“這不是兒臣想要的，兒臣怎么舍得遠離父皇啊。”高祖說道：“這是只是權宜之計，你就順了我的意，免得你們兄弟相殘。”李世民勉強受命。高祖回宮后，李世民又休養了幾日，病情漸漸好轉，于是召集僚屬，整頓行裝，只等高祖下詔就出發去洛陽。誰知等了十多天，也沒見到高祖的詔書，這又是聽了他人的讒言了。