劉邦向西撤退，路過梁地到達虞縣。現在的形勢對劉邦很不利，如果項羽繼續追來，以漢軍現在的殘兵敗將，很可能被楚軍一路趕回關東甚至是消滅。
劉邦心灰意冷的對左右說：“你們這樣的人啊，真是不足與之共謀大事！”謁者（負責傳達通報的官職）隨何說：“大王這是何意？”劉邦說：“誰若能說服九江王英布舉兵叛楚，項羽肯定會留下來攻擊他。如果能以此牽制項軍幾個月，我定能奪取天下。”
隨何主動接下了這個任務，帶著二十人前往淮南國。隨何一行人在淮南國三日未得見到英布，于是對太宰（主管酒食的官職）說：“大王不見我，必然是認為楚強漢弱，這正是我來的原因。我若言之有理，則可請大王聽之，若言之無理，我等二十人引頸待戮，以表大王之背漢親楚。”英布于是同意接見隨何。
隨何對英布說：“漢王派我來遞交國書與您交好，但我很奇怪您為何與楚國走的很近。”
英布說：“寡人不過是面北而事之。”古代帝王一般坐北朝南，英布此言意味以臣子的身份對待項羽。
隨何說：“大王與項王同為諸侯，能屈尊面北而事，必然是因為楚國強大，可以依靠。然而楚軍深陷齊國戰爭，您只派出了四千人馬支援；楚漢對戰于彭城時，您更是沒援助一兵一卒，而是作壁上觀，這樣是面北而事嗎？您不過是以這樣的名義，保全自己，我認為這是不可取的。大王不背叛楚國，是您認為漢還不夠強大。然而楚國身負背約和殺義帝的不義之名，它的強大不過是被軍事實力襯托出來的而已。漢王聯合天下諸侯，固守成皋、滎陽，背靠蜀漢之地的糧草，堅守要塞。若楚軍來攻，不但要勞師遠征穿越梁地，而且供給線長達千里。只要漢軍堅守，則楚軍必然進退兩難。即使楚軍獲勝，天下諸侯馬上就會人人自危而相互聯合，這樣的話楚軍如何抵抗呢？所以，局勢已變，楚不如漢。大王為何不聯和蒸蒸日上的漢軍，而是要依靠江河日下的楚軍呢？我認為大王糊涂啊！雖然目前淮南之兵力不足以抵抗楚國，但大王只要發兵叛楚，就必然會牽制項王。如此只要數月，漢王即可奪取天下。彼時，若大王仗劍歸漢，漢王必然給您分封一大塊土地，淮南也肯定是大王您的。漢王派我來向大王進獻上述愚計，請您定奪。”隨何口吐蓮花，說的英布連連稱是，于是秘密答應了隨何的計策。
當時楚國使者也在淮南國，催促著英布快快發兵支援。隨何直接闖進來說道：“九江王已歸漢，楚是得不到援兵的！”這當時就把英布嚇了一跳。楚國使者起身想離開，隨何對英布說：“我們既已經達成盟約，就必須要殺掉這個人，不能讓他回楚國，同時還要馬上發兵攻楚。”英布立刻全部照辦。
項羽派出項聲、龍且抵御英布軍，自己攻打下邑。兩方對峙果然持續了數月，最后英布敗給了龍且，與隨何從小路返回漢軍。隨何連哄帶逼的說服英布叛楚歸漢，使得劉邦的戰略得以實現，極大的幫助了處于困境中的漢軍。
漢二年五月，劉邦屯兵滎陽，蕭何將關中五十六歲以上和二十三歲以下的老弱都派來前線參軍。韓信也收攏兵馬到滎陽與劉邦會師，漢軍又恢復了元氣。
這里簡單闡述一下滎陽的地理位置和軍事價值。滎陽東有鴻溝連接淮河、泗水，北依邙山毗臨黃河，南臨索河連嵩山，西過虎牢關接關中，地勢險要。秦始皇很早利用這里的漕運資源，設置了大規模糧倉敖倉，解決了軍隊的后勤補給問題。因此在冷兵器時代，滎陽歷來都是兵家必爭之地。劉邦要想守住關中，就必須首先在滎陽設防，而項羽要想攻入關中，也只能從滎陽進入函谷關或通過南邊的武關-崤關進入咸陽。
漢軍與楚軍在滎陽以南的京縣和索縣大戰，取得大勝。隨后修筑運糧的甬道通向河邊，便于獲取敖倉的軍糧。
甬道是秦始皇發明的，就是左右兩側封閉的道路，可用于天子通行，外人無法看到里邊。這里筑甬道是為了保障軍糧運輸的安全。敖倉也是秦始皇在敖山上設立的大糧倉，以備不時之需。漢軍奪得敖倉并打通糧道，具有極為重要的戰略意義。
六月，劉邦回到櫟（yuè）陽，六月初六，立太子，赦罪人。當時的立儲制度基本還遵循著“立嫡以長不以賢”的原則，且劉邦僅有嫡子一人，所以劉盈當之不讓的成為了太子。儲君為國之根本，司馬遷在《史記》中就暗喻過太子的重要性，并把未立太子視為秦朝滅亡的重要原因。秦始皇沒有明確太子，才導致他死后扶蘇、蒙恬被奸相趙高矯詔賜死，而后趙高扶持胡亥即位，直接導致了秦朝的滅亡。
劉邦又命諸侯之子在關中的都集中到櫟陽為守衛。這是常見的政治手段，以子為質來牽制諸侯們。這一系列的動作都表明，劉邦要排除所有不安定因素，全身心的投入到奪取天下的斗爭中。
隨后，漢軍以水攻廢丘，迫使廢丘投降，章邯自殺，雍地八十余縣就此平定。塞王司馬欣、翟王董翳已投降項羽，此番章邯又自殺，關中三秦之地徹底被漢軍控制。劉邦令官員組織對天地山川等進行祭祀，并安排定期舉行。同時還組織關中士卒駐守邊塞。
但經此戰亂后，關中發生了大饑荒，糧價暴漲，甚至出現了人吃人的現象。此時，蕭何苦心經營的蜀地、漢中大后方就起到了關鍵作用，成為了關中百姓的糧倉。
在劉邦屯兵滎陽之際，已投降劉邦的魏王魏豹謊稱親人有疾病需回去探望，但回到魏國后就立刻封鎖了黃河渡口，倒戈投降了項羽。
楚懷王曾授兵于魏豹數千人，魏豹用這些軍隊平定了魏地二十余城，被項羽立為魏王。項羽入關后，改封魏豹為西魏王，都平陽。劉邦還定三秦，魏豹投降漢軍，并跟隨劉邦一起向東攻楚。這次彭城一戰劉邦慘敗，魏豹又倒向項羽一方。所以魏豹是不折不扣的墻頭草，為圖自保，誰實力強就投降誰。
魏豹叛漢還有一個有意思的理由。魏豹有一名妃子叫薄姬，相面先生許負說她是能夠生天子的，魏豹大喜，認為自己是帝王命，于是就想要脫離劉邦尋求自立。事實證明，許負說的沒錯，薄姬確實生了天子，不過是為劉邦生的劉恒，即大名鼎鼎的漢文帝。魏豹只是自命不凡的空歡喜了一場，后面還因此搭上了自己的性命。
八月，劉邦處理好太子和章邯的事后，從櫟陽回到滎陽。對于魏豹這樣的人，劉邦本不想牽扯自己太多的精力，于是對酈食其說：“你若能說服魏王豹投降，就以魏地萬戶封與先生。”
酈食其到魏豹處轉達了劉邦的意思，魏豹推辭說：“人生一世，如白駒過隙。如今漢王待人輕慢，對待諸侯就像對待自己的臣子一樣，說罵就罵。十分無禮，我不想再見到他了。”這是十分幼稚的理由，魏豹再次降楚只是簡單的因為他覺得跟著劉邦沒有前途罷了。
這當然騙不了酈食其。因為酈食其本人是親自體會過劉邦的輕慢辱人，但馬上又被劉邦的魅力征服。酈食其回報后，劉邦立刻命韓信為左丞相，與曹參、灌嬰共同攻魏。得知對方的大將、騎將、步卒將分別是柏直、馮敬和項它，劉邦放心的說，這三個人不是韓信、灌嬰和曹參的對手，不足為慮。
魏在蒲坂屯兵設防，同時阻塞黃河渡口臨晉。韓信故布疑兵，佯裝要從臨晉渡過黃河，而主力部隊用木翁、木盆等簡易工具從北邊的夏陽渡過黃河，襲擊安邑。魏豹大為震驚，馬上帶兵向東迎擊韓信。韓信大敗魏軍，俘虜了魏豹。面對這個昔日叛將，劉邦并沒治他死罪，而是再次接納了他。
韓信派人向劉邦說：“請大王再為我增兵三萬，臣便可北定燕趙，東擊齊國，南斷楚軍糧道，再向西與大王會師于滎陽。”劉邦立刻為韓信增兵，并派張耳前來幫助。
在韓信的指揮下，代地很快也被平定了，丞相夏說被擒。這時，劉邦調回了派給韓信的軍隊，以增強滎陽守備。
劉邦雖然在彭城慘敗于項羽，損失巨大，但由于英布的叛楚投漢，減緩了項羽西進的速度，給漢軍創造了緩沖的時間。再加上后有蕭何籌集兵源，前有韓信攻城略地，劉邦的實力又重新恢復了起來。