南陽舂陵縣住著漢朝的一個遠房宗室叫劉欽。他有三個兒子，老大叫劉老諷刺劉秀，笑他沒有多大出息。劉秀聽了也無所謂。他覺得要成大事，非得跟那些當官的結交一下。他就到了長安，進了太學，拜了老師，結識了一些名人。后來從太學回來，就做起糧食買賣，成了個大商人。

有一天，劉秀運著一些谷子到宛縣（在南陽市）去賣，在街上碰到了好朋友李通和李軼（yì）。李通和李軼把劉秀請到家里，跟他說：“現在四方亂糟糟的，王莽眼看著不行了，咱們南陽地方就數你們哥兒倆最能干，你們又是宗室，何不趁此機會，召集人馬，奪取天下，也好恢復漢室?！眲⑿阋宦牐狭俗约旱男脑?。三個人談得挺對勁兒，就約定在南陽發兵。李通在宛縣很有勢力，他一發動，召集幾百個人并不困難。李軼就叫李通留在宛縣，自己跟著劉秀到舂陵去見劉。

劉有了李通和李軼兩人做助手，就召集了一百來個豪強，對他們說：“王莽暴虐，老百姓都起兵了。這是上天叫新朝滅亡的時候，也是我們平定天下，恢復高帝事業的時候了?！贝蠡飪憾己苜澇桑R上分頭到附近的各縣去發動自己的親戚、朋友，一同起兵。

劉在舂陵公開號召南陽豪強們起兵反抗王莽。有幾家害怕了，有的干脆躲著他，還說：“造反可不是鬧著玩兒的。跟著劉莽里莽撞地出去，豁出一條命還是小事，弄不好了還得滅門吶！”后來他們瞧見那個一向小心謹慎的劉秀也穿上軍裝，拿著刀，不由得改變了主意，一下子就來了七八千人，就等著李通那一邊到這兒來會齊了。

等了幾天，李通那邊還沒有人來，劉只好派人去打聽。派去的那個人到了宛縣城里，在大街上就聽見有人嘁嘁喳喳地議論。他擠在中間探問了一下，才知道李通還沒發動，就給官府發覺了。李通逃了，李家一門來不及逃的全都給抓了去，一共死了六十四個人。

李通那一頭吹了。劉這兒只有七八千人，成不了大事。正好新市兵和平林兵已經到了南陽。劉就派人去見新市兵的首領王鳳和平林兵的首領陳牧，勸他們共同去進攻長聚，他們同意了。三路人馬聯合起來往西打去，這第一仗，旗開得勝，長聚打下來了。接著又打下了棘陽（在河南省新野縣東北），就把軍隊駐扎下來。

劉又打算進攻宛縣，半道上碰上了王莽的大將甄阜（zhēn fù）和梁邱賜的大軍。劉他們都是步兵，連刀槍也不齊全，簡直沒法對打。這第二仗，南陽兵敗了，還敗得挺慘，只得退到棘陽，守在那兒。甄阜和梁邱賜不肯放松，他們把糧食和軍用物資留在蘭鄉（在泌陽縣），率領著十萬大軍過了沘水（即泌陽河），把橋都毀了，放出話來說，不消滅“綠林盜賊”決不回頭。

新市兵和平林兵的兩個首領來見劉和劉秀。他們說：“甄阜和梁邱賜有十萬兵馬，叫我們怎么抵擋得了？還不如扔了棘陽，暫時退到別處去吧！”劉嘴上叫他們不要怕，心里可也挺著急的。正在為難的時候，忽然進來一個人，說：“下江兵到了宜秋（在河南省唐河縣西南）。我們聯合起來，一定能夠打敗敵人?！眲⒏鐑簜z一看，原來是李通。劉秀高興地說：“這就好了！你怎么到了這兒？”李通說：“我從家里逃出來，四處奔波。聽說你們在這兒很為難，棘陽也許守不住，剛巧下江兵到了宜秋，我才趕來報信。下江兵的首領王常挺了不起，你們去請他幫助，他準肯出力。”

劉馬上帶著劉秀和李通親自跑到宜秋去見王常。劉跟他說明兩路人馬聯合起來的好處。王常挺痛快地說：“王莽暴虐，失了民心。現在你們起來，我愿意做個助手。”劉說：“如果大事成功，難道我劉家獨享富貴嗎？”劉跟王常當下就訂了盟約。

王常送走了劉他們，回來就把這件事跟另外兩個首領成丹和張卬（áng）說了一遍。成丹和張卬不大同意，說：“大丈夫起兵，就該自己做主，何必去依靠別人，受人家的節制？”可是，他們一向佩服王常，最后還是聽了他的話。打這兒起，農民起義軍跟地主武裝就混合在一起了。

王常、成丹、張卬他們帶著下江兵趕到棘陽。跟南陽兵、新市兵、平林兵合在一起，準備跟甄阜他們干一下子。劉跟各路將士訂了盟約，大擺酒席，休息三天。到了十二月三十那天，劉提出他的作戰計劃。就在當天晚上先去襲擊蘭鄉，斷了官兵的糧草。

把守蘭鄉的官兵怎么也不會想到蘭鄉會遭到襲擊，他們大吃大喝地過除夕，大伙兒都醉了，睡得死死的。半夜里人家已經偷偷地到了跟前，他們還沒醒，怎么還能抵抗吶？四路起義人馬殺散了蘭鄉的士兵，把甄阜、梁邱賜留在那兒的糧草能搬的都搬到棘陽去，來不及搬的，放一把火，全都燒了。

第二天就是元旦，起義軍進攻沘水。沘水那邊，甄阜和梁邱賜聽說丟了蘭鄉，早就慌了神，想不到起義軍已經到了跟前。大伙兒手忙腳亂地抵擋了一陣，死的死，逃的逃，甄阜和梁邱賜都給殺了，士兵死傷了兩萬多。王莽另一路大軍趕來救援，也給打得一敗涂地。起義軍趁勢把宛縣團團圍住。

這時候，四路人馬合起來已經有十多萬人了，該有個最高首領，才能夠統一號令。四路起義軍的首領們這就商量開了。貴族、地主出身的一些將士利用農民的正統觀念，提出了一個口號，叫“人心思漢”。他們說：“人心思漢，已經不是一天了。必須立個姓劉的人做皇帝，才符合人們的愿望。”可是軍隊里姓劉的人多著吶，立哪一個好吶？南陽兵和下江兵的首領王常主張立劉。新市兵和平林兵的首領怕劉的勢力大，主張立沒有實權的劉玄，連下江兵的張卬也同意。最后，立劉玄這一派占了多數。

劉不服氣，可他的兵力不夠，只好繞著彎兒反對。他說：“諸君要立漢朝的后代，我們劉家的子孫萬分感激?，F在赤眉軍也有十多萬人在青州和徐州，要是他們聽到南陽立了個宗室做皇帝，他們也立個宗室做皇帝，那怎么辦吶？王莽還沒消滅，宗室跟宗室倒先對立起來，叫天下人懷疑，又削弱了自己的力量。咱們不如先立個王。有了王，也可以統一號令了。如果赤眉立了個賢明的天子，咱們就去歸附他，他決不會廢去咱們的爵位。要是他們沒立，咱們先消滅了王莽，再回到東邊去收服赤眉。到那時候再立天子，也不晚吶。”

別人誰也不說話。張卬拔出寶劍來往地下一剁，大聲地說：“三心二意的，不能成大事。今天已經這么決定了，不應該再有第二句話！”劉不敢再反對。這么著，當時就決定立劉玄為皇帝。

公元23年二月初一日，在清水（就是河南省白河）舉行了皇帝登基儀式，改元為“更始”。劉玄拜王匡、王鳳為“上公”，朱鮪（wěi）為“大司馬”，劉為“大司徒”，陳牧為“大司空”（大司馬、大司徒、大司空就是以前的太尉、丞相、御史大夫，總稱“三公”，三公之上還有個名位更高、沒有實權的“上公”）。劉秀為“太常偏將軍”，其余的將士各有各的職位。打這兒起，綠林起義軍稱為“漢軍”。漢軍的大權掌握在新市和平林將士們的手里，舂陵的劉家軍很失望，表面上不說什么，心里已另作打算了。