在旁人看來，劉秀的隱忍甚至顯得有些窩囊，然而，當時的他尚不能與平林、新市兩股起義軍抗衡，唯有隱忍不發才是萬全之策。最終，劉秀的“窩囊”既保全了自己，又在起義軍中贏得了同情和信賴，為日後自立為王創造了必要的條件。
綠林軍攻占長安之後，劉玄想要派一位親近而賢能的大臣去安撫黃河以北的區域，劉秀看出這是一個發展個人勢力的大好機會，便請人說服劉玄將這個重任托付給自己。以更始政權大司馬的身份前往黃河以北後，劉秀便以“複興漢室”為口號，不斷壯大自身的勢力。
劉秀每到一個郡縣，都命令僚屬嚴格按照禮節穿著漢服，並宣布廢除王莽當政時期的苛捐雜稅和嚴刑峻法，並恢複漢朝官名、考察任用本地人士。劉秀的舉措很快贏得了當地大小官吏和平民百姓的歡迎與支持，逐漸組成了建立東漢政權的基本力量。後來，劉秀又采用軍事打擊和政治爭取相結合的方法，先後收編了王莽殘餘勢力和銅馬、青犢等農民起義軍三十萬人，軍事實力大大增強，被人們稱為“銅馬帝”。
隨著勢力的不斷擴張，公元25年六月，劉秀終於在群臣的擁戴下稱帝。
劉秀稱帝後，基本控製了中原要地，但其餘各地仍然處在分裂割據之中。根據當時的形勢，劉秀決定先集中力量消滅對中原威脅最大的關東武裝勢力，再揮師向西，各個擊破。其間，劉秀運用“柔術”輕取了洛陽。
當時，洛陽城池堅固，兵力強大，劉秀先用離間計，讓守城大將朱鮪刺殺李軼，又派人勸說朱鮪投降。朱鮪從前參與過謀殺劉秀哥哥之事，因害怕劉秀報複而猶豫不決。劉秀得知他的想法之後，立即派人告訴他“舉大事者不忌小怨”，若能主動投降，不僅決不加誅，還會保其爵位。朱鮪這才放心歸順，而劉秀也沒有食言，果然親自為朱鮪解縛並以禮相待。
隨著劉秀遷都洛陽，東漢政權正式建立。隨後，他又用了短短的四年時間，將關東地區各個割據勢力全部鏟除。在平定關東割據勢力的同時，劉秀在關中也開始了鎮壓赤眉農民起義軍的行動。公元25年九月，赤眉軍攻入長安，推翻了更始政權。然而赤眉軍不僅糧食緊缺、軍心渙散，還處在地方豪強武裝的包圍之中。劉秀決定以逸待勞，靜候乘虛截擊赤眉軍的機會。
公元26年，劉秀派鄧禹在關中與赤眉軍交戰數次，大大折損了赤眉軍的實力，但漢軍方麵的損失也很大。於是，劉秀又派善於治軍、作戰穩健的馮異率軍前往支援。公元27年二月，馮異在崤底做好埋伏，引誘赤眉軍逐步深入，然後發動突然襲擊。
赤眉軍陣腳大亂，八萬多人悉數投降。接著，劉秀親率大軍，在宜陽攔截並全殲了折向東南的赤眉軍。至此，劉秀終於將持續戰鬥了十多年的赤眉農民起義軍全部鎮壓，奪取了關中地區的控製權，開始了下一步的戰略：西圖隴蜀，統一全國。
到公元36年底，劉秀按照由近及遠、各個擊破的戰略徹底平定巴蜀，取得了統一戰爭的最後勝利。
劉秀一統江山的曆程，可以用“仁心待人，天下歸心”來概括。他認為“天地之性為人貴”，從不妄殺生靈。早在劉秀作為更始政權大司馬巡至邯鄲的時候，已故趙繆王的兒子劉林便向他獻計：赤眉軍目前在河東地區活動，隻要讓黃河決堤，百萬赤眉軍就成了水中鼠、甕中鱉。
劉秀為了避免傷及無辜，並沒有采納這個辦法。後來，在大破銅馬軍之後，劉秀非但沒有殺死對方的一兵一卒，反倒將他們的首領封為列侯。如此一來，曾經的對手全都心悅誠服，劉秀也因此累積了幾十萬部眾，被關西一帶的老百姓尊稱為“銅馬帝”。
劉秀的不計私怨、崇尚“人道”非常明顯地體現在他對待劉玄的態度上。更始帝劉玄曾親自設局並下令殺死了劉秀的大哥劉演，與劉秀之間可以說有著不共戴天之仇。然而，就在更始帝兵敗逃亡之際，劉秀卻頒布詔書昭告天下：更始兵敗棄城逃走，而他的家人卻在逃亡途中流離失所、衣不遮體。朕很憐憫他們，所以決定封更始為淮陽王。沿途官民誰敢傷害劉玄一家，按大逆之罪論處。盡管有此詔書，劉玄還是在路上被赤眉軍將領謝祿所絞殺。