劉秀擊敗主要對手之後，目標又開始轉向東邊的劉永。劉永原來被更始皇帝劉玄立為梁王，後來自稱皇帝，以睢陽作為京城，占據著青州、徐州一帶28個城，封山東的張步、蘇北的董憲、廬江的李憲等人為大將軍。
劉秀於公元26年夏，命蓋延率軍征討。經過整整一年的殘酷戰爭，劉永大敗，後被手下將領所殺。
北方的漁陽太守彭寵，原係劉秀部下，後反叛，自立為燕王。占據著薊城、右北平的上穀等縣，北邊聯絡匈奴，南邊聯絡張步，勢力範圍不斷擴大。漢光武帝決定親自征討，後經勸說，方派朱祜、耿龕等率兵北進，於公元29年平息了彭寵的叛亂，北方局勢安定下來。
接著，張步、董憲、李憲、匈奴立的皇帝盧芳等大大小小的“土皇帝”們也相繼被滅，國內大部分地區開始穩定。但是，還有三大勢力並勢而立，這就是蜀中皇帝公孫述、五郡大將軍竇融、西州大將軍隗囂。他們勢力強大，有同光武帝平分天下之勢。光武帝決定采取逐個擊破、分而治之的策略，鏟除這三大勢力。
公孫述占據著益州，資源豐富，地勢險惡，加上公孫述經營多年，勢力比其他兩個都大。而且，公孫述在蜀中已自稱皇帝。為了孤立公孫述，光武帝決定拉攏竇融、隗囂。他先派人去聯絡隗囂，可隗囂打算自己做皇帝，所以不僅沒有聽從劉秀的勸說，而且還派人去聯絡竇融，勸竇融自立為王，他們妄圖同公孫述聯合起來，建成3個國家，共同對付洛陽的皇帝劉秀。劉秀得知後，立即派人給竇融送了一封信，信中說：“將軍日前的地位舉足輕重，有人主張分割天下，像戰國時期那樣，各自為王，要知道，中國的土地即使可以分的話，中國的老百姓也是不能分的。將軍如果能從大局出發，上為國家出力，下為百姓著想，我將非常感激！”劉秀的語言情真意切，使竇融和他手下的將士都認為光武帝英明。不久，竇融率部投降，劉秀隨即派兵征伐隗囂。隗囂大敗，於公元31年春病餓而死。漢軍乘機收複了隴右（今甘肅六盤山以西）地區。劉秀收複隴右地區以後，集中優勢兵力，全力以赴進攻蜀中皇帝公孫述。劉秀親自帶兵征討，大將軍岑彭指揮軍隊，連連擊敗公孫述的軍隊，奪下不少城池，公孫述很快處於孤立無援的境地。劉秀又命廣平侯吳漢進攻成都，結果公孫述慘敗，受重傷而死。其手下將領見漢軍來勢凶猛，便紛紛投降。這樣，蜀中皇帝的全部勢力被掃除幹淨。
革新政體，總攬權綱
漢承秦製，秦始皇以後的漢初幾代皇帝，也為鞏固統治地位進行了政體改革。如漢高祖的重用人才，采取“與民生息”和“量官祿，度官用”的政策，漢武帝頒行“推恩令”，削弱諸侯王的割據勢力等。東漢光武帝時期也注重革新政體，加強中央集權，取得了更顯著的成效。
尚書的官職創於秦代，原是少府屬吏，其任務僅僅是在殿中傳達詔令。西漢光武帝時，尚書更成為侍從近臣，職權漸重，因以宦官充任，故又名為中書。成帝時，又複尚書舊名。尚書職名雖然由來已久，但直至西漢之末，在中央政府中這一地位並不十分重要。東漢建立後，鑒於西漢末年權臣專政、外戚弄權以致王莽改換朝代的教訓，光武帝時效法漢武帝，加強中央集權。在中央，光武帝削奪了在漢朝官製中“無所不統”的三公即大司馬、大司空、大司徒的職權，使其成為一種沒有實權的虛銜，而把日常政務交給尚書台處理。隨著尚書台地位的變化，其機構也得到了發展和加強。光武帝特詔尚書令、禦史中丞、司隸校尉於朝會時均專席獨坐，稱之為“三獨坐”。這表明尚書台已成為國家的法定機關，其最高長官尚書令的地位也隨之而升格。尚書令下設尚書仆射1人，尚書左右丞各1人。尚書台設六曹，每曹各置尚書一人，侍郎6人，令史3人。6曹即後來6部的起源。尚書台是皇帝專製獨裁的禦用工具。“雖置三公，事歸台閣”成為東漢時出現的我國封建官製的一大特點。
為了集中兵權，光武帝下詔廢除除邊郡以外的各郡的都尉官（武官），停止每年由郡太守和都尉召集本郡士兵舉行演習的都試製度，以免屆時發生聚眾起事；他又下令裁撤輕車、騎士、材官、樓船等軍吏，讓他們回家種地；在裁撤地方軍隊的同時，光武帝又下令大力建設中央軍隊，設立了宮殿禁衛軍南軍和京師兵北軍，統一由皇帝指揮。
漢代的地方行政機構，實行郡縣（國）兩級製。漢武帝時，設十三州刺史監郡，屬於臨時派遣的監察官吏，他的任務是周行郡國，刺探政情，原無固定治所。東漢承襲西漢製度，分全國為十三州部，每州設刺史一人。其首都所屬之州，亦設司隸校尉，督察中央直轄區。東漢州刺史的權力，遠比西漢時大，除監察二千官吏之外，還有選拔官吏、直接向皇帝劾奏之權，甚至可以參與地方行政事務的管理，而且已有一定的治所和自己的衙門。這就形成內有尚書總攬朝政，外有刺史控製地方的高度集權的局麵。