劉秀稱帝以後,雖然在軍事上取得了一些重大勝利,但是當時群雄並立,且都有相當的實力,作為一個頭腦清醒的謀略家,劉秀並沒有過於樂觀。他在為自己的統一大業繼續努力著。
東漢·冶鐵水排(模型)劉秀即位為皇帝時,天下紛亂不已,各路豪傑割據稱雄,主要的有赤眉軍在長安、梁王劉永在淮陽、隗囂在天水、公孫述在成都等地方割據勢力。劉秀稱帝後,麵臨的首要任務就是平定天下,建立一個統一的大漢政權。為此,他首先把矛頭指向了赤眉軍。
赤眉軍自25年9月推翻“更始”政權後,即定都長安。由於關中地區的地主豪強隱藏糧食,聚眾反抗,與赤眉軍為敵,赤眉軍的糧食問題已到了難以解決的地步。同年12月,赤眉軍不得已而引兵東進。這時,劉秀以逸待勞,已作好了圍剿赤眉軍的部署。劉秀先派鄧禹率鄧弘等部共同攻擊赤眉軍,鄧禹失敗。接著,再命馮異與赤眉軍約期會戰,暗地選拔壯士,以赤眉軍服飾打扮,作伏兵。當赤眉軍與馮異交戰激烈時,伏兵突起,赤眉軍將士真假難辨,頓時大亂。經此一戰,赤眉軍全軍覆沒,劉盆子投降劉秀,使劉秀得漢之傳國璽授。劉秀遂封劉盆子為趙王郎中。
劉秀消滅赤眉軍以後,還有不少割據勢力在活動,他們力圖爭奪皇帝寶座。其中就有劉永。劉永,梁郡難陽(今河南商丘縣南)人,漢文帝子景帝胞弟梁孝王劉武的八世孫,其父為王莽所殺。劉玄稱帝,繼封劉永為梁王,都雎陽。劉玄敗,劉永自稱天子,聯合各種勢力,據今河南東北部及蘇北、山東大部地區與劉秀對抗。劉秀便派虎牙大將蓋延帶四員大將征討劉永,不久,兵臨雎陽城下。蓋延將雎陽團團圍住,三個月圍而不攻。最後,城內糧草將盡,蓋延偷襲成功。劉永見城已破,慌忙突圍,被亂軍所殺。
隨著各地割據勢力逐漸被消滅,劉秀一步步在中原地區擴大勢力,站穩了腳跟。到建武五年,中原地區的主要對手,就隻剩下彭寵了。彭寵本是劉秀的大將,因未被提升,便與匈奴勾結,攻陷薊縣,自立為燕王,企圖與劉秀爭奪天下。建武五年春,劉秀下詔:“有能討平彭寵者,封侯。”彭寵的三個家奴起了貪心,便趁彭寵睡覺時,將他殺死。後來,劉秀信守諾言,封他們為不義侯。
到這一時期,統一戰爭的前一階段基本結束,剩下的割據者也是最難對付的,他們是隗器和公孫述。
隗囂,天水成紀(在今甘肅通清)人,好讀經書,有政治、軍事知識。隨其叔父起兵,被推為上將軍,勢力壯大,擁兵十萬。更始二年,隗囂曾投歸更始政權,赤眉軍入關中,更始政權垮台,他便返歸天水,自稱西州上將軍。隗囂和劉秀有過多次合作,但建武六年,雙方關係完全破裂。馮異在旬邑(在今陝西旬邑)擊敗隗軍,形勢對隗囂不利。在這種情況下,隗囂倒向公孫述。次年正月,隗囂饑病交加,憤怒而死。到建武十年十月,隗氏勢力完全被消滅。
隗囂覆滅後,盤踞在巴蜀的公孫述成了最後一支割據勢力。公孫述,扶風茂陵(在今陝西)人,在劉秀稱帝前兩個月稱帝於成都。建武十三年,劉秀伐蜀之役大規模開始,公孫述拚死抵抗。此年十一月,劉秀以損失兩員大將的代價攻入成都,公孫述被殺,蜀地宣告平定。
劉秀自公元25年即帝位,經過十一年的東征、西討、南平、北伐,終於結束了豪強割據的局麵,恢複了中國的統一。劉秀在推翻王莽苛政、削平割據勢力上,得到了廣大人民的支持,代表了當時社會的共同要求,以能完成國家統一的偉大事業。就這一點而言,劉秀是一個對當時曆史有著重要貢獻的傑出人物。