至此，以更始皇帝刘玄为代表的一派势力，在赤眉和刘秀的攻击下被平息了。 在群雄并立的大地上，赤眉军也是一支强大的农民武装力量，严重威胁着刘秀新建的东汉王朝。

赤眉军是一支朴实的农民武装，在推翻更始皇帝的斗争中做出了巨大的贡献。但由于缺乏领导，纪律性差，攻入长安后，又烧又抢，令老百姓纷纷逃散。号称百万之众的赤眉大军，在长安城中得不到军饷，开始向秦岭终南山一带转移。赤眉军在行军途中遇到大雪，冻死、饿死了许多士兵，因此，只好又退回长安。汉光武帝派大将邓禹乘机攻击赤眉，结果遭到赤眉军的伏击。邓军大败，死伤3000多人，邓禹只带了20多名骑兵逃了回来。

汉光武帝分析了一下赤眉军的情况，了解到赤眉军打仗个个英勇，但由于兵马太多，粮食缺乏，他们不会久居长安，因此，只有采取以逸待劳、以饱待饥，步步围堵、不断分化的方法。于是他派冯异率兵前去执行这一任务。临行前，汉光武帝送给冯异一辆马车，一口宝剑，嘱咐他说：“长安一带遭兵灾，老百姓穷困到了极点。此次出征，如长安敌军肯降，你只要把他们的头子送到京城来就行了，士兵可以让他们回家种地、养蚕，绝不要杀害。再多带些粮食，到时一定能用得上。”

果然不出汉光武帝所料，长安城已到了饿死人的地步，一斤黄金只能换五升豆子。赤眉军只好东撤，到了渑池，同冯异军队相遇。冯异用计，把自己的一部分军队也伪装成赤眉军，扰乱赤眉军阵营，结果赤眉军大败，有8万多人因饥饿投降了汉军，还有十几万冲出了重围。逃出来的赤眉军怀着悲怆的心情，扶老携幼，继续向东行进。光武帝刘秀这次亲自带兵堵截，在宜阳与赤眉军相遇。赤眉军见汉军壁垒森严，军威雄壮，他们又饥又饿，无心作战，只好派刘氏宗室刘恭代表赤眉军，向刘秀乞降。刘秀接受赤眉军投降后，立即命令宜阳的县令，把全县的厨师集中起来，给十几万赤眉军做菜、做饭，让他们饱餐一顿。饥饿疲乏到极点的赤眉军，受到这样的待遇，对光武帝感激不尽。第二天，刘秀在汉水边布阵，让赤眉军将领观看，并对赤眉军降将樊崇等人说：“你们投降了，后悔不后悔?如果后悔，朕可以让你们回营，重新集合军队，再

行决战，朕绝不强求你们投降。”樊崇吓得头也不敢抬，徐宣则连连叩头，说：“归顺皇上，早有此心，今日如愿，如同婴儿见了慈母一样，只有喜欢，没有后悔的。”光武帝听后哈哈大笑。

刘秀击败主要对手之后，目标又开始转向东边的刘永。刘永原来被更始皇帝刘玄立为梁王，后来自称皇帝，以睢阳作为京城，占据着青州、徐州一带28个城，封山东的张步、苏北的董宪、庐江的李宪等人为大将军。 刘秀于公元26年夏，命盖延率军征讨。经过整整一年的残酷战争，刘永大败，后被手下将领所杀。

北方的渔阳太守彭宠，原系刘秀部下，后反叛，自立为燕王。占据着蓟城、右北平的上谷等县，北边联络匈奴，南边联络张步，势力范围不断扩大。汉光武帝决定亲自征讨，后经劝说，方派朱祐、耿龛等率兵北进，于公元29年平息了彭宠的叛乱，北方局势安定下来。 接着，张步、董宪、李宪、匈奴立的皇帝卢芳等大大小小的“土皇帝”们也相继被灭，国内大部分地区开始稳定。 但是，还有三大势力，这就是蜀中皇帝公孙述、五郡大将军窦融、西州大将军隗嚣。他们势力强大，有同光武帝平分天下之势。光武帝决定采取逐个击破，分而治之的策略，铲除这三大势力。

公孙述占据着益州(今四川、贵州、云南等)，资源丰富，地势险恶;加上公孙述经营多年，势力比其他两个都大;而且，公孙述在蜀中已自称皇帝。为了孤立公孙述，光武帝决定拉拢窦融、隗嚣。他先派人去联络隗嚣，可隗嚣打算自己做皇帝，隗嚣不仅没有听从刘秀的劝说，而且还派人去联络窦融，劝窦融自立为王，他们同公孙述联合起来，建成三个国家，共同对付洛阳的皇帝刘秀。刘秀得知后，立即派人给窦融送了一封信，信中说：“将军日前的地位举足轻重，有人主张分割天下，像战国时期那样，各自为王，要知道，中国的土地即使可以分的话，中国的老百姓也是不能分的。将军如果能从大局出发，上为国家出力，下为百姓着想，我将非常感激!”刘秀的语言情真意切，使窦融和他手下的将士都认为光武帝英明。不久，窦融率部投降，刘秀随即派兵征伐隗嚣。隗嚣大败，于公元31年春病饿而死。汉军乘机收复了陇右(今甘肃六盘山以西)地区。刘秀收复陇右地区以后，集中优势兵力，全力以赴进攻蜀中皇帝公孙述。刘秀亲自带兵征讨，大将军岑彭指挥军队，连连击败公孙述的军队，夺下不少城池，公孙述很快处于孤立无援的境地。刘秀又命广平侯吴汉进攻成都，结果公孙述惨败，受重伤而死。其手下将领见汉军来势凶猛，便纷纷投降。这样，蜀中皇帝的全部势力被扫除干净。