一出潼关，迎面而来的就是王世充。这家伙在击败李密后，得意洋洋地回到洛阳，隋皇泰帝杨侗封他为相国，还给了个郑王的头衔，让他大权在握。到了武德二年三月，王世充把杨侗废了，自己称帝，年号“开明”，国号定为郑。
不过，王世充这人品实在让人摇头，他刻薄寡恩，甚至把原瓦岗寨投降的裴仁基一家都给杀了，搞得人心惶惶。瓦岗寨的降将秦叔宝、程咬金、罗士信一看这情况，决定投奔唐朝。
唐朝对东都的情况了如指掌。听说唐军东出潼关，王世充赶紧召集各州镇的精兵强将到洛阳集结。他亲自安排四镇将军守卫洛阳四门，皇城和要地由亲信镇守，还亲自带领三万精兵作为预备队，严阵以待。
半个月后，唐军前锋罗士信围攻慈涧，离洛阳只有二三十里。王世充一听说，急忙带着三万精兵去救援。途中，碰上了李世民率领的几十轻骑。王世充的士兵一看李世民人少，就一窝蜂地冲上去。但唐军骑兵毫不畏惧，奋力杀敌。李世民骑马左冲右突，射箭像割草一样倒向敌军。王世充的大将燕琪想抢功，却被李世民一箭射杀。唐军最终击退郑军，李世民虽然满脸血污，但成功返回营地。
第二天，李世民和罗士信会合，五万大军浩浩荡荡地开到慈涧城下。城上空无一人，王世充已经逃之夭夭。唐军顺利进驻慈涧，整顿军队，分四路向洛阳进军。大将史万宝南下宜阳时中伏，损失后连夜撤回洛阳，丢失慈涧。刘德成越过太行山，包围河内；王君序攻克洛口；黄君汉切断王世充粮道；李世民则在邙山安营扎寨。王世充的手下纷纷投降唐朝，他只能依靠洛阳坚固的城墙和充足的物资死守。
武德四年正月，李世民重新部署。挑选一千多精骑，穿着黑衣黑甲，分为左右两队，由秦叔宝、程咬金、尉迟恭、翟长孙率领。每次战斗，李世民都身先士卒，穿着玄甲冲锋在前。他移动大营渡过洛水，逼近洛阳城时，王世充企图先发制人，率两万精兵出城。唐军虽一时慌乱，但李世民镇定指挥，北邙山布阵，亲自登高指挥。屈突通带五千步兵渡水迎击，按计划放烟雾。在烟雾中，李世民率骑兵从山上冲下，势不可挡。王世充的军队被包围，李世民坐骑被射中倒下。幸亏邱雄功让马给李世民，自己持刀开路，终于杀出重围，与大队会合。
这场恶战从清晨打到中午，王世充逃回城内。李世民乘胜追击，围攻洛阳。尽管洛阳城墙高耸、武器精良、守卫森严，唐军十天攻城未果，伤亡惨重。将士们疲惫不堪，请求撤兵。但李世民坚持：“中原各地已降，只剩洛阳孤城，再坚持就能胜利，为何半途而废？”他下令：“洛阳不破，绝不回师！再言撤兵者斩！”
五月，李世民得知窦建德计划后，将计就计。他让一千多战马在河中游弋。窦建德果然中计，率全部人马从板渚出牛口列阵二十多里，擂鼓前进。李世民率秦叔宝、程咬金等将领迎战。交手之际，唐军突然展开旗帜，夏军后方出现大唐旗帜，顿时大乱，纷纷逃散。窦建德见大势已去，也逃跑了。唐军紧追不舍，活捉窦建德。
随后，李世民将窦建德和王世充的使者斩首示众，其余战俘送回家乡。唐军拔营启程返回洛阳。到达洛阳城下，李世民让囚车绕城一周，王志忠见大势已去，无力回天，只得投降。
进入洛阳后，李世民先申明军纪，维持秩序，禁止侵扰，封存府库，取金箔赏赐将士，逮捕王世充手下段达、单雄信、朱杰等十几员大将，押至洛水边斩首，释放所有被关押的士兵和市民，并勒令各寺庙留下三十余名僧人，其余一律还俗。经过这一系列措施，战后洛阳人心安定下来。唐朝取得东都，天下震动。王世充部将分分投降，其妻曹氏与其子也奉传国玉玺投降唐朝。于是，中原、河北及山东地区全部平定，纳入大唐统治之下。
七月，李世民凯旋回到长安，李渊废王世聪为庶人，流放四川。不久，王世聪在流放途中被仇人所杀，李渊并未惩办凶手，反而下令将王世忠的儿子、侄子及所有亲属以谋反罪名全部处死。
