武德四年（621）二月，李世民选精锐骑兵千余人，均皂衣玄甲，分左右两队，以名将秦叔宝、程知节、尉迟敬德、翟长孙分任统领，在谷水（今河南渑池县渑水及其下游）大败王世充，并进而包围洛阳宫城，但洛阳城中守卫甚严，李世民军队围洛阳十日而未果，但李世民毫不退缩，决心攻下洛阳。在唐军的急攻下，王世充飞书窦建德求援，窦建德领兵增援，李世民一举消灭窦军，俘窦建德本人，并随后围困洛阳，王世充被迫于武德四年（621）五月率残部投降。至此，王世充、窦建德两军被李世民击溃、消灭。窦建德被俘解至唐都长安被斩于市。王世充则因降唐，并有李世民不斩前言，而被免死，贬为庶人，与兄弟、子侄流放蜀地。王世充在定州府州驿站被仇人独孤机之子定州刺史独孤修德杀死，其子侄等亦因在流放路上谋反而均被杀。