瓦岗军的创始人是翟让。大业十二年，曾参预杨玄感反隋的贵族李密也来参加瓦岗军。他说服附近小股起义军聚集到瓦岗军周围。瓦岗军攻破要塞金堤关，打下荥阳(今河南郑州)诸县。炀帝以张须陀为荥阳通守，率兵两万前来镇压。李密说服翟让还击。翟让率兵列阵以待,李密统骁勇常何等游骑千人埋伏于荥阳大海寺北,大败隋军，阵斩张须陀。这是起义军在河南境内的第一次大胜仗,为起义军在中原地区的胜利发展奠定了基础。大业十三年二月，瓦岗军攻破兴洛（后改洛口）仓，开仓赈济饥民。留守东都的越王侗急派刘长恭和裴仁基分兵两路，准备在兴洛仓合击瓦岗军。瓦岗军先击溃了刘长恭所率的两万五千步骑，不久又招降了裴仁基。翟让推李密为瓦岗军首领，号魏公。赵魏以南（今河北中部及南部）、江淮以北的各路起义军皆归瓦岗军，众至数十万，几乎控制了河南全境。瓦岗军成为河北、山东各路起义军的盟主。四月，瓦岗军围迫东都，将二十余万隋军困于孤城。在河北地区，大业十二年，张金称、高士达先后被隋军镇压，窦建德收合两部余众，军势复振，很快发展到十余万人。隋在河北地方上的武装力量基本上已被消灭，起义军兵锋所至，隋朝官吏“稍以城降之”。次年正月，窦建德在乐寿县（今河北献县）郊建立政权，自称长乐王，署置百官，改元丁丑。在江淮一带，大业十二年七月，炀帝至江都（今江苏扬州）时，李子通据海陵（今江苏泰州），左才相在淮北，杜伏威屯六合，从三面威胁江都。炀帝遣陈□率宿卫精兵八千进行讨伐，互有胜负。次年正月，又遣陈□征讨江淮一带起义军中力量最强大的杜伏威。隋军大败,起义军乘胜攻破高邮（今江苏高邮北）,占历阳（今安徽和县），杜伏威自称总管，以辅公□为长史，很快控制了淮南各县，江淮间小股反隋武装多来归附，形成了江淮间巨大的起义力量。从大业十三年三、四月瓦岗军围逼东都开始，以瓦岗军为中坚,以窦建德、杜伏威为两翼的农民起义军,对隋王朝进行了摧毁性的打击。六月,瓦岗军大败隋军,东都危急。七月，炀帝抽调“江淮劲卒”和“燕地精兵”奔赴东都，涿郡留守薛世雄统率燕地精兵三万南下攻瓦岗军，兵至河间（今属河北），营于七里井，准备会合河间诸县兵先行镇压窦建德起义军。窦建德指挥部队从各城中撤出，向南转移，然后乘薛世雄不加防备，选精兵数千人为伏兵，亲率敢死之士两百八十人夜袭。三万隋军溃散。薛世雄带数十骑逃回涿郡。窦建德起义军又重新控制了河北的大部分地区。八月，瓦岗军占领黎阳仓，开仓赈济饥民，扩大起义队伍数十万人。炀帝又命江都通守王世充统率洛阳附近诸郡兵与东都留守兵共十余万人，在洛水两岸同瓦岗军展开激战。王世充屡战屡败，有些隋将投降李密。这时洛阳城内缺粮，饿死的人很多。河北、山东、河南和江淮流域都被起义军占领，隋的军事力量也大部被起义军消灭，隋王朝直接控制的地方越来越狭小。形势对瓦岗军非常有利。但由于瓦岗军内部矛盾日益加深，李密始终不肯改变在洛阳城下与隋军主力长期鏖战的错误战略，所以没有取得决定性胜利。