中国西晋末年,朝廷倾危,各少数族首领乘机起兵反晋。汉国征东大将军、羯族首领石勒率军进入中原，当地豪强筑坞自守（称坞主）。

建兴元年(313)，主政的左丞相司马睿（后为东晋元帝）镇守建康(今南京)，军咨祭酒祖逖要求领兵北伐，收复失地。司马睿无心北进，仅授祖逖奋威将军、豫州刺史，给千人口粮，布3000匹，使自行募兵。八月，祖逖率部曲百余家渡江，至中流击楫而誓：不收复中原不回渡。遂至淮阴（今属江苏）铸兵器，募集2000余人北上。先屯芦洲（今安徽亳县东），派员至谯城（今安徽亳县，一说河南夏邑北）劝说坞主张平、樊雅归附，未成。祖逖派兵攻之，年余不下，于是诱杀张平，进据太丘（今河南永城西北）。建武元年(317)六月,祖逖求得南中郎将王含和蓬陂（今开封南）坞主陈川的援助，说降樊雅，据谯城，并解除石勒部将石虎对该城的围困。

大兴二年(319)四月，陈川怀疑祖逖分化其部众，投奔石勒。五月，祖逖攻陈川，被石虎5万援军击败,退回淮南。石虎留部将桃豹守蓬陂，住西台。十月,祖逖遣督护陈超进击桃豹失利。三年六月,复派部将韩潜据蓬陂东台，与桃豹相持40日。后以计使桃豹误认为晋军粮足，又截获其粮秣，迫其宵遁。韩潜进屯封丘（今属河南），祖逖镇雍丘（今河南杞县），数次遣兵拦击已称赵（史称后赵）王的石勒所部，后赵守卒归附者甚多。他还曾劝说坞主和解，受其统辖。后又准许有人质在后赵的坞主保持“两面”关系。河水（黄河）以南坞主多弃后赵归晋。祖逖练兵积谷，准备进取河北。但晋元帝却于四年七月以尚书仆射戴渊充任都督六州诸军事，统辖逖部。祖逖深感北伐难成，忧愤成疾，于同年九月逝世。次年十月，后赵军乘机又入河南，祖逖北伐所克之地复失。