建安二年（197年）初，曹操引军进攻屯兵在南阳的张绣，打算除掉这个不甚强大、但却逼近许都的后顾之忧。张绣是张济的族子，196年（建安元年），张济因饥饿由弘农进入荆州，攻穰县（今河南邓县），为流矢射死，绣代领其众，与刘表合，屯于宛（今河南南阳市）。当曹操初到宛时，张绣本已举军投降，但由于燥纳张济之妻，张绣既怀恨，又趁操贪色无备之际，掩袭操营。操一子一侄被杀，亲信骁将典韦战死，操本人亦中流矢。但绣军力毕竟单薄，在追击中，未能取胜，绣还保穰，继续与刘表联合。

同年冬，曹操复进军攻张绣，攻克二县而还。

建安三年（198年）三月，曹操又准备出兵攻绣，谋臣荀攸劝阻说：“绣与刘表相恃为强，然绣以游军仰食于表，表不能供也。势必离。不如缓军以待之，可诱而致也；若急之，其势必相救。”操不从，进兵围绣于穰。刘表果来救。军不利。

不久，操闻袁绍将袭许，乃撤围而还，张绣率军来追。这时刘表援救张绣的军队亦已到达安众（今南阳市西南），截性操军还路，操腹背受敌。但操却说：“吾策之，到安众，破绣必矣。”及到安众，于夜间凿险为地道，先过辎重，伪装逃走，而以奇兵设伏于旁。天明，绣以为操已遁走，率领全部兵力来追，操乃纵奇兵步骑夹击，大破绣军。

操还许，苟或问：“前以策贼必破，何也？”操曰：“虏遏吾归师，而与吾死地战，吾是以知胜矣”。

可是，曹操也有百虑之一失。张绣战败之后，又听取贾诩的计策，收集败卒再来追操。操果疏于防范，以精兵前行，弱兵在后，张绣取得了胜利。

灵帝中平五年（188年），青、徐黄巾军复起，汉朝以陶谦为徐州刺史。谦，字恭祖，丹杨人，父曾为余姚县长，谦少好学，仕于州郡，举茂才，除卢县（今山东长清县南五十里）令。寻迁幽州刺史、参车骑将军张温军事。初平二年（191年），为徐州刺史，破走黄中军。及李傕等挟制献帝，谦屡遣使至长安，迁徐州牧，加安东将军，封溧阳侯。当献帝兴平元年（194年）谦道曹操痛击时，平原相刘备前来救助。谦死，徐州官吏遵谦遗嘱，拥立刘备为徐州牧。建安元年（196年），刘备遭到淮南军阀袁术的攻击，两军相持不下，寄居在徐州的吕布，乘机袭得州城下邳（今江苏邳县东）。备在徐州无处安身，至许投靠了曹操。程显向操建议：“观刘备有雄才，而甚得众心，终不为人下，不如早图之。”操曰：“方今收英雄时也，杀一人而失天下之心，不可。”曹操这时处在强敌环伺之中，比刘备更具有危险性的人还有。曹操不杀刘备，一是显示自己宽容，有利于广泛招徕人才；二是想暂时利用刘备对付其他敌人。于是操表备为镇东将军，封宜城亭侯。并增其兵，给其粮，令东屯沛，收散兵以图吕布。