，曹操将他击败。夏季，曹操攻击巨野，吕布率军救援巨野（今山东省菏泽市巨野县），曹操击破吕布军，斩杀屯驻巨野的薛兰等人。吕布会合陈宫，率领一万多人从东缗赶来，此时曹操士兵大多数都外出收麦了，留下的不足一千，营垒也不坚固。曹操命妇人守于城上，士兵拒守吕布。营垒西边有一条大堤，南边是幽深的树林。吕布怀疑曹操有埋伏，对部下说：“曹操诡计多端，切勿进了他的埋伏。”于是率兵驻扎在曹操营垒南边十多里的地方。次日，吕布再次前来，曹操令一半士兵藏于堤坝之内，一半在外诱敌。吕布进军，曹操派轻兵挑战，双方交战后，曹操的伏兵出动，步骑并进，吕布大败，鼓车被曹操缴获，曹操一直追到吕布军营才返回。吕布连夜逃走，曹操追击，又攻克定陶，分兵平定诸县。

吕布前往徐州投奔刘备，张邈与吕布同行，留张超驻守雍丘。七月，因关中李傕、郭汜的火拼，汉献帝从长安东归。八月，曹操围攻张超于雍丘。十月，献帝正式拜曹操为兖州牧。十二月，曹操攻破雍丘，张超自杀。曹操夷灭张邈三族，而张邈在求救袁术的途中被部下所杀。兖州自此平定，曹操又率军东攻陈国之地。[

建安元年（公元196年）二月，曹操讨平汝南、颍川一带的黄巾军何仪、刘辟等部，献帝封曹操为建德将军。六月，经曹操谋士董昭的劝说，献帝身边的将军杨奉等人表请拜曹操为镇东将军，袭父费亭侯之爵位。

早在初平三年（公元192年），曹操的谋士毛玠就提出了“奉天子以令不臣，修耕植，畜军资”的战略性建议，曹操深以为是。[] 到此时，曹操想迎接献帝，其谋臣大多认为山东尚未平定，而献帝身边的韩暹、杨奉等又骄横难制，所以不赞成迎接，只有荀彧、程昱极力劝迎。最后，曹操决定派曹洪率兵迎接献帝，但被卫将军董承与袁术的部将苌奴据险阻止。[] 建安元年（公元196年）七月，献帝回到洛阳，董承为牵制韩暹等跋扈的将领，又密召曹操来洛阳。八月，曹操来到洛阳，奏明韩暹、张杨之罪，韩暹逃奔杨奉，因护驾之功被献帝特赦，于是曹操杀了侍中台崇、尚书冯硕、议郎侯祈，封董承等十三人为列侯，曹操本人亦领司隶校尉、录尚书事。[] 随后曹操听从董昭建议，于九月迁献帝于许县，他本人被封为大将军，进封武平侯。[] 杨奉对迁许之举非常不满，打算拦路截击，失败。十月，曹操讨平杨奉。[] 十一月，曹操升任司空，行车骑将军事，总揽朝政。

这一年，曹操听从枣祗、韩浩等人的建议，开始实行屯田制。刘备遭到吕布袭击，投奔曹操。程昱劝道：“依我看刘备有雄才大略，又深得民心，不会久居人下，不如趁早除掉他。”曹操回答：“如今正是招揽贤才之时，为杀一人而失天下人心，不可。”

建安二年（公元197年）正月，曹操讨伐割据宛城的张绣，驻军淯水。张绣举众投降，旋即复叛，曹操长子曹昂、侄子曹安民、猛将典韦战死（宛城之战）。曹操引兵退还舞阴，张绣派兵来攻，被曹操击退。张绣奔往穰城，与刘表联合。曹操对诸将说：“我收降张绣等人，却犯了没有立即扣押人质的错误，所以遭到了失败。我明白了失败的原因，请大家看着，从今以后我不会再失败了。”之后回到许县。[

割据淮南的袁术僭号，吕布把他的使者送到许县，袁术怒而进攻吕布，结果为吕布所破。九月，袁术侵略陈国，曹操闻讯亲自东征袁术。袁术得知曹操亲自来，便弃军而逃，留桥蕤等四将镇守。曹操到后，斩杀桥蕤等将。袁术渡淮而走，曹操也回到许县。

十一月，曹操南征荆州，到达宛城。刘表部将邓济据湖阳，曹操生擒邓济，湖阳也投降。之后曹操又攻下了舞阴。[]

建安三年（公元198年）正月，曹操回到许县。三月，曹操再次南征，围攻张绣于穰城。四月，曹操所遣的谒者裴茂率中郎将段煨讨李傕，夷三族。五月，刘表派兵救援张绣，并打算截断曹操后路。曹操引军退还，张绣追击，曹操军无法前行，于是结成连营，得以慢慢前进。曹操写信给荀彧说：“贼军紧追我军，虽然我军日行数里，但我算好了，到安众县时，一定能打败张绣。”到了安众县，张绣和刘表联军守在险要地方，曹操军前后受敌。曹操于是派人趁天黑在险要处挖凿一条地道，把辎重物资全部偷运过去，又设下伏兵。天明时，张绣军认为曹操已逃走，全军追赶。曹操便派出步兵、骑兵两面夹攻，把贼军打得大败。七月，曹操回到许都。荀彧问曹操：“之前您料定一定会打败敌军，这是为什么？”曹操回答：“敌人阻止我回归的部队，与我军死地战，我由此而知一定会胜利。”九月，曹操东征徐州