曹操的复仇行动还未及展开，陶谦那边反倒先动起了手。
陶谦率先向兖州发起进攻，时间大约是初平四年（193年）的夏天。在此之前，陶谦这边发生了几件重要的事，需要交待一下。
一件事是，陶谦此时已被长安的“三人小组”正式任命为徐州牧，此前他一直担任的职务是徐州刺史。
大约在曹操派王比出使长安的前后，陶谦也派人到长安进贡，他派的人叫赵昱，是当地的名士。当时陶谦手下有几个名人，除了赵昱以外，还有王朗、张昭等。王朗字景兴，是前太尉杨赐的学生，算起来跟灵帝刘宏和前大将军何进还是师兄弟，他跟赵昱共同劝陶谦通使长安，陶谦接受了建议，派赵昱到长安。
与曹操的情况不一样，陶谦的特使在长安受到欢迎，这是因为陶谦是朝廷正式任命的刺史，而曹操的兖州牧则查无出处。最后，朝廷拜陶谦为安东将军，由徐州刺史升格为徐州牧。同时任命赵昱为广陵郡太守，任命王朗为会稽郡太守。王朗就是这时候离开陶谦到江南上任的。另一件事是陶谦与黄巾余部阙宣联合，势力大增。
根据《后汉书·五行志》的记载，这一年夏天中原及华北地区出现了罕见的自然现象：正值炎夏，却刮起了寒风，像冬天一样。
这种神奇的自然现象鼓励了想造反或者正在造反的人，在他们看来这是天亡刘汉的又一明证。徐州刺史部下邳国一带有个叫阙宣的人领头造反，响应的人很多，当他看到上天也出来惩戒当权者时，于是不再客气，自称天子，与长安的献帝分庭抗礼。当时敢造反不算什么本事，但敢于自称天子那绝对是勇气可嘉。
刚刚被朝廷任命为徐州牧的陶谦不仅不率兵讨伐，反而跟阙宣联合起来，势力进一步增强。陶谦一方面派人跑到长安向天子宣誓效忠，一方面与自称天子的人称兄道弟，这位仁兄的务实主义作风实在可以。
但是后世也有很多人对此表示怀疑，比如司马光，他不相信身为徐州牧的陶谦真的会和造反分子公然搅到一块儿，因为这种行为跟直接造反没有什么两样。持这种看法的还有黎东方先生，他认为不仅曹嵩被杀与陶谦无关，而且和阙宣联合这样的事根本就是子虚乌有。这代表了一种很流行的看法，在许多人眼里陶谦是个谦谦君子，而非小人。
但是，如果结合陶谦早年在西北前线时就流露出来的独特个性来看，说他现在已经成长为一个温和的长者似乎有点不可能，陶谦到徐州后亲信小人，打压正直之士，玩弄手腕，大搞两面派，一桩桩事件都有记录，关键时刻与阙宣这样的实力派结合也没有什么值得大惊小怪的。
得到徐州牧的头衔，联合阙宣，如果把这两件事合在一起看，此时的陶谦既提高了名分，又增强了实力，正是事业的上升期。他未必会把曹操放在眼里，如果陶谦早就有挑战曹操的想法，有意策划曹嵩被杀事件，也有这样的可能。
有意策划也罢，被误会也罢，眼下与曹操的一战已是难以避免。陶谦与阙宣组成联军，率先向兖州发起了进攻。
他们进攻的方向不是曹操正面的陈留郡、济阴郡，而是右翼的泰山郡、任城国等地。泰山郡太守应劭已弃官逃往袁绍那里，曹军在这里的防守相对薄弱，任城国以及泰山郡的很多地方被陶谦占领。
面对敌人先发制人的进攻，曹操决定兵分三路：一路由夏侯统领留守兖州，重点是鄄城、濮阳、定陶、东武阳等战略要地，荀、程昱留下协助他；一路由曹仁率领，由东郡的北部进入东平国、任城国，进而到泰山郡进攻那里的徐州军；一路由曹操亲自率领，由济阴郡南下，进入已为陶谦所控制的豫州刺史部沛国的北部，进而攻击徐州刺史部的彭城国（治所在今江苏徐州一带）、下邳国（治所在今江苏邳县一带）等地，直捣陶谦的大本营郯县（今江苏郯城）。
总体来说，就是以偏师对抗陶谦的主力，而将主力向敌人之侧冀发起进攻，对于已失去先发优势的曹军来说，这不失为一个正确的选择。
这是一场无法预料结局的战争，曹操离开鄄城前告诉夫人卞氏说，如果自己回不来了，就让卞氏领孩子们前往陈留郡投奔张邈（我若不还，往依孟卓）。
战事从这年秋天拉开，曹军一路顺风，势如破竹。曹操亲自率领的这路一口气拿下兖州境内十几座被陶谦占领的城池，直逼徐州境内的战略要地彭城，逼着陶谦从右路撤军，亲自率军来战，双方在彭城进行了激战。
古代九州里就有徐州，徐州也被称为彭城。彭城是座古城，城池四周虽然被大小不等的丘陵、高地所环绕，但交通却十分发达。东汉有一条起自洛阳的东方大道，其基本走向前半段约沿着现在的陇海铁路，后半段约沿着现在的京沪铁路，彭城就是这条大道上的交通枢纽。
彭城周边还有泗水、水在此交汇，自古以来就是兵家必争之地，也是大兵团交战的理想战场。四百年前，刘邦和项羽曾在此有一场大战，结果刘邦大败，项羽险些把刘邦生擒。曹操与陶谦的彭城之战没有楚汉战争时打得那么惨烈，战事呈现出一边倒的趋势。曹军大胜，陶谦所部有近万人被杀，陶谦撤军，向东退到郯县。
对于这场大战，《三国志·武帝纪》里只有十六个字：“秋，太祖征陶谦，下十余城，谦守城不敢出。”同书的《陶谦传》与此大体相同，只是多了十个字：“死者万数，泗水为之不流。”后面这一句翻译过来，大意是：被杀死的接近上万人，尸体阻塞河道，使泗水都要断流了。
早期的正史关于这场战争的记载就只有这二十多个字。可是后来，不知道哪位仁兄把“万数”有意或者无意地改为了“数万”，事情就有点不一样了。到了司马光的笔下，这件事已经演变成了下面的模样：
“秋，曹操引兵击谦，攻拔十余城。至彭城，大战，谦兵败，走保郯。初，京、洛遭董卓之乱，民流移东出，多依徐土，遇操至，坑杀男女数十万口于泗水，水为之不流……鸡犬亦尽，墟邑无复行人。”
一次活埋了几十万人，简直是骇人听闻！
如果这件事真是曹操干的，我们一定把汉魏恶人榜第一名的帽子从董卓头上拽下来给曹操戴上，告他一个反人类罪！
可惜，这不是真相。
由于史料缺乏，还不太清楚这件事是如何从陈寿版演变到司马光版的。在较早一些的桓帝时期，彭城国全部人口不足五十万，当时全国人口是五千多万。经过黄巾起义、自然灾害、战争屠杀，到再晚一些时候，全国人口已锐减到一千多万，此时彭城国的人口想必也已大幅下降。
曹操一边打仗，一边还得派人四处出击，把彭城国全国的老百姓都抓到一块儿，然后全部活埋？真的匪夷所思！
曹操远途奔袭，此时用在彭城的士兵人数充其量也就二三万。攻破彭城后，曹操下令大家先不要打扫战场，也不忙追击敌人，而是干一件更重要的事：每个人分配十多个敌占区抓来的士兵和老百姓，把他们领到泗水河谷里活埋了，干不完活不给吃饭！
即使被抓来的人已有人提前帮忙捆好、绑牢，即使将要被活埋的这些人愿意配合，完成这项任务所涉及的工程量也是巨大的。
坑杀男女数十万口，规模堪比南京大屠杀，你能想象得出来吗？但由于司马光的权威，很少有人动脑筋细想，这样的说法在后世逐渐流行。
不说这桩公案了，且说陶谦退保郯县。曹操继续追击，在郯县以东的武原与陶谦主力部队又进行了一场恶战，再次取得胜利，兵临郯县城下。从鄄城出发到郯县，直线距离已有上千里，曹军远道而来，虽然节节胜利，但自身消耗也很大，士卒减员，战斗力下降。对方已退无可退，拼命死守，曹军攻城不克。
郯县难攻的原因还有一个：城里来了生力军。
陶谦开始还信心满怀，原来想至少也能跟曹操拼一拼吧，但没想到自己的部队在曹军面前竟然如此不堪一击。眼看郯县危急，在曹军围上来之前，他赶紧派人向盟军公孙瓒求救。
袁术被打跑后，陶谦如果再被消灭，公孙瓒对袁绍、曹操南北夹击的战略部署就要落空，所以对陶谦的求救他不能不管。公孙瓒命令距离徐州最近的田楷、刘备驰援郯县。
田楷和刘备分别是公孙瓒任命的青州刺史和平原国相。刘备带着关羽、张飞、赵云等人率先到达，这时候他兵力还很有限，只有一千多人，再加上一些乌桓骑兵，以及数千难民，那阵势不像是来帮忙打架的，倒像是来吃大户的。
但这些都是生力军。兖州军和徐州军已经打了几个月，双方都很疲惫了。郯县因为有刘备的加盟，防守力量明显增强，所以尽管曹洪、夏侯渊等人亲自督战，试图一举拿下郯县，但猛攻了几次，都没能攻下。
长期围城是不现实的，这是敌占区，敌人的后援会越来越多，而自己队伍将面临后勤补给等方面的难题。曹操决定放弃攻城，回师兖州。
郯县攻防战想必给曹操留下了较深的印象，从情报人员的嘴里他也许听到了刘备这个名字。在此之前，他对这个名字可能还比较陌生，但今后他的生命将与这个人紧紧地联系在一起，相知、相交也相斗，一直到死。
在泰山郡方向，曹仁进展得也很顺利，打败了陶谦在那里的部队，收复了开县、华县、费县等地，将“曹统区”的范围扩大到整个任城国和泰山郡。
过了年，在长安的献帝刘协下诏改年号为兴平。兴平元年（194年）春天，曹操结束了为期近半年的第一次远征徐州之战回师鄄城，陈留郡太守张邈亲自到州界迎接他们凯旋。想到半年前出征时生死未卜、曹操以家室相托付的情景，两位老战友不禁“垂泣相对”。