鮑信這時候也出麵對大家進行說服教育工作，很快就得到了大家的讚同。於是鮑信和兗州治中萬潛這些人馬上趕到東郡，把曹操迎接到了兗州，做了兗州牧。
後來，曹操率領部下努力作戰，用計戰勝了青州黃巾軍。這年冬天曹操總共接收了黃巾降軍30多萬人，同時還得到了跟隨黃巾軍一起作戰的男女共100多萬人口。曹操從中仔細挑選了部分精銳，組成了一支戰鬥力非常強的隊伍，號稱是“青州兵”。但是鮑信將軍卻在和黃巾軍的戰鬥中不幸戰死了。
這是曹操帶兵打仗以來所打的第二個大仗，也是一個大勝仗。在這一次的戰鬥中，曹操表現得臨危不亂，又非常善於鼓動士氣，善於抓住敵方存在的弱點，做到出奇製勝，顯示出了非常卓越的軍事指揮才能。
在這一時期，曹操的武裝力量有了長足的發展，還有不少謀臣武將不斷投奔到了他的麾下。其中最為著名的有荀彧、滿寵、毛玠、程昱、於禁、呂虔、典韋等人。
到這個時候，曹操手下不僅擁有了親信的家兵，還有了非常精銳的“青州兵”，手下的謀臣戰將也一天天增加，自己的武裝力量日益壯大。這些都成為他在兗州建立革命根據地的重要依靠。
公元192年冬天，曹操擊敗黃巾軍後沒過多久，就突然遭到了袁術的進攻。曹操就率軍隊向袁術發動了一連串的攻擊。最後在公元193年的春天，打敗了袁術的軍隊，把袁術趕到了離兗州很遠的地方，徹底解除了兗州南麵的一個大威脅。夏天的時候，曹操帶領軍隊回到了定陶。
殺父之仇
公元193年5月，盤踞在徐州的軍閥陶謙聯合叛賊闕宣發兵進攻兗州，接著陶謙的部將又殺害了曹操的父親曹嵩。曹操為了維護自己在兗州的利益，也為了給自己的父親報仇，就果斷發動了攻擊徐州牧陶謙的戰役。
公元193年秋天，曹操第一次大規模地發動對陶謙的進攻，一鼓作氣接連攻下了十幾座城市，順利進抵彭城。陶謙帶領軍隊前來進行會戰，又被曹操打得大敗，總共有上萬士兵被殺。
曹操因為自己的父親被殺害，就帶著強烈的複仇之心，進行瘋狂的殺戮，就算是普通百姓也不放過。有數萬男女被殘酷殺害，屍體紛紛倒伏在了流經彭城的泗河上麵，河水被屍體填滿，甚至沒有辦法流動。當初洛陽、長安一帶遭遇董卓之亂，有不少老百姓就跑到徐州來避難，結果很不幸在這場戰亂中慘遭殺害。
陶謙在曹操猛烈的進攻之下，不得已退居郯縣，還派兵在郯縣西南的武原駐守。武原是從彭城到郯縣的必經之路，陶謙就命令武原守軍拚盡全力進行防守。曹操發動的進攻遇到了激烈的抵抗，費了好大力氣攻到了郯縣城下，陶謙卻又堅守不出。曹操實在是沒有辦法了，隻好暫時放棄攻城，果斷改變了進攻方向，向泗水以南的地方不斷推進，接連攻占了取慮、睢陵、夏丘等縣。曹軍所到之處，仍然大肆進行屠殺，把城鄉弄得是一片淒涼，不僅路上已經完全看不到行人，就連雞犬的影子也難以見到了。
與此同時，曹操還派遣曹仁猛烈進攻費縣、華縣、開陽這些地方，陶謙派出了許多部將去援救各縣，可是通通都被曹仁擊敗。
後來因為陶謙得到了青州刺史田楷先生和平原相劉備先生的救援，又因為曹操的軍糧吃光了，一時之間沒有辦法得到接濟，所以不得不退兵。
值得一提的是，曹操這次率軍東征陶謙，得到了袁紹的大力支持，袁紹派自己的屬下朱靈率領軍隊幫助曹操。東征結束後，朱靈沒有回原來的領導袁紹那裏，而是率領自己的人馬投靠了曹操。
曹操回到兗州之後，經過了一番充分的準備，又在公元194年的夏天，第二次率領自己的大軍東征陶謙。曹操的大軍進入徐州境內後，一口氣接連攻下了五座城池，軍隊一直進逼到了琅玡、東海兩個郡。