曹操是從洛陽逃出來的，一路上提心吊膽生怕被人暗害，所以，呂家兄弟的熱情讓他很懷疑是別有用心。在屋內休息時，他忽然聽到後院傳來“沙沙”的磨刀聲，還有人在小聲說話：“把它捆起來殺了怎麼樣？”
曹操疑心大起，立即拔出劍，衝出房門，見人就殺，不由分說把呂家人全殺了。等他稍微冷靜些時，發覺呂家兄弟原來是準備殺豬招待他的，曹操這才知道殺錯了人，心裏很懊悔。但錯誤已成事實，也沒辦法了，曹操縱身上馬，繼續趕路。
路上，曹操正好遇上了買酒回家的呂伯奢，呂伯奢見曹操不吃飯就要走，覺得內心過意不去，哪裏肯依。曹操殺了呂家人，心裏本來還有些懊悔，一見呂伯奢，心想麻煩了，這若是傳出去豈不是要誤我大事？索性一不做二不休，一起殺了以除後患。
於是，曹操再次拔出劍，不由分說把呂伯奢也殺了。
殺了呂伯奢，曹操仰天長歎，“也罷！寧可我負天下人，不要叫天下人負我。”
從此，曹操將“寧可我負天下人，不要叫天下人負我”這句話當作了自己的座右銘，史家也因這句話將他稱為“奸雄”。
將皇帝當令牌
曹操起兵不久，還在青州剿擊黃巾軍時，他手下的謀士毛玠就替曹操製定了一個長遠的戰略方針，其說：“如今天下分崩，皇帝流離，人民百業全廢，饑寒交迫，棄家流亡，政府沒有一年的存糧，人民沒有安居的保障，這種情況不可能長久不變。奉行仁義的軍隊，才能取得勝利；擁有豐富的資源，才能鞏固自己的地盤；我們應該尊奉天子，才有資格號令其他割據的首領；努力推行耕田種桑，才有能力積存糧食草料，如此，霸王事業可以成功。”
當時，李傕、郭汜控製長安後，因內部爭權奪利而互相攻戰，打了幾個月，死傷數萬人，長安又遭受了一次洗劫。漢獻帝為李傕所劫持。這時漢獻帝的嶽父董承，聯合了各地軍隊的力量，打敗了李傕，把漢獻帝奪了過來，再回到洛陽。
洛陽早被董卓燒毀，到處斷垣斷壁，野草叢生，不要說是宮室，連稍微像樣的房子都沒有，漢獻帝和文武官員，隻得搭幾個草棚遮風避雨，但吃食仍不能解決，不要說糧食，就連野菜也很難找到，不少官員餓死在牆腳、路邊。
而各地的軍閥正忙於擴大地盤，誰也不來管這個有名無實的漢獻帝，各地軍閥的混戰又加劇了百姓的苦難。原來的義軍被鎮壓了，又有新的義軍組織起來了，他們仍打著黃巾軍的旗號。其中青州（今山東一帶）的黃巾軍勢力很大，他們攻下了兗州，殺死刺史劉岱。
再說那個單獨與董卓交戰的曹操，脫離了袁紹為盟主的聯軍後，南下揚州擴充勢力。他北上徐州，聽說劉岱戰死的消息，立即派部將陳宮到兗州遊說。兗州的官吏紳士畏懼黃巾軍勢大，也想借曹操的力量來抵擋一陣，於是他們擁曹操為兗州牧，曹操為立牢腳跟，就把精力集中到鎮壓黃巾軍上。
開始，曹操常打敗仗，起義軍也有很重傷亡。半年後，形勢逆轉了，義軍雖然人多，但軍糧難以維持，曹操趁機逼降，他軟硬兼施，答應給予各種優惠條件，青州黃巾軍終於全部投降，曹操從中選拔了身強力壯的人員，補充自己的部隊，人數號稱30萬之眾。從此，曹操不僅有兗州作根據地，而且兵力也大大加強了，與當年陳留起兵時已不可同日而語了。
與此同時，在冀州的袁紹，在南陽的袁術等軍閥，也發展了勢力，他們都覷視皇帝的寶座。那時候，漢獻帝已名存實亡。但“名存”也是一種資本，有人向袁紹建議，要他接納獻帝到冀州來。袁紹妄自尊大，根本沒把這個空頭皇帝放在眼裏，認為有他沒他都無所謂。
這時，曹操正駐兵在許城（今河南許昌），他對如何對待獻帝這個空頭皇帝頗費躊躇，就召集親信和謀士來商量。
謀士荀彧說：“從前晉文公發兵把周襄王送回洛邑，成了霸主；漢高祖為義帝發喪，打敗了項羽，使天下人心所歸。這樣的事例，在曆史上不勝枚舉。現在皇上已到了洛陽，困苦不堪，將軍如果把皇上迎來許城，正是順從了人們的願望，如果我們不去迎接，早晚有人去迎接，我們豈不錯過了良機？”