荀彧走後不久，董卓果然派部將出兵關東，所過之處，燒殺劫掠，大兵至潁川、陳留而還。鄉親父老留在潁川的，多被殺掠。至此，人們才想到荀彧的預言分毫不差，後悔戀土不去，遭此不幸。而荀彧卻因精明的預見，逃脫了這場厄難。
荀彧到了冀州，韓馥已被袁紹奪去冀州牧之位。袁紹早聽說荀彧的大名，待之以上賓之禮。荀彧的弟弟荀諶及同郡人辛評、郭圖，也都接受袁紹委任的要職。
袁紹出身於“四世居三公位，由是勢傾天下”的世家豪族，弱冠登朝，播名海內，威震河朔，名重天下。但善於審時度勢、見機知人的荀彧，看出他徒有虛名，不能成大事。這時，奮武將軍曹操，引兵進入東郡，擊破白繞軍於濮陽，被袁紹表薦為東郡太守。曹操的影響和實力，都遠不及袁紹，但荀彧看出此人有雄才大略，終能成大事，於是，在初平二年（公元191年），毅然脫離袁紹，投奔了曹操。曹操得到荀彧，大喜，說：“吾之子房也”，把他比作漢高祖的謀臣張良，立即委任為司馬。這年荀彧年僅二十九歲。
保全三城
初平三年（公元192年）曹操領兗州牧，後為鎮東將軍。荀彧常以司馬之職跟隨，為之出謀劃策，興平元年（公元194年），曹操以荀彧、程昱留守鄄城，自率主力部隊東征徐州牧陶謙。攻拔五城，略地至東海，“所過多所殘戮”。正當曹操在東方大殺大砍快意之時，空虛的後方，禍起蕭牆。曹操大將陳宮勸張邈乘兗州兵力空乏反曹操，他說：“今州軍東征，其處空虛，呂布壯士，善戰無前，若權迎之，共牧兗州，觀天下形勢，俟時事之變通，此亦縱橫之一時也。”
張邈，字孟卓，與曹操、袁紹皆為好友，曾“辟公府，以高第拜騎都尉，遷陳留太守”，與曹操一起首舉義兵，討伐董卓。後因批評袁紹驕矜，袁紹使曹操殺他，曹操拒絕，張邈十分感激。初平四年（公元193年）秋，曹操征陶謙，敕命家人“我若不還，往依孟卓”。回來後，見到張邈，相對垂淚，可見友情之深。但想不到，陳宮的一席話，竟說動了張邈，決定叛曹操，迎呂布奪兗州。這時，陳宮奉曹操之命正將兵留屯東郡。於是，率軍迎呂布為充州牧，占據重鎮濮陽。
呂布，字奉先，是一員梟將，“使弓馬，臂力過人，號為飛將”，騎一匹赤兔良馬，衝鋒突陣，勇猛異常，故當時人語：“人中有呂布，馬中有赤兔。”曾親手殺死“誓為父子”的董卓。董卓部將李傕等攻入長安，呂布兵敗，率數百騎出武關，欲投奔袁術，被拒之門外，北詣袁紹，又遭袁紹猜忌，甚至派壯士乘夜圍攻掩殺。呂布無奈，逃往河內，與張楊合兵。逃命不遐、無立足之地的呂布，一見陳宮等來迎，真是絕路逢生，喜出望外，立即隨陳宮興高采烈地進入兗州。
張邈派劉翊來到鄄城，對荀彧說：“呂將軍來助曹使君討伐陶謙，已進入我兗州境，請您供給軍糧。”眾人多將信將疑，也有人信以為真，喜得呂布援助。而有些督將大吏已暗中與張邈、陳宮合謀，摩拳擦掌，欲為內應。荀彧一眼即看穿對方陰謀：兗州空虛，曹使君未請而呂布自來，非來奪我兗州何為！張邈雖為曹使君好友，但陰謀詭計豈能紙裏包火！某些將吏言行反常，必與通謀。內應竊發，鄄城必危。鄄城有失，兗州大勢去矣！於是，荀彧立即集合兵眾，緊急部署準備，並派人星夜馳召東郡太守夏侯惇。夏侯惇帶兵專程趕來，與荀彧密商，以迅雷不及掩耳的行動，連夜誅殺謀叛者數十人，消除了隱患，安定了人心。