曹操攻打劉備，並沒有使出全力，他把主力留在官渡，準備與袁紹作戰，兵多將廣的袁紹才是他的主要對手。
曹操帶著一支人馬來進攻徐州。
劉備認為袁紹才是曹操的對手，像他這樣勢力單薄的人，曹操是不值得攻打的。所以，劉備就沒有做什麼準備。
幾天後，哨探說：“曹軍來了。”劉備說：“不可能，再探。”過了一天，哨探說：“曹操親自帶軍來了。”劉備將信將疑，自己親自帶著幾十個騎兵站在高處瞭望，一看到曹操的旗幟，嚇得要死，獨自逃走，投奔袁紹。《魏書》記載：“……備大驚，然猶未信，自將數十騎出望公軍，見麾旌，便棄眾而走。”公，指的是曹操。
劉備走了，徐州沒有了主宰，亂成了一團，《三國誌》記載：“曹公盡收其眾，虜先主妻子，並禽關羽以歸。”張飛和趙雲下落不明。
在曹操的軍營中，關羽的表現可圈可點，以至於後世的人，無論是褒他貶他，都沒有對他這段經曆進行非議。
曹操先封他為偏將軍，又封他為漢壽亭侯，他在曹操的軍營中，隻有短短的幾個月時間，居然拜將封侯，而許諸張遼徐晃夏侯淵等人，哪一個不是跟了曹操征戰多年，哪一個的武功都不比比關羽差多少，但他們都沒有得到關羽這樣的榮譽。
然後，曹操給了關羽很多賞賜，金銀財寶，應有盡有。這些財富，足夠關羽花一輩子，甚至幾輩子。
關羽短短的幾個月裏，成為曹營裏爵位最高的人，也是最富有的人，有車子有票子有房子有位子，關羽是新時代的四有新人。
曹操這樣做，當然是為了籠絡人心。他這樣做是為了讓天下人看，你看看我曹操多麼寬宏大量，多麼禮賢下士，關羽曾經是我的敵人，但是我對他這麼好。可是，關羽不吃這一套。說到底，關羽在曹操這裏隻是暫時安身，等到有了劉備的消息，他就會離開的。
曹操也知道關羽沒有久留之意，就讓張遼探探關羽的口風。張遼和關羽是老交情，呂布和劉備合作的時候，張遼和關羽來往甚密，是鐵哥們。
張遼問關羽的時候，關羽歎口氣說：“我知道曹公對我好，但是劉皇叔對我恩重如山，我不能背叛他。我終究是要離開的，但是離開前，我會報答曹公的。”《傅子》記載：“遼欲白太祖，恐太祖殺羽，不白，非事君之道。乃歎曰：‘公，君父也；羽，兄弟耳。’遂白之。”
張遼是一個正人君子，他識大體，明事理，經過一番激烈的思想鬥爭，把關羽的想法告訴了曹操。曹操感歎說：“事君不忘其本，天下義士也。”