這時候，諸葛亮來到江東的消息也傳到了曹操那裏，曹操集團內部對這件事展開了討論。很多人認為孫權會殺掉劉備和諸葛亮，然後投降曹操，就算是他們真的聯合了，也根本不足為慮，曹操正好也持這種看法。另一派人認為孫劉兩家一定會聯合，而且他們的力量也不可小視，可惜的是這一派的意見沒有被曹操重視。
曹操的謀士賈詡也勸曹操見好就收，慢慢經營好荊州，再動手收拾劉備和孫權，不要把他們逼得太緊。可是曹操那時候已經不可一世，急於想統一中國，所以根本就聽不進去賈詡的建議。
曹操決定乘勢拿下孫權。這時候曹操給孫權寫的那封信也送到了孫權手中。這封信馬上在孫權的陣營中引起了震動。孫權手下的人分成了兩派，一派以張昭為代表，主要是文官，他們認為曹操實力太強大了，根本不可能打贏，所以就極力勸孫權投降。張昭在江東集團中的影響力很大，大多數人都同意他的意見，所以孫權感覺很難辦。
另一派以周瑜和魯肅為代表，他們積極主戰。周瑜當時正在鄱陽訓練水軍，沒有在孫權身邊。魯肅勸孫權千萬不能接受張昭的主意，還讓孫權調周瑜回來商量抗敵大計。周瑜回來之後，先是對孫權進行了一番激勵，然後他開始分析曹軍的弱點，他所說的和諸葛亮提出的都差不多。他重點指出：曹操的士兵大多數是北方人，到了南方的江河湖泊之間，一定不會習慣，而且必定會生疾病。生了病的士兵，哪還會有戰鬥力，所以根本不用怕曹操。周瑜還告訴孫權，曹操的軍隊根本沒有80萬，最多隻有二十三四萬罷了，而且還都是疲累之兵。
周瑜讓孫權給他精兵3萬人，馬上進駐夏口，保證可以把曹操打敗！
孫權聽了周瑜的分析和請求，變得格外激動，他拔出自己隨身帶的寶劍，揮劍砍去了自己麵前的奏案的一角，並對下麵的文武官員說：“我已經下定決心和曹操決戰到底，大家從現在起要團結一致，努力破敵。誰要是再敢說投降，就和這奏案一樣！”
接著孫權把3萬精兵交給周瑜，任命周瑜為主將，程普為副將，魯肅為讚軍校尉，先率領軍隊沿著長江西上，和駐紮在樊口的劉備會合。自己再挑選精兵，準備支援周瑜。
這時候駐紮在樊口的劉備得知周瑜率軍西上的消息，非常高興，就也派人去周瑜軍中慰勞，隨後親自帶領自己的2萬多人去和周瑜會合。
當曹操得知自己不戰而屈人之兵的計劃失敗了以後，就親自率領軍隊從江陵出發，開始進攻孫、劉聯軍。
過了不久，孫、劉聯軍和曹操的軍隊在長江南岸的赤壁遭遇。這場仗剛開始打，曹軍的先頭部隊就吃了虧。曹操撤回了這支部隊，把他們撤到了長江北岸的烏林，和主力部隊會合，與孫、劉聯軍隔著長江對峙。正如諸葛亮和周瑜所分析和預料的那樣，曹操的軍隊因為長途跋涉，本來就很疲勞。現在又水土不服，染上了疾病，很多士兵都病倒了，大大影響了戰鬥力。北方人不習慣乘船的這個缺點這時候也充分地暴露出來，在船上連站都站不穩，經常會眩暈嘔吐，別說是作戰了，就連平時正常的生活都存在很大的困難。曹操看到這個情況，心中十分憂慮。
後來他想到一個辦法，讓士兵們用鐵鏈把船都連在一起，這樣船就不會動了。如此一來，士兵們在船上就像在平地上一樣，精神又都開始振作起來了。
這個情況被周瑜手下的老將黃蓋注意到了，他對周瑜說：“現在敵人的勢力很大，而我軍的士兵少，很難和他們長時間相持下去。現在曹軍用鐵鏈把自己的戰船給連接起來了，雖然平坦，但卻無法移動，我們完全可以用火攻的辦法將他們打敗。”
周瑜立即采納了黃蓋的建議，為了能夠麻痹曹操，方便在展開火攻的時候盡量地接近曹營，周瑜就決定讓黃蓋詐降曹操。為了讓曹操相信，兩個人還出演了一場“苦肉計”。後來黃蓋親自寫了一封降書，派使者送到了江北曹營。
曹操仔細地閱讀了黃蓋送來的降書，也沒有發現什麼可疑之處。上次自己送信給孫權以後，在江東的確引起了巨大的震動，很多人都主張投降。對這個情況曹操早就清楚，因此感到黃蓋降書中所說的事情都是事實。在這種具體情況下，黃蓋說他願意前來投降，也算是情理之中的事情。但曹操仍然十分擔心其中有詐，於是把送信的使者叫到自己麵前，仔細盤問了一遍，也沒有發現什麼破綻。又聽說，周瑜和黃蓋鬧矛盾打了黃蓋，這個消息終於讓曹操不再懷疑，他十分高興，對送信的使者說：“黃老將軍如果是真心投降，幫助我打敗孫權，我一定會重重地封賞給他爵祿，超過以後所有前來歸附的人！”
曹操和送信的使者約定好了黃蓋前來投降的時候、雙方聯絡用的信號之後，就打發使者回去了。然後，就命令士兵們每天都密切注意觀察江麵上的動靜。