翌日，孫權起大軍出寨，將皖城三麵圍定，孫權親自擊鼓，眾將披堅執銳、親冒矢石殺向皖城，城上箭如雨下，東吳兵渾然不顧，淩統領五百家兵奮力登上城頭，朱光令弓弩手齊射，不能阻其腳步，淩統綽刀挽盾，一個箭步上前砍翻朱光，眾家兵一擁而上，將朱光砍做肉泥。餘眾皆散，孫權趁勢得了皖城。
合淝守將牛金接到朱光求救，領兵星夜來救，兵至巢湖被周瑜截住，正左右衝突不出，幸得甘寧引一支水軍行至此處，救下牛金。呂蒙聞皖城已失，便不再去救，就勢在巢湖紮下水寨，與合淝呈掎角之勢，遙相與東吳水師對峙。
孫權得了皖城，揮軍北上來取合淝，又令周瑜從水路進兵，與呂蒙決戰於巢湖。周瑜得令，命前軍黃蓋翌日領本部軍出寨，去呂蒙寨前搦戰。
黃蓋得了軍令回到帳中，向手下隻是粗略交代幾句，並不上心。部將胡綜提醒道：“我聞呂蒙極善治兵，麾下甘寧、陳武皆有過人之勇，晉軍船上還多備硬弩、投石、巨弩等物，明日交戰老將軍切不可輕忽。”
黃蓋不以為然冷哂道：“呂蒙，不過一乳臭未幹小兒罷了，我研習水戰三十年，豈會敗在他的手中？況且晉軍水師多北方之人，不識水性，縱有利器，也不能用！我有何懼哉？且看我明日取呂蒙之首獻於主公！”
翌日，黃蓋率大小戰船出水寨，劈波斬浪行至呂蒙軍水寨前，隻搦呂蒙出戰。水寨中甘寧見了，找呂蒙請令出戰，被呂蒙所阻。呂蒙麵授機宜一番，親自領兵出營。
見呂蒙出寨，黃蓋下令全線進攻，呂蒙令陳武出戰，自在樓船上觀看戰情。隻見兩軍交鋒，東吳水軍雖擅長水戰，卻也擋不住晉軍遠程武器的壓製，衝到近處，迎麵就是一陣勁急的強弩，離得遠了，又麵臨隕雷車和床弩的炮轟，隻能依靠船隻靈活，軍士水性精熟而咬牙支撐。
兩支水軍從早晨一直廝殺到午後，黃蓋漸漸抵擋不住，呂蒙見時機已到，在樓船上揮動紅旗，隻聽身後一聲炮響，甘寧引一隊艨艟快船從船陣中殺出，直取黃蓋座艦。船到半途甘寧拈弓搭箭，一箭正中黃蓋肩窩，黃蓋大叫一聲，從船舷上跌入水中。好在他精通水性，負箭遊上岸去，這才僥幸撿回一條性命。
不過沒了主將，東吳兵頓時陣腳大亂，甘寧引錦帆眾衝入敵陣中，所過之處吳兵盡皆退散。呂蒙趁勢揮軍猛攻，黃蓋水軍大敗，部將胡綜被射死於亂箭之中。兵馬折其大半倉皇退走，幸得周瑜命丁奉、朱異引兵救應，呂蒙也不追趕，兩軍廝殺一陣，各回本寨。
周瑜聞黃蓋兵敗，大怒。翌日親提水師來呂蒙寨前搦戰。晉軍水師水性比東吳兵差了一些，不過仗著武器先進，硬是壓過東吳水師一頭，接連幾日交戰，周瑜損失了不少兵馬戰船，卻一點便宜都沒有占，反倒是晉軍水師的水戰能力在實戰磨練中提升了一截。
而此時，孫權已經親領大軍開赴巢湖邊，有呂蒙在側牽製，孫權也不敢直至合淝城下，離著五十裏紮下營寨。他現在必須先接觸呂蒙這個麻煩，才能安心進攻合淝。