建安十五年周瑜病故，魯肅接班。魯肅去陸口上任，路過呂蒙的防地，魯肅身邊的人就對他說，將軍現在路過了呂將軍的防地，應該去看看他，呂將軍現在和以前不一樣了。魯肅不知道呂蒙的變化，心裏還是不大看得起他，礙於麵子，隻好去看一看他。去了之後，呂蒙就盛情款待，酒過三巡之後，呂蒙就問魯肅，將軍現在接掌眾任，與關羽為鄰，怎樣對付關羽，將軍有想法沒有？魯肅心想你懂個什麼啊，就敷衍他說，唉，到時候看情況隨機應變吧。不料呂蒙卻說，這樣恐怕不行吧，我們和劉備表麵上是同盟，實際上關羽是熊虎之人，不好對付，怎麼能不事先做好準備呢？現在呂蒙願意向將軍獻計，於是呂蒙一口氣向魯肅獻了四個計策。
呂蒙獻的計策是什麼，史書上沒有記載，不過可以肯定的是，這些計策一定體現出了呂蒙讀書後的長進，因為魯肅一聽之下，大為驚詫，本來是和呂蒙席地而坐，中間隔著距離的，聽著聽著，魯肅的身子就挪過去了，用手撫著呂蒙的背說：子明啊，真沒想到你現在這麼有學問了。呂蒙也不謙虛了，回答說，士別三日，當刮目相看啊。這就是成語“士別三日，當刮目相看”的來源。
結果魯肅就升堂拜母，進入呂蒙家的內室，見了呂蒙的母親，算是與呂蒙結為兄弟了。不過魯肅雖然欣賞呂蒙，卻沒有用他那一套計策，因為魯肅和呂蒙在對待劉備上的政見是不同的，魯肅一貫維護孫劉聯盟，而呂蒙卻主張奪回荊州。然而盡管政見不同，鑒於呂蒙的才幹，魯肅臨死的時候，還是向孫權推薦了魯肅。
建安二十二年，魯肅去世，呂蒙接替他的位子。呂蒙就向孫權建議說，我們對抗曹操不一定依靠關羽，再說關羽君臣巧取豪奪，反複無常，根本就靠不住，我們還不如早點行動，奪回荊州。
呂蒙的意見恰和了孫權的心思，孫權就讓呂蒙尋找機會，除掉關羽，奪回荊州。說機會，機會就來了，建安二十四年，劉備得益州，自稱“漢中王”，關羽同一個月攻打襄陽和樊城。打到後來，兵力不濟，關羽就猶豫到底派不派兵增援，一旦增援，後方就空虛了，那麼呂蒙那邊會不會趁機釜底抽薪呢？呂蒙敏感地意識到關羽的處境，於是就去忽悠關羽。首先，他裝出一副友好的姿態，由於魯肅在的時候向來奉行的是這個政策，所以關羽也沒有懷疑呂蒙有變，其次呂蒙又裝生病，假裝回建業養病，讓關羽打消顧慮，其次又派了名不見經傳的陸遜接替自己，陸遜一上任就寫信誇讚討好關羽，關羽一看，接替呂蒙的人不過是個無能之輩，於是對後方徹底放心，將隊伍都派到前線。
一旦窺伺關羽後方空虛，東吳這邊裝病的不病了，裝無能的也不無能了，兩路出發，去端關羽的老窩。呂蒙這邊，他讓自己的士兵都穿上白衣服，裝扮成商人，沿著長江向江陵進發，沿途碰見關羽的崗哨，就假稱做生意，笑眯眯地靠近，不動聲色地幹掉崗哨，人不知鬼不覺地一路來到南郡，守江陵和公安的人見東吳兵從天降，就不戰而降。
呂蒙兵不血刃地拿下南郡，陸遜那邊也把住了長江的峽口，防備蜀漢的援軍。呂蒙入城後，對關羽部將的家人優待有加，並下令軍中，不得騷擾百姓，他還早晚慰問年長的人，關心他們的生活，有人生病，就送去醫藥，有人饑寒，就送去衣食。關羽聽說江陵失守，急忙回援，回軍途中，將士們聽說家人不但平安無事，反而得到優撫，也便失去鬥誌，大多數都逃了。關羽孤軍奮戰，進退失據，遂西走麥城，最終被擒獲殺死。
江陵之戰獲勝，呂蒙也一語成讖，真的病倒了。孫權當時在公安，就把呂蒙接來安置在內殿，千方百計找人為他治病。孫權想多看看呂蒙，又怕打擾他休息，就命人在牆上鑿了一個洞悄悄探視，看到呂蒙吃下點東西，孫權就喜笑顏開，有說有笑，看到呂蒙不進飲食，孫權就長籲短歎，夜不能寐。呂蒙病情略有好轉，孫權就下達赦令，讓群臣都來慶賀，呂蒙後來病情加重，孫權就命道士為他祈禱。
然而孫權的滿腔癡情卻沒能感動死神，呂蒙最終不治而逝，時年四十三歲，孫權悲痛萬分，縮食減眠以示哀悼。
呂蒙生前所得金銀財寶和各種賞賜都交到庫府收藏，他命令主管人員，自己死後，把這些全部歸還朝廷，他還留下遺言，喪事務求儉約，不得奢侈。
《三國誌》作者陳壽評價呂蒙說，呂蒙勇而有謀斷，識軍計。初雖輕果妄殺，終於克己，有國士之量，豈徒武將而已乎！毛澤東也曾說過，呂蒙如不折節讀書，善用兵，能攻心，怎能充當東吳統帥？
一味地不讀書，不能成事，一味地死讀書，也不能成事，將書本知識用於實際生活，將先輩智慧的結晶為己所用，這樣的人生是被拓寬了的人生，也必將是脫離凡庸的人生。