李白拖著病弱的身子折返金陵，由於年事已高，再加上長途的跋涉，在抵達金陵時他已是奄奄一息了，孱弱得每日隻能躺在床上。李白在金陵的生活起居都得仰賴朋友們的賑濟和照料，這叫一身傲骨的“謫仙人”如何能忍受得了，但老弱貧病的他又能如何呢？
過了數月，他病體漸愈，決定離開金陵，但身上盤纏有限，不可能再像以往般遨遊名山大川，而且剛病愈的身子也不容許他這麼做，所以他決定到安徽當塗去，當時安徽邑宰李陽冰是李白的族叔，到那兒也可多個人照應。
李陽冰是趙郡廣漢人，他工於書法，言談舉止溫文儒雅，李白常讚頌他在詩文方麵的造詣，與他常有唱和之作。一切安頓好後，李白便在當塗城外的謝公山中定居下來。謝公山原名青山，因謝朓曾居於此，便改叫謝公山。李白頗安於這種淡雅的生活狀態，有就在此終老的想法，但他的健康情況一直不很穩定，時好時壞。
公元762年十一月，李白舊病複發，而此時李陽冰又因朝廷詔調，必須離開當塗。李陽冰在離去前夕上山探訪李白，準備與他辭別。這時李白的病勢已經很重，但見李陽冰來訪，他非常高興，便從案頭取出自己所作的詩文對李陽冰說：“我一生浪蕩，四海為家，而一無所成，實在愧對我的老父，而今將咽下最後一口氣，我僅有的隻是這些詩文，望您能代我處理。這些日子來多蒙您的照顧，我實在無以為謝，隻能有待來生再報了！”
李陽冰含淚接過了那一大遝文稿，並寬慰安撫了李白一陣，並囑咐了一個張姓友人來照顧李白。
從李白處出來，李陽冰緩緩地下山，但仍不時地回頭。他有種預感，這次可能是他和李白的訣別了，想到此處，李陽冰不禁潸然淚下。他哀傷、惋惜，並不僅因為李白是他的族侄，而是惋惜一位天才的沉淪，他為李白感到不平。
送走了李陽冰，李白手扶著門楹，仰望門口逐漸昏暗的蒼天，神情淒楚。他知道自己生命之火已將燃盡。他勉強地移到床邊，拿起了紙筆，當即作了一首《臨終歌》：
大鵬飛兮振八裔，中天摧兮力不濟。餘風激兮萬世，遊扶桑兮掛石袂。後人得之傳此，仲尼亡兮誰為出涕？
一生未能如大鵬般展翅翱翔，一酬壯誌，這是李白一直耿耿於懷的，也許他終將抱著這憾恨永離人世。
據傳說，一日李白精神格外的好，於是他下床走出屋外，一輪明月已經爬上樹梢，沐浴著柔和的月光，傾聽林間偶爾傳來的鳥鳴，李白覺得全身舒暢。
剛剛恢複了一點精力，李白又拾起了杯中物。他在屋前一條名喚采石的江畔席地而坐，然後高舉酒杯，孤獨地大聲吟唱起他當年的佳作。他就這樣在江邊追憶著，飲著，淚中帶笑，笑中有淚，李白時不時抬起頭，上麵繁星點點，明月當空。
這時，一片雲緩緩飄過，遮住了月亮，李白見狀，驚道：“月亮怎麼不見了？”這時，他看見江中忽閃忽閃地有團潔白的月影，於是隨手抄起一壇酒，跳上岸邊的一條小船，費力地向江心劃去，一邊劃一邊說：“月亮掉到江裏去了，我要把它撈上來。”到了江心，他一口氣將壇中的酒喝光，然後索性半蹲著身子，把手伸入水中，銀盤一樣的月影蕩漾起來，瞬間破碎了，於是他再次伸手去撈……由於他整個身體都集中在船的一側，小船由於重心不穩一下子翻了過來，隻聽“撲通”一聲，李白跌入了水中，一會兒工夫就不見了。江水仍平靜無紋，一輪清晰的月影重新浮上了江心。