在諾貝爾生命的最後幾年中，他的健康狀況越來越差，心髒病日趨嚴重，這使他感到將不久於人世了。他頭腦清醒，心胸開闊，說：“我的頭發已灰白，身體已衰弱，我一定要預備身後事宜了。”對於像他這樣的大發明家、實業家而又沒有家室的富有者，擬定遺囑是必須的。按照慣例，遺囑的內容應主要是對身後財產的處置決定。
諾貝爾是位和平主義者，對人類的進步懷有偉大的理想，對金錢有他的獨到而富有遠見的見識。想到如何來處置身後的遺產，他說：“大量的遺產，對於多數人來說，是一件禍害。凡擁有財產的青年，他們的前途是注定要毀壞的。”出於他的這些理想、追求與想法，他在生命的最後幾年中一共寫了3份遺囑。時間分別是1889年、1893年3月14日和1895年11月27日。他的第一份遺囑現已沒有記載。在第二份遺囑中，他提出了要將他的巨額財產分作為科學、文學、和平獎金的基金，並規定將財產的20%分贈給22位親友繼承。而在最後一份遺囑中，他又對他的財產處置做了重新的規定，申明了前兩次遺囑由於這次遺囑的訂立而作廢。
諾貝爾的第三份遺囑開始寫於1895年晚秋時節。這時諾貝爾來到巴黎，在這裏度過了兩個月，寫出了他的第三份遺囑。在這份遺囑裏，他改變了前一個遺囑將部分財產贈給親友的決定，決定將全部財產都遺贈給人類。1895年11月27日，在巴黎的瑞典俱樂部，在有4個證人在場的情況下，諾貝爾簽署了這份遺囑，之後，就將這份遺囑存放在斯德哥爾摩的一家銀行裏。
1896年10月，諾貝爾健康狀況日益惡化，他又來到巴黎醫治心髒病。他在馬拉可夫大街的寓所裏度過了一個多月的時間，由於治療和充分的休息，他的病情稍有好轉。11月21日，他又回到了意大利聖雷莫的密歐麗都別墅。在這逝世前的短暫日子裏，他仍在想著他的發明事業。然而，就在他給助手索爾曼寫完那封還沒有發出的信後幾個小時，就突發腦溢血，陷入了昏迷之中。兩天後，終因搶救無效，於12月10日淩晨2點，與世長辭了。
在諾貝爾逝世的第二天，他的兩個侄子愛默紐爾·諾貝爾、海爾馬·諾貝爾和他的助手拉格納·索爾曼都趕到了聖雷莫。在此之前，他們已收到了諾貝爾病重的電報。他們來到之後，遵照諾貝爾的原先交待，將諾貝爾的遺體先交給醫院解剖靜脈血管，進行了死亡確認。之後，在聖雷莫簡單地處理一下後事，就將他的遺體運送回國進行了火化，於1896年12月29日，將骨灰安葬在了斯德哥爾摩近郊斯托基卡的“北方公墓”裏，與他的父母、弟弟埃米爾合葬在一起。他的墓室簡單，符合他的生前心願。
葬禮結束，諾貝爾的遺囑被公布於世。原文如下：
我——簽名人阿爾弗雷德·伯恩納德·諾貝爾，經過鄭重的考慮後特此宣布，我身後可能留下的財產的最後遺囑如下：
……（大批零碎的遺贈項目從略）
在此我要求遺囑執行人以如下方式處置我可以兌換的剩餘財產：將上述財產兌換成現金，然後進行安全可靠的投資；以這份資金成立一個基金會，將基金所產生的利息每年獎給在前一年為人類作出傑出貢獻的人。將此利息劃為五等份，分配如下：一份獎給在物理界有最重大發現或發明的人，一份獎給在化學上有最重大發現或改進的人，一份獎給在醫學和生理學界有重大發現的人，一份獎給在文學界創作出具有理想傾向的最傑出作品的人，一份獎給為促進民族團結友好、取消或裁減常備軍隊以及為和平會議的組織和宣傳盡到最大努力或作出最大貢獻的人。物理獎和化學獎由斯德哥爾摩瑞典科學院頒發，醫學和生理學獎由斯德哥爾摩卡羅琳醫學院頒發，文學獎由斯德哥爾摩文學院頒發，和平獎由挪威議會選舉產生的5人委員會頒發。對於獲獎候選人的國籍不予任何考慮，也就是說，不管他或她是不是斯堪的納維亞人，誰最符合條件誰就應該獲得獎金。我在此聲明，這樣授予獎金是我的迫切願望……
這是我唯一有效的遺囑。我死後，若發現以前任何有關財產處置的遺囑，一概作廢。
他指定兩名瑞典土木工程師拉格納·索爾曼和魯道夫·利烈克維斯特作為遺囑的執行人。索爾曼當時年僅26歲，是3年前他聘用的助手，也是他的最忠實的朋友。他與諾貝爾在巴黎、聖雷莫和博福斯等地方一起共事，對遺囑的起草過程很清楚，是最了解諾貝爾心願的人。利烈克維斯特這時已40歲，他與諾貝爾僅見過兩麵，但諾貝爾對他的人品很相信。
諾貝爾的這個史無前例的遺囑公布後，震驚了整個世界。這位偉大人物的先進思想並沒有馬上被時人理解，引起了一場意想不到的風波。遺囑執行人首先遇到了諾貝爾親屬和社會輿論這兩個方麵的阻撓和壓力。
就在葬禮結束後的第4天——1897年1月2日，一些報紙就開始對諾貝爾的遺囑進行指責，說這份遺囑將巨額財產贈給了全人類，忽視了瑞典的利益，去支持外國的科學家、文學家和和平人士，是不愛國的；尤其不能容忍的是，遺囑竟把和平獎的授予權交給了挪威議會，這時瑞典與挪威的關係已異常緊張，由此更加引起了公眾輿論的反對。遺囑中指定的瑞典評定機構對遺囑分派給他們的光榮使命並不熱心，他們擔心這項範圍廣又很艱巨的任務，會打亂他的正常業務。而其中的一部分人則堅決反對這份遺囑。瑞典科學院院長漢斯·福會爾則主張，將諾貝爾的遺產捐贈給瑞典科學院，用來發展本國的科學事業和文學藝術。