熙寧九年，王安石攜帶家人回到江寧府。在江寧城東門外的一座山的半山腰，購買了一處低窪積水之地，開始建造自己的園林。園林建成後取名半山園。在這裏王安石度過了他的晚年生活。
尋山問水是王安石一生的喜好，大自然永遠是他的朋友。在繁華喧鬧的東京呆了七年之後，他像倦鳥歸林，無時無刻不想與大自然相依相伴。
在離開東京時，神宗曾賜給他一匹馬，說送給他做腳力。王安石又買了一頭驢。凡出遊，或騎馬，或騎驢，不坐轎。有人建議他，年齡大了，騎馬不安全，不如坐轎子。王安石回答說：“拿人當牲口，不習慣。”
在熙寧十年後的江寧，農民們經常可以看到一個老者，穿著普通的寬衣，騎著一匹黑驢，旁邊走著一個遲鈍的騎驢漢子，在野外四處漫遊。說是漫遊，因為王安石出遊，隨隨便便，無預定目的地，完全憑興致。
好佛、道的思想和感情有了進一步發展。兒子的死對他的打擊是致命的。在這突如其來的打擊下，他自然而然地選擇了佛教作為精神避難所。聽講佛法、讀經、研習佛道義理成了他生活的重要部分。王安石晚年所讀的佛經主要是《維摩詰經》和《楞嚴經》，所信奉的主要是禪宗。在王安石晚年的詩裏，隨處可見禪的氣息。有許多詩，本身就是用禪宗語言。
此外，與朋友相往來，也是王安石晚年生活的重要內容。在晚年交往的對象中，隻有呂嘉問是昔日變法派成員，他的得力助手。其他都是一些“處士”，他們討厭科舉，放浪形骸，孤介寡合，獨來獨往。此時，與之交往密切的，其中有俞秀老、俞清老、楊德逢等。王安石經常與這些處士交流一生的心得和感悟，還有一些很容易沉浸和陶醉的事情。
元祐元年（1086年）四月，王安石的心髒停止了跳動，終年68歲。中國曆史上一位大名鼎鼎的變法宰相，一位滿腹經綸、才思睿智的博學文臣，一位性情豪邁、卓爾不群的士人，就這麼永遠地去了。
在王安石身後長達千載的歲月中，人們對他的褒貶毀譽，莫衷一是。不管怎樣，一個誰也無法否認的事實：王安石，在中國曆史上曾寫下令後人永遠爭論不已的一頁。然而，爭議本身就意味著價值。