第二天，直係親屬全部在場，老約翰·戴·洛克菲勒的遺體安葬在克利夫蘭的湖景公墓，和他妻子勞拉的墳墓並在一起。他的墳墓以一塊28英寸、14英寸高的簡單墓石為標誌。
在處理金錢上永遠有效力有遠見的、美國第一位億萬富翁，隻留下2641萬應稅財產供遺囑檢驗。聯邦稅和州稅依法取走60%，約1600萬元。龐大財產的其餘一切早已在他身前散發掉，給大多數活著的親屬，給他貼心的一些慈善事業創立一筆筆信托基金，並贈送給他的兒子，以便他能執行後半生的工作。甚至他死在裏麵的住宅也不歸他所有，屋主的名義是他的兒子。財產的大部分是財政部證券。1937年的股票市場正處於曆史上最低的低潮中。在他所有的標準石油公司股票中，老約翰·戴·洛克菲勒隻替自己保留一張加利福尼亞標準石油公司的第一號股票。他的逝世成為當天報紙、雜誌和刊物的大字標題新聞。曆述他生平事跡的訃告充滿整頁整頁的報紙。但是股票市場沒有顯示反應，沒有進一步下跌。全國的石油公司沒有發抖，它們繼續生產、煉製並向全世界推銷美國的石油。
父親去世時，小約翰·戴·洛克菲勒已牢牢掌握一家的財產和權力。到父親把46500萬元移交給他時，他已掌權15年。早先，小約翰不過跑腿，就一切家族企業、商業和慈善事業和父親商量，但是從1922年起，小約翰就開始作最後決定，分發必要的錢。在繼續監督像洛克菲勒基金、醫學研究所和一般教育委員會這些慈善事業之際，小約翰還獨力岔出去幹他畢生持久而強烈愛好的工作：保護自然。他懷著一種宗教熱忱酷愛野外生活。他永遠不停地欣賞山陵的宏偉、湖泊的寧靜和綠野的開闊。隨著這種享受，他認識到凡是他所享受的，其他人也應當享受。早在1910年。買下緬因州海豹港荒島上的夏季住宅時，他就開始認識到，他所知道的該島崎嶇起伏之美終將因私人擁有一塊塊土地而遭受破壞。為了保存這一景色優美的島嶼，他跟著其他人買下了大約3萬英畝未耕過的土地，從北邊的法國延伸到南邊的大西洋。隨後他設想沿著島的周邊開辟一條公路，以便遊客能毫無幹擾地享受優美的景色。想實現這一設想需要許多年的辛苦經營，他親自設計這些道路和橋梁，監督這條沿海大道的鋪築。他遵循一條保護自然的原則，這一原則在往後的歲月中將一路發展下去。僅僅保存荒蕪的土地還不夠，這片土地還必須加以利用，以便人們能享受保存下來的自然美。這3萬英畝土地，道路暢通。起初靠馬匹和馬車，隨後通行汽車。後來他把它們全部捐給政府，成了阿卡迪亞國立公園，密西西比州以東第一個國立公園。
小約翰1924年周遊過一次西部的國立公園，亞利桑那州的大峽穀、新墨西哥州的班得利厄國立紀念碑、科羅拉多州的梅薩·維爾達和懷俄明州的黃石公園。他帶著約翰第三、納爾遜和勞倫斯一起去，他們背著背包，騎馬或步行穿過這些公園。小約翰·戴·洛克菲勒承擔保護天然的責任始自1924年的一次旅行。他和孩子們在梅薩·維爾達參觀史前印第安文化的廢墟時，請公園管理處主任傑西·奴斯巴姆向他們講解了那些錯綜複雜的懸崖宮殿，小約翰就決定捐資就地興建一所公園博物館或一個問訊中心，以便將來的遊客也能有人向他們解釋這些景物。這一試點工作進行得非常好，以致美國今天全部國立公園和大部分州立公園都有問訊中心或自然博物館為遊客造福。在黃石公園，小約翰看到倒在公園道路兩旁的大小樹木和亂石碎礫，為之大吃一驚。得到的解釋是國會拒絕撥款清理路邊。因此小約翰花5萬元資助了清理和美化道路，向人清楚地表明能夠幹什麼和應當幹什麼。五年之後，清理所有國立公園道路又成為政府一項永遠的政策。
1926年他帶著妻子和三個兒子第二次旅行西部，小約翰穿越加利福尼亞州的紅杉林、國立黃石公園，隨後去就在黃石公園南麵的大特頓山，把這一帶的山描寫為“曾經看到的可稱最雄偉和最壯麗的高山……一幅在我看來是無與倫比的瞬息萬變的奇景”。這裏也是一批自然保護者奮鬥了若幹年，想說服聯邦政府把這一奇美的地區作為國立公園。問題是，這片土地的1/5，橫貫在兩條山脈之間、提供高峙1300英尺的大特頓山景色的最勝部分，散布著私有的農屋、搖搖欲墜的建築、牆板以及諸如此類的東西。以傑克遜洞著稱的這一山穀，不可能包括在特頓山國立公園計劃內。小約翰決定做政府所不願做的事：全部買下牽涉到33000多英畝的私人業地，使傑克遜洞成為一個完整體，當作禮品交給公眾。
這些決定是小洛克菲勒的決定，但不是輕易作出的。它們要花費時間、精力來研究。按照小約翰·戴·洛克菲勒的心意，一度對一項事業承擔義務，他就把它看作一宗沒完沒了、永遠前進的誓約，除非有良好而充分的理由。假使一項事業值得辦，他就打算辦到底，而且要按正確的方法去辦成。在涉及購買土地供公眾使用這一保護自然的行動內，有的是大力反對的私人業主、牧場主、農民、伐木工人，有時還有政客。今天看作有價值的自然保護事業，當時要花若幹年談判和幾百萬元金錢去完成。洛克菲勒家在建設緬因州阿卡迪亞國立公園上花去300多萬元；購買土地，把特賴恩堡公園送給紐約市花600多萬元；替紐約州搶救沿哈得遜河的帕利塞茲河邊懸崖花1000多萬元。他捐200萬元給加利福尼亞州的“搶救紅杉林同盟”；164萬元給約塞米蒂國產公園；16萬元給謝南多亞國立公園；而為大特頓山傑克遜洞的保留花去1749萬元，把山陵綿延的荒野改造成為遊客享受的遊樂地區。所有這些工程都是小約翰協同當年那些傑出的自然保護者，像費爾菲爾德·奧斯本和霍勒斯·馬爾登·阿爾布賴特之類的人士，承擔下來的。
消耗他更精力及金錢的自然保護事業是恢複和重建一個殖民時期的城市。那是弗吉尼亞州殖民時期首府威廉斯堡，在那裏美國的殖民地開拓者曾決定要建設一個獨立城市。帕特裏克·亨利曾在州眾議院裏高呼“不自由，毋寧死”。這個城市在那些年月裏碰上了惡劣時代，其遺跡大部分被忽視，其美景在第一次世界大戰時糟踏殆盡。把殖民時期的威廉斯堡恢複到18世紀的美麗久已是當地布魯頓教區區長威廉·A·R·吉德溫的夢想。他找過幾位財主，J·P·摩根、亨利·福特和其他人，但是直到1926年他帶領小約翰·戴·洛克菲勒巡遊全城，向他解釋150年前每條街道上現在矗立著什麼建築的時候，他的設想始終沒有積極行動。逐漸地，小約翰卷入了這一美國遺跡的恢複、重建和保存之中。在其他一切規劃中，殖民時期威廉斯堡成了他心愛的規劃。他遷進威廉斯堡重建的巴西特廳，每年兩個月用它作住家，春秋各一個月，以便能親自在場搞這項工程，他知道這項工程將跨越他的餘生。最初預想是500萬元的一樁事業，為了幾百萬美國人的利益，最後增加投入到5260萬元。總共恢複了81所殖民時期原有的建築，按圖紙重建了423所殖民時期的建築，遷走或拆毀了731所非殖民時期的建築，重新培植了83英畝花園和草坪，興建了45所其他建築物，供公眾旅遊之用。
在1928年他招任奧托·康恩等人的建議，又替大都會歌劇院蓋了一個新歌劇院，這主意是想使新歌劇院成為紐約市一個公共廣場的焦點。整個地址從五十八街到五十一街，從五馬路到六馬路，占地12英畝，屬哥倫比亞大學所有。在適當商洽和仔細考慮之後，小約翰簽署了一張24年的租契，每年租金330萬元，期滿以後續租與否聽租戶自便。在1928年9月，開始在這份地產上拆毀228所褐色沙石的舊房屋和商店。蓋新歌劇院的設計委托他人辦理。隨後發生了1929年10月29日的震驚事件，股票市場崩潰了。大都會歌劇院失去了出售現有財產的機會，新歌劇院的支持者很快煙消雲散。小約翰·戴·洛克菲勒手裏留下的是那張每年付330萬元地租的憑據，這張憑據在美國那次最嚴重的經濟蕭條期間隻產生30萬元的收入。
在此後幾個月裏，經濟狀況逐步惡化，小約翰為此不得不獨自作出決定而痛苦萬分：或者放棄這項計劃減少損失，或者另作計劃自己一個人幹下去。1929年12月，衡量著自己的信心，他決定獨自一人幹下去，建立一個現代建築的娛樂場所和商業複合體。
小約翰的一位同事描寫他那些時日的情景，說他馬上“沒膝地陷身在藍圖之中”，手裏拿著他那支四英尺長的尺子，默默地但堅定地充當三個不同的建築公司送交他的方案和建議的仲裁人。這些公司是受他的委托進行設計的。
對洛克菲勒說，這也是一項挑戰性的巨大事業。除去涉及的金錢外，這還是第一次作為一個整體群來設計和興建的摩天大樓。一共有14幢大樓，中樞的一幢是70層的美國無線電公司大樓。設計是現代而且有使用價值的，與當時在紐約流行的巴羅克式和哥特式建築物大相徑庭。把它作為對現代城市建築發展的嚐試，小約翰故意留出或者“浪費”15%的空地，以便在建築物周圍設計充分的通風空間。一些房地產專家迅即稱這整個計劃為“洛克菲勒蠢事”。他們不能理解在這樣一些辦公大樓四周留出開闊空間的設計。
建築洛克菲勒中心時，小約翰要這個工程有使用價值，為將來在這些大樓裏工作的人員服務，可是還要它盡量漂亮，滿足人們的審美觀點。當股票市場繼續下跌，商業徹底失敗，其他建築工程被放棄之際，當失業帶來抗議，資本主義整個經濟體係遭受攻擊之際，小約翰從不對他建設洛克菲勒中心這一目的產生動搖。早在交通擁擠使大的地下存車庫和裝載供應品的運輸公司有理由多要錢之前，他就付給他們額外的錢。他繼續鋪草種樹，布置一些屋頂花園，做最好的藝術工作，以點綴這項工程。他充分認識這一龐大計劃，是在直接為715萬多人，間接為供應洛克菲勒中心所需物資的其他2215萬人提供就業機會。
這項工程與原來估計十分接近的全部造價約為12500萬元，其中1/3是向大都會人壽保險公司抵押得來的。2/3由洛克菲勒以現金支付。小約翰在收到賬單時出售自己的熱門股票一一照付。他的傳記作者雷蒙德·福斯迪克問他，在經濟蕭條期間承擔興建洛克菲勒中心這一工作是不是出於勇氣的時候，小約翰對勇氣的事情作了經典性的答複：“我不知道是不是勇氣。一個人往往進入隻有一件事可做的局麵，並無可供選擇的辦法。他想逃，可是無處可逃。因此他順著眼前唯一的道路朝前走，而人們稱它為勇氣。”
洛克菲勒在其成熟時期的活動是卓越的，因為他不僅陷身在興建紐約市的“城市中的城市”這一工作中，還從事恢複和重建弗吉尼亞州的一個殖民時期的城市，購買原始森林作為荒地保存起來，或者辟作向公眾開放的娛樂地區。他試圖把新教徒教會的各個教派拉攏到一起的興趣也畢生不減。同一時期內，他在興建河邊教堂這一工作上也起有作用，河邊教堂是靠近哥倫比亞大學的一個雄偉美麗的大建築物，此後將充作紐約市最傑出的不分教派的禮拜堂。
支撐所有這些活動的主題是，應當把他的財產賢明地花用在促進人類福利上。小約翰·戴·洛克菲勒從來沒有忽略過這一目的，他很自覺地把這一目的看作自己的責任。這是他覺得自己必須做的事情。他不指望人家讚揚他所做的好事，他不要什麼獎章來紀念他的功績，並且說他“不要他的名字粘貼”在洛克菲勒中心上，他願命名它為“無線電城”。在宣布他那些遺贈、贈予或建築計劃時，沒有什麼宣傳，當然更沒有什麼鼓吹。他很願意處身幕後，而且和他聘用來的同事處於同等地位上工作。那些年的種種經驗使他在土地開發、建築、建設，及在經管錢財方麵，成為一名“專家”。在他自己的頭腦裏——而且他一再這樣表示，他認為在父親去世之後，自己是洛氏家產的“管家”或“保管員”，把這筆錢賢明而有效地使用，不是掙更多的錢，而是起共同福利的效果，這是他一生的“責任”。在父親退休以後的所有歲月裏，他獨自繼續工作的時候，他總稱譽歸於父親而不歸於自己。他從來沒有忘記，也不讓其他人忘記，他自己的金錢、影響和權力是從父親那裏取得的。他喜歡說，他最自豪的稱號將始終是“我父親的代表”。
老洛克菲勒1937年5月去世時，原來計劃的14幢洛克菲勒中心的建築業已完工，此時小約翰63歲。他自己一生的工作多數已經完成，雖然他拆掉了自己和父親在西五十四街的城裏住宅，騰出地方建現代美術館。他和妻子搬進了波坎鐵柯山基庫伊特的住宅。他依然拒絕去掉自己姓名上的“小”字。他解釋說，他決不會是約翰·戴·洛克菲勒，因為隻能有一位約翰·戴·洛克菲勒。
他不僅滿足於當“我父親的代表”，而且以此為驕傲。因為他曾繼續幹父親的工作，他還要他的五個兒子繼續和擴大他自己的事業，他知道他不能強迫兒子們這樣幹。父親曾經以身作則教導他，他也願意引導兒子們過有用的生活。
若幹年之後，當他自己處於完全退休的邊緣時，洛克菲勒的第三代已在各自的行業中立住了腳跟，小約翰在紐約州商會上的一次令人難忘的演講中解釋了他和他父親的關係。一直沒有世代的差距。他說，40年來他都和父親一起工作，從走進他的辦公處起DD直到他去世的那一天，我唯一的願望是盡我力之所及幫助他。
我總是一樣高興地替他上鞋油，裝提包，在國內外充當他旅行的服務員，在作這些旅行時替他寫信，譯業務電報，有如我後來在他的各種權益上，代表他處理信件和接待訪客一樣。
“在踏進他的辦事處以後任何時候，父親從來沒有對我說過，也沒有直接或通過他的同事們對我說過，我該幹些什麼。完全讓我自己設法越快越好地熟悉他的種種利益，而且在我認為適當的時機幫助他。他從不給予我任何權力、任何授權書或任何名義。就是若幹年間，在幫助執行他的計劃，處理要他承擔大額款項責任的無數文件上，也是以‘小約翰·戴·洛克菲勒’簽署他的名字。任何時候他都可以對我代他簽字的合法權利提出挑戰，他從來沒有，因為他從一開始就信任我，知道我分擔了他關於商業信譽和社會職責的崇高理想。當我的經驗逐漸增長的時候，他對我所作判斷的信任也就隨之增加。他隨時送我的那些大筆贈款提供了這一事實的充分證據，這些贈款使我能在以往的歲月裏繼續按我自己的方法從事為全人類的工作。”
這次講話描述了小約翰為洛氏第三代所製定的方針路線，因為他的兒子一個一個地進入了他的辦公處。