小約翰·戴·洛克菲勒是個深有謙卑感和責任感、十分嚴肅而篤信宗教的人。對龐大的洛氏家產，他認為自己不過是保管員或管家。他說自己無功無過地生在這一家，他以為自己僅僅是用這份財產替最大多數人做好事而已。
做任何事使任何人受感動這一想法，是他所詛咒的。一位不隨波逐流的人物，他每天省察自己的良心、自己的道德和自己的行動，來找到對這個嚴酷問題的最好答案：“什麼是要做的正當事情·”一旦確定了這一點，下一個問題就是：“什麼是做這件事的最好方法·”
他在生活、事務和慈善方麵有兩位名師指點。他們是他的父親和父親晚年的主要助手弗雷德裏克·T·蓋茨。後者不但指導他如何從事慈善事業，還靈巧地處理某些老洛克菲勒石油業以外的冒險投資。1897年剛從布朗大學畢業，小約翰就進百老彙路26號標準石油公司紐約市總部，他父親的辦事處工作。那時他23歲，年薪1萬元，他對父親說他認為拿的薪水太高。他的職位是父親的助理。實際上，他在蓋茨的監護下工作。父親已在三年前55歲時不再每天去辦公室。他在波坎鐵柯山家裏工作，他把注意力貫注在外部投資上。其中主要的一宗是買下明尼蘇達州梅薩比鐵礦區各種各樣的土地。
聽從蓋茨的勸告，石油大王選擇在鐵礦區狠狠投資，而不是把資本完全撤走。梅薩比鐵砂，用以煉鋼質量最好，但運到匹茨堡的鋼鐵廠去路途又太遠。小約翰參與蓋茨這項投資的監督工作。老洛克菲勒批準了小約翰慫恿弗雷德裏克·蓋茨向他提出關於投資和從事慈善事業的判斷意見。這使他騰出許多時間去美化自然，改善他在住宅後麵開辟出來的九個高爾夫球場。
1901年，當約·皮·摩根這位有名望的金融家及同事買下安德魯·卡內基的大鋼廠，作為他合並這家全國最大的鋼鐵公司成為一個鋼鐵巨人計劃的一部分時，摩根就轉眼看到洛克菲勒手中的東西。到這時候，人們已認識到梅薩比礦區的真正價值，這裏成了全國製鋼原料鐵砂的最大來源地。老洛克菲勒當時61歲，他想把它出售。他買進了梅薩比的股份，建造了一批運鐵砂的船隻，打開了鐵砂市場，全是為了保護自己的原始投資。但是摩根和同事們害怕的是，正像卡內基在他以前所害怕的一樣，在石油事業上每年有1000萬至1500萬元收入的約翰·戴·洛克菲勒可能決定要自己投入製鋼事業。
初期談判是通過中間人進行的，因為，說得簡單點，這兩個人誰也不喜歡誰。有如曆史學家阿倫·內文斯說的：“本性上，他（摩根）傲慢專橫，老急切於當支配人的腳色，不願意承認任何當代人物的平等地位”，而“洛克菲勒則為人穩重，有自製力，淡然地不願意引起公眾的矚目，他不喜歡摩根的種種方式：豪華氣派，在遊艇、藝術珍品和私人藏書上大手大腳花錢，多方麵興趣，貴族似的絢麗奪目的生活。這好比清教徒碰上美第奇王子，誰也不能理解誰。”
在梅薩比談判之前，洛克菲勒先生不過隻和摩根見過一麵，他描述這次會麵的情況說：“我們講了幾句客氣話。但是我看得出摩根先生非常……唔，像摩根先生，十分傲慢，非常容易看輕別人。我瞧著他。就我而論，我從來弄不明白為什麼一個人會對自己有這樣一種高大的感覺。”
金融巨擘訪問石油巨擘討論梅薩比鐵砂問題時，洛克菲勒對摩根說，小約翰和弗雷德裏克·蓋茨負責他的投資，他將必須見他們。
小約翰·戴·洛克菲勒，當時27歲，被領進上了年紀、神態嚴峻而盛氣淩人的約翰·皮埃爾蓬特·摩根的辦公室。摩根起初沒有注意到他進來，繼續和一位同事談話，隨後在作有禮貌的介紹時，摩根向年青而長相虛弱的洛克菲勒瞪著眼睛大聲說，“唔，你們要什麼價錢·”
年青的洛克菲勒回盯著他。“摩根先生，”他回答說，“我看一定有一些誤會。我不是到這裏來出售的。我的理解是您願意買。”
接著是一陣沉默。一刹那，兩刹那過去了，隨後摩根改變了聲調，於是小約翰提議說，“如果您真有興趣要買這些資產，找到一位能在價格上替您出主意的人，豈不更好·”
最後商定，將由亨利·C·弗利克充當規定出售價格的中間人。小約翰寫信向當時正在訪問克裏夫蘭市的父母描述這次會見時，母親回信對他說：“父親大聲地讀你的來信時，他高興地大聲說，‘啊，約翰可真是一張王牌！’……作為父母，我們真有點為我們的孩子自豪！”
差500萬元使雙方談不攏，可是到末了摩根答應了洛氏規定的售價：梅薩比資產作價8000萬元，一半付新的“美國鋼鐵公司”的優先股票，一半付普通股票，另付現金850萬元買運鐵砂的駁船隊。洛克菲勒家一舉成為美國這家最大的單個公司的主要股東，它一開始的價值就在14012億萬元以上。
然而，小約翰就是沒有父親所具有的生意眼。盡管父親的同事和顧問施以一切訓練、指點和幫助，小約翰總不能像處理父親那些慈善事業一樣，全神貫注於商業事務的細節。賺錢對他沒有迷惑力，而且因為他對大公司的內部活動知道得越來越多，竟變得越來越害怕。1902年，他辭去當時和他的家族有關係的國民城市銀行的董事職務，因為，在任何大的企業、銀行或公司中，“董事們實際上不可能知道任何業務方麵的事，也不可能在經營管理方麵發任何言，同時卻對公眾充當業務行為的保證人。”對小約翰來說，這是一件有關良心的事。
在他和標準石油公司的關係方麵，這一點也同樣適用。起初當董事，隨後當副總裁，他發現人家主要是利用出名的姓氏作裝飾，實際上他在管理機構中沒有發言權。當他得知約翰·戴·阿奇博爾德接替父親當總裁時標準石油公司拿出那些秘密的政治捐款，使他特別於心不安。大企業還有其他許多方麵的事使他同樣地感到不安，像他這樣一個年青人，對此自然毫無辦法。因此經曆了不少痛苦，他在1910年決定辭去標準石油公司的副總裁和董事。“我下定決心，”他後來解釋說，“我不能替別人的行為負責。我願意為我自己幹下的事麵對任何批評，可不能安於代人受過。”
阿奇博爾猛烈反對小約翰辭職。這會損害公司，尤其是在1910年公司受人攻訐的時候。可是小約翰更擔心傷害父親的感情，父親已將大部分生命傾注給標準石油公司。可是老洛克菲勒以他尋常的冷靜態度作了回答。
“約翰，”他慢吞吞地說，“我要你做你認為正確的事。”
小約翰在36歲時退出標準石油公司。同年他還辭去了美國鋼鐵公司的董事。
有諷刺意味的是，他沒有能在他家擁有的一家小得多的公司身上貫徹這一點，這是科羅拉多燃料和鐵公司，設在叫作盧德羅的礦區小鎮上，他以父親代表的身分擔任董事。
可是這家洛氏公司是1913年9月科羅拉多南部大約9000名礦工舉行罷工的20家礦業公司中最大的一家。它立刻成為勞工史上最棘手的焦點之一。一個月以後，在州民兵同鎮外帳篷裏的礦工互相槍擊之後，小約翰被召去在國會調查會上作證。他在那裏不得不承認，雖是公司的董事和主要股東，他卻從來沒有參加過一次董事會或股東大會。他沒有廠礦或礦鎮情況的第一手材料，那裏所有的住屋、商店、醫院和政治都是這家公司擁有或控製的。他從來沒有去過那裏。他聲明他相信該公司的管理機構和它送給他的報告，說極大多數礦工對工作和生活狀況很滿意，他們不願被迫參加美國礦工聯合會。
公眾對他的證詞反應有分歧，雖然父親嘉獎他“在華盛頓的委員會麵前作出的巨大努力”，再送給他一萬股科羅拉多燃料和鐵公司的普通股票。小約翰肯定在闡述公司當局和父親辦公處的顧問們的意見。該公司董事長L·M·鮑威爾斯曾將那些罷工領袖描繪成為“聲名狼藉的煽動分子、社會主義者和無政府主義者”。他在發給小約翰的一封繪聲繪色的信中寫道：“像這樣的一些人連同不值錢的大學教授和更不值錢的專門報道醜事的新聞記者，再輔以一批毫無生氣、沒有宗教思想、更沒有常識的傳教士，竟有人允許他們向建立起大工業，使我國成為現在這副樣子的工商人士大肆攻擊，現在該是采取有力行動，製止在全國散播邪惡說教的時候了。”
但是在他作證之後兩個星期，4月20日那一天，即罷工開始之後七個月，在礦工和一小隊科羅拉多州民兵之間又爆發了一場激戰。誰開的第一槍，從來沒有確定。可是到末了，民兵馳騎鳴槍衝過帳篷地區。當天深夜縱火燒了帳篷。第二天早晨發現，有11名孩子和兩名婦女在找地方避難的當口被悶死在一個窯洞底。此事迅即被長期貼上了“盧德羅殘殺事件”的標簽。
公眾和報刊輿論的強烈忿怒降落到小約翰身上，使人聯想起他父親當年挨的咒罵。他在群眾大會上被嘲弄和奚落。憤怒的罷工糾察員在西五十四街的家門前和下百老彙路的辦事處門前來回走動。世界產業工人聯合會的一批人馬威脅要衝進他波坎鐵柯山莊園住宅的大門，被鎮民驅散。不止一名演講員鼓動烏合之眾去“把他像狗一樣斃掉”。據推測是為他準備的一枚炸彈爆炸過早的時候，四名世界產聯人員被炸死了。小約翰立即作出的答複是支持科羅拉多燃料和鐵公司的上層人員，隻要礦工聯合會依舊罷工，堅持閉廠或強迫全體工人入會，他就拒絕和礦工聯合會談判。罷工終於在開始之後15個月的1914年12月結束，當時礦工們屈服投降，投票決定複工。
但在罷工結束之前，小約翰已開始對公司行政部門的立場和他們描述廠礦情況的報告暗中產生了懷疑。後來，他派家族公共關係顧問艾維·李到盧德羅去作現場調查，隨後根據他的報告，聘請一位勞工關係專家調查罷工的幕後原因，並研究辦法如何避免將來的勞工鬥爭。確定去辦此事的人是W·L·麥肯濟·金，此人在勞工關係上有多年經驗，在自由黨執政時期當過加拿大首任勞動部長。隨著該黨競選失敗，他應聘當洛克菲勒基金經濟研究部門的頭頭，委派他這一任務是現成事。後來，在第二次世界大戰期間，麥肯濟·金當了加拿大總理，但1914年時當過小約翰·戴·洛克菲勒勞工關係輔導員。
麥肯濟·金建議實施一項計劃，小約翰予以支持，在科羅拉多燃料和鐵公司成立一個勞資聯合會，調解工人對工資、工時和工作條件的種種不滿。聯合會主席鮑威爾斯拒絕推進這一計劃時，持有40%股份的小約翰堅持要他辭職。1915年9月，罷工結束後10個月，小約翰親自去礦上巡視兩星期，聽取工人的申訴，親手使用礦斧，調查生活狀況，而且在一次勞資會議之後和參加社交活動的工人妻子們跳舞，博得公共關係的好評。留在紐約的顧問所擔心的一切可怕事情都沒有出現。沒有暴力行動，沒有蓄意謀殺。礦工們承認他們早先嘲弄的這位洛克菲勒是一個老實人。巡視結束時，他們以壓倒多數票接受了他設置一個申訴委員會的計劃，大大地改善了生活條件。倡議這項與全麵工會化天差地遠的計劃方麵，小約翰遠遠走在當時勞工關係思想的前麵。