當時，製糖托拉斯的訴訟案件正在紐約州最高法院進行。於是大衛·華特森決定檢舉標準石油公司有違反壟斷禁止法的做法。恰巧這時，《夏曼壟斷禁止法》被華盛頓聯邦會議通過了。該法禁止合同資金及外國合資等所有的跨州聯合。
洛克菲勒也毫不示弱，先後請出了全美律師協會分會長都德和高中好友馬克·哈那，對大衛·華特森的檢舉進行反擊。
然而，這些努力都無濟於事，最後俄亥俄州最高法院頒布了下令解散受托委員會的法令。
法令一下，亞吉波多馬上乘火車趕到紐約，將敗訴的消息告訴了洛克菲勒。洛克菲勒無奈地歎了口氣，然後作了一個決定：“我們把總公司搬到新澤西！”
發明新的脫硫法
在俄亥俄州最高法院頒布解散法令的第二天，洛克菲勒增加100萬美元，在新澤西州設立煉油廠。
他決定將總公司搬遷到新澤西。因為新澤西不僅崇尚獨立原則，對壟斷的限製沒有紐約嚴格，而且新澤西的地理位置對出口歐洲、亞洲非常有利。
此時，標準石油已經擁有1000萬美元資金了，新澤西標準石油公司正好可以憑借雄厚的資本重振旗鼓。雖然公司還是受到壟斷法的種種限製，但是他們很快修正條款，經營範圍擴大到了礦業、製造業、貿易及商業。
而紐約標準公司幾經更名，最後定名為美孚。洛克菲勒為了使企業活動範圍更廣，他把公司資產擴大到11億美元。這時，標準石油成為石油集團企業的地位已經穩固了。
1885年5月 1日，紐約標準石油公司搬到紐約百老彙26號。
從辦公室望出去，可看到亞曆山大·漢彌爾頓的住宅，這是一座上有自由女神的10層樓建築。辦公室裏沒有喧鬧和忙碌，一切都在有條不紊地進行著。最特別的是每間辦公室的門上都裝有保密暗鎖。
成功後的洛克菲勒依然過著簡樸的生活。他喜歡待在家裏，也喜歡下班後駕著馬車飛快地穿過中央公園。在冬天的日子裏，他經常在漆皮靴上綁著冰刀，在自家庭院的冰場上滑來滑去。
盡管洛克菲勒生活簡樸，但是衣著卻十分講究，纖塵不染。他戴著手套，頭上戴一頂絲質禮帽，每天早晨都有一位理發師給他修麵，然後花上005美元，在第六大道乘高架火車到市中心上班。
洛克菲勒總是竭力為他的公司營造一種團結和諧的氣氛。員工們都關注自己的工作，避免不必要的感情糾葛。他自己也有意避談友情，對同事既不過分親密，也不會粗暴無理。沒人見過他發脾氣，或者提高嗓門說汙言穢語。
在員工麵前，洛克菲勒表現得舉止得體、平易近人，即使聽到怨言也不會發怒。碰到員工時，常輕聲細語地問：“怎麼樣？最近身體好嗎？”
他讓每位員工每年都有一次機會見到執行委員，為自己爭取加薪。
有一次，羅傑斯對一位要求加薪有些饒舌的員工說：“先生，我已經聽夠了，你沒有理由要求加薪。”
羅傑斯很不耐煩。那位員工無助地望著洛克菲勒，洛克菲勒卻麵帶微笑地說：“我們還是再給他一次機會吧！”
他鼓勵員工們對公司提批評提建議，但是對於阿諛奉承卻深惡痛絕。
洛克菲勒在財務部擺了一台健身器，他常在這裏活動身體。有一天上午他來這裏健身，一名新來的年輕會計不認識他，抱怨說：“這台健身器放在這裏真不是地方，早該把它拉走。”
洛克菲勒心平氣和地找到管事的人，讓人把健身器挪到一個新地方。他剛離開財務部，一位老員工悄悄地對年輕會計說：“你知道他是誰嗎？他是洛克菲勒先生。”
年輕會計嚇得張大了嘴巴，整整一天都坐立不安，似乎等待著處罰。可是一天下來並沒有受到洛克菲勒的批評。第二天，第三天，也是如此。這位會計懸著的心才終於放下來，感慨地說：“他真是一位沒有架子的老板。”
長期以來，洛克菲勒囤積奇貨異寶似的，囤積了大批能人，他們智商超群，精明能幹，其中不乏過去的勁敵，現在都在同一旗幟下勤奮地工作。
有一次，執行委員的巨頭們正在討論一項新的投資計劃。有一位巨頭持反對意見，一直堅持他自己的看法。這時能言善辯的亞吉波多，以演說家的架勢不斷擺出新的證據。對於對方的提問，一個個都回答得滴水不漏，結果那位巨頭被駁得無話可說。
可是洛克菲勒坐在一個沙發上，一言不發。忽然他輕聲地對大家說：“我有點累了，先休息一下。不過大家可以繼續討論下去，直至你們作出決定為止。”
洛克菲勒閉上眼睛，可是他的耳朵卻把大家的話都收集起來了。會議討論得差不多了，他站起來，彬彬有禮地說：“再見，先生們。”然後邁著有節奏的步伐，輕輕地走出了會議室。
第二天，巨頭們又聚集在一起。這時洛克菲勒才用平靜的語調發表意見。巨頭們猛然發現，作為執委會主席的洛克菲勒，他把大家的意見領悟得那樣深刻，最後才把自己的意見娓娓道來。
洛克菲勒說：“我的一般規則是，在全體人員確信是英明的辦法之前，不采取重要的行動。在我們前進之前，我們總要弄清我們是對的，還計劃好應付各種意外情況。”
洛克菲勒平常沉默寡言，而且到了一種讓人望而生畏的境界，也因此產生了一種不言自威的效果，讓員工們對他肅然起敬。尤其是談判的時候，他恰到好處的沉默常讓對手不知所措，猜不透他葫蘆裏賣的什麼藥。
洛克菲勒竭力把自己融入大員們中間，每天都和高層領導們共進午餐。但奇怪的是他從不坐在首席，坐在首席位置的是查爾斯·普拉特，因為他年事最高。
餐桌上擺放著的大多是普通的菜肴，不過總有一兩樣是大員們喜歡吃的菜。他們邊吃邊議論，主要是討論工作。素有演說家稱號的亞吉波多是餐桌上說話最多的人；而洛克菲勒是說話最少的，他隻是偶爾插幾句話。
盡管標準石油公司在煉油、運輸和銷售等方麵無所不能，可是直至19世紀80年代初，它還隻擁有四處石油生產基地。鑒於賓夕法尼亞的油田業已枯竭，洛克菲勒擔心可能不得不轉而使用俄羅斯原油，這將削弱甚至徹底打垮標準石油公司。於是洛克菲勒1884年就開始催促手下建立原油儲備。
1885年5月，在俄亥俄州西北部，一支正在尋找天然氣的勘探隊有了意外的發現，他們發現了一處大油田——萊瑪油田，噴出的油柱高達幾十米，產量驚人。至年末，這兒四周一下冒出了250多個石油井架，並且一直延伸至印第安納州。
但是，美中不足的是，原油所含的化學成分中存在著一些難以對付的問題，燃燒時會在燈上形成一層薄膜。更麻煩的是，它的硫化物含量太高，會腐蝕機器，並且散發出一種難聞的氣味。
亞吉波多說：“如果萊瑪石油能提煉出像樣的石油，我寧願把它全都喝掉。”
可洛克菲勒仍對俄亥俄—印第安納的油田充滿信心。他憑著一種不同尋常的靈感和對未來的預見性，在董事會上提出了要買下這片油田。
洛克菲勒用堅定不移的口氣說：“有這麼多的石油卻棄之不用，簡直讓人難以置信！”
以查爾斯·普拉特為首的保守派們卻固執地反對洛克菲勒的意見。普拉特長得瘦瘦的，留著山羊胡子，他精於管理，卻一向謹小慎微。
每次會議上，洛克菲勒隻要表示要簽訂俄亥俄州的土地租約，普拉特一派就舉手反對。因為保守派們的反對，董事會不得不一次次開會討論。
有一次，普拉特還為此大發其火，把頭向後一揚，大聲說：“不行！”
無可奈何的洛克菲勒隻好說：“我要用自己的錢搞這項投資，並且承擔任何風險。兩年之後，如果成功了，公司可以把錢還給我；如果失敗了，我個人承擔損失。”
也許是被執著的洛克菲勒打動了，普拉特最後還是同意了：“既然你一定要這樣做，我們還是一起幹好。”
但是洛克菲勒卻拒絕了普拉特的好意：“我想，我還是敢承擔風險的。”
於是標準石油公司花了數百萬美元買下萊瑪油田，丹尼爾·奧戴急不可耐地立即鋪設了油管。至1888年，公司庫存的萊瑪石油達到44萬桶以上。
洛克菲勒到處尋找這種難聞石油的新用途。他派出一批批推銷員和技術人員去動員鐵路公司用石油代替煤炭作為機車燃料，勸說旅館、工廠和倉庫用石油作為燃料替換煤爐，但這些生意並未做大。
1886年7月，為了解決質量問題，洛克菲勒聘請了一位著名的化學家赫爾曼·弗拉希。交給的任務是：去掉萊瑪原油中的異味，把它變成可以上市銷售的商品。
弗拉希是個荷蘭籍的科學怪人。他身材矮小，脾氣急躁，南北戰爭之後移民美國。他曾在加拿大的一家工廠為清除安大略酸性石油中的硫申請過專利。
洛克菲勒用信任的目光盯著弗拉希：“我相信你一定會取得成功。”
弗拉希開始了實驗、研究。他經曆了無數次失敗，投入的大量資金卻一次次告罄。
此時標準石油公司正麵臨著兩難的選擇：是相信弗拉希定能成功呢，還是冒著失去大筆財富的危險，等弗拉希做完實驗再說？
亞吉波多幽默地說：“看來我已經沒有必要喝光提煉出來的萊瑪石油了。”他為自己轉讓出一部分萊瑪油田的股票而慶幸。
洛克菲勒卻總是微笑著聳聳肩，讓大家耐心等待。
弗拉希經常通宵達旦地待在實驗室裏工作。當他有時心焦的時候，洛克菲勒卻安慰他，讓他不要著急。工作有了一些眉目之後，洛克菲勒試探地問：“你現在有多大把握？”
“有50％吧！”弗拉希謹慎地回答。
洛克菲勒的目光裏流露出信任和鎮定：“你需要什麼，盡管告訴我。”
1888年10月13日，弗拉希終於找到了新的清除硫黃的方法——用氧化銅來沉澱硫黃，這種方法被稱為“弗拉希脫硫法”。洛克菲勒非常高興，馬上買下了專利，開始用這種方法提煉萊瑪石油。
於是萊瑪石油身價倍增，從每桶015美元猛漲到1美元。它的股票也迅速升值，短時間內上漲10倍。接著洛克菲勒在萊瑪迅速開設了一家煉油廠，這座工廠規模宏偉，讓克利夫蘭和匹茲堡結束了煉油中心的地位。
1889年，在那裏又誕生了印第安納標準石油公司，在距芝加哥市17千米的地方建立起美國第一流的煉油廠。它日處理原油36000桶的能力讓亞吉波多興奮得渾身顫抖。他寫信告訴洛克菲勒：“這簡直讓人難以置信。”
在19世紀90年代，洛克菲勒控製了萊瑪大多數油田，迅速地投身於石油的勘探和開采，建立了產—煉—銷一體化的石油企業的典範，在美國石油業取得了堅不可摧的統治地位。
弗拉希的專利拯救了洛克菲勒和標準石油公司，把他們的事業推上新的起點，為他們帶來了驚人的巨額利潤。
後來，洛克菲勒在每家煉油廠都設立了試驗室，在百老彙 26號的頂層也建立了一間。他穩步地應用科學技術來確保公司的發展，把標準石油公司轉變成了現代化的工業組織。
涉足鋼鐵和金融業
19世紀90年代，洛克菲勒在壟斷美國石油的同時，開始把勢力滲入鋼鐵、煤炭、鐵路等行業。起初，他隻是進行一些小規模的投資。
19世紀90年代初期，以伐木和捕魚為生的梅利茲兄弟，因為在山中伐木時探測出了梅薩比山脈有鐵礦脈。於是梅利茲兄弟便用十分便宜的價錢買下了大片梅薩比的土地使用權，以備日後開采。
梅利茲兄弟先是遊說鐵路公司來鋪路，遺憾的是被公司拒絕。後來他們隻好自己籌款開路，建成了一條連接梅薩比和明尼蘇達州東部的德盧斯市長達66千米的鐵路。此外，他們還添置了許多設備，以致負債累累。
至1893年，時運不佳，經濟大蕭條的衝擊使合夥人、貸款人紛紛退出，梅氏兄弟一下子焦頭爛額、瀕於破產。正在這時，由蓋茨介紹，他們結識了財力雄厚的洛克菲勒。
洛克菲勒在蓋茨的勸說下買了這條鐵路，這無疑是一項非常明智的投資。因為卡耐基和奧立微的公司每年至少在這條線路上運40萬噸的礦砂。鐵路投資使洛克菲勒在梅薩比礦區有了立足點。此後，在梅利茲兄弟的進一步要求下，他們合建了“蘇必利爾湖聯合鐵礦公司”。
梅氏兄弟在新公司內擁有大量股票，掌握著經營管理的實權。在投機欲的驅使下，他們立刻發行了大量股票。然而不幸的是，鋼鐵業受經濟蕭條的影響而行情暴跌，梅氏兄弟的公司自然也受到影響。
當梅氏兄弟再次陷入困境時，蓋茨利用洛克菲勒的巨大財力買下了公司的部分股份，而梅氏兄弟又發動了一場聲勢浩大的訴訟，說洛克菲勒名下的礦區是負債的等。為了能在明尼蘇達州繼續做生意，洛克菲勒付出了52500美元使這場官司私下得到解決，這使得蓋茨能夠放手大膽地聚斂更多的礦產。
很快，洛克菲勒便買下了梅氏兄弟的全部股份，獨立擁有了“蘇必利爾湖鐵礦公司”和梅薩比這個全美最大的鐵礦。
雖然洛克菲勒有稱雄鋼鐵業的潛力，但是鋼鐵業不但風險大，而且競爭激烈，年邁的他實在不願意再卷入激烈的商業競爭中去了。於是他想出一條妙計，建議卡耐基與他合作，各管一方，互不競爭，卡耐基隻管煉鐵，而不管開采，他管開采礦藏及運輸原料而不管煉鐵。
卡耐基年事已高，不願再新開戰場，他同意了洛克菲勒的建議，於是在1896年雙方達成一項協議，即由卡耐基公司租賃他的一些礦產，每噸礦砂租費為025美元，規定每年的開采數量不得少於60萬噸，加上卡耐基公司從自己礦井中開采出來的數量大體相同的礦砂，運輸總量達120萬噸鐵礦砂。這需要使用洛克菲勒所屬的鐵路以及蓋茨已在大湖區興建的龐大的礦砂運輸船隊。
這樣，卡耐基公司可以保證獲得高質量的礦砂，而洛克菲勒也有了固定的運輸客戶和一筆有保證的運輸收入。
當時，美國的商界華爾街的金融業霸主，號稱“華爾街主神”的摩根是一位神通無比的大人物。從1898年至1900年，摩根公司和其他銀行家們組成了 20多個鋼鐵公司，想方設法培植對抗卡耐基公司的力量。1901年，有隱退之意的卡耐基默許了摩根的吞並企圖。
於是摩根一夜之間便成了鋼鐵業的巨子，不過他馬上又注意到了洛克菲勒手中的東西：豐富的鐵礦、便捷的交通工具，再加上洛克菲勒在石油事業上豐厚的收入，這些使摩根決定合並洛氏的礦區和鐵路，要不然會後患無窮。
談判最初是通過中間人進行的，因為他們誰也不喜歡誰，他們有著完全不同的個性和生活方式。洛克菲勒第一次見到摩根，是在弟弟威廉的家裏。一見麵，就對摩根沒有好感。
這次，摩根為了自己事業的前途，不得不來求見洛克菲勒。洛克菲勒先給了他一個軟釘子，說是自己退休不管事了，不在辦公室會客，要他到家中麵談，摩根隻好跟著去了。這次會麵很簡單，洛克菲勒隻是說這項投資由小洛克菲勒和蓋茨負責，他一定要與他們商量。
這一商量又沒有了下文，急壞了摩根。他趕快請私交深厚的羅吉斯來催促。羅吉斯就請了小洛克菲勒和他一起去摩根的辦公室。當小洛克菲勒走進辦公室時，摩根開始並沒有注意到他，他正忙著處理信件和談話。在羅吉斯作了禮貌的介紹後，摩根有些惱火地說：“怎麼樣，你們出什麼價錢？”
小洛克菲勒不慌不忙地回答說：“摩根先生，我看一定是有一些誤會。我並不是來出售的，是你急於要與我們合作。另外，據我所知，我父親是不喜歡自己開價錢讓別人來殺價的，應該在您看過我們的礦區之後，提出價錢，再讓我父親來決定。”
“噢，是這樣。”摩根的聲調聽上去有些改變。
一陣沉默之後，小洛克菲勒提議說：“假如您真有興趣要買這些資產，找一位能在價格上為您出主意的人，豈不更好？”
最後雙方商定，由亨利·弗利克充當提出出售價格的中間人。他是卡耐基的親密同事。不久，摩根請律師擬了一個場外交易的價錢，出價7500萬美元。
事後，洛克菲勒很嚴肅地對中間人弗利克說：“我並不急著賣掉我的產業，可是也不會擋你朋友的財路，不把這個利益給他。隻是你們開的這個場外價太不合理，在我聽來就似乎是最後通牒似的，何況出價又偏低，我不願意跟這種人做生意。”
500萬美元的差價使談判陷於僵局，所以摩根隻好再次找小洛克菲勒和蓋茨商量。1901年3月，摩根最終接受了洛克菲勒的售價：梅薩比礦區資產作價8500萬美元，其中一半付新的“美國鋼鐵公司”的優先股票，一半付普通股票，另付現款850萬美元買下運輸係統。洛克菲勒家族一舉成為這個全國最大的公司的主要股東，並且小約翰也進入了該公司的董事會。
同時，摩根還吸收其他鋼鐵公司進入，如規模僅次於卡耐基公司資產的聯邦鋼鐵公司。最後，摩根財團以14億美元的巨額債券換取了所有加入者的資產，造就出一個新的實體，世界最大的工業公司和曆史上第一個超過10億美元的公司——美國鋼鐵公司。但是，在取得這項成就之後，摩根開始走向衰落。
早在19世紀末，洛克菲勒就已經認識到金融業的重要性。他與威廉首先在紐約花旗銀行進行投資，它是一家為原料進口商和美國棉花公司服務的銀行。
1891年，在洛克菲勒兄弟的支持下，紐約花旗銀行的大股東詹姆斯·斯蒂耳曼當上了該銀行的總經理。從此，這家銀行就成為標準係統的金融調度中心，洛克菲勒通過留在該銀行的威廉，把他們的巨額利潤投資於各個經濟部門。
在國內，花旗銀行是威廉及其夥伴所設立或收買的工業聯合企業的金融中心。它隻控製火災和損傷保險公司的泛美集團及投資信托公司的基本投資集團，並不控製任何巨大的人壽保險公司。
花旗銀行在國外的勢力非常可觀，在海地、中東及非洲，它都有眾多的分行。據1955年統計，它的66個國外分行有雇員 5382名，占該行雇員總數的 41％。海外存款總額約725億美元，超過了它在海外的勁敵大通曼哈頓銀行存款額2/5。
在第一花旗銀行所控製的資產中，約有洛克菲勒家族或摩根家族的1/5。它首先是作為標準集團的副手而聞名的；其次是當摩根集團在華爾街確定了領導權後，便以追隨者的身份而興起。
20世紀20年代，摩根家族和花旗銀行的首腦查爾斯·密契爾關係密切，並從中得到莫大的利益。1933年，威廉的兒子佩西由於卷入克魯格火柴舞弊案件中，被揭發後被迫退出該行。但是，佩西的兒子詹姆斯僅僅在一個月之後就被任命為該行的副總經理，1952年升為總經理。
除詹姆斯之外，威廉和詹姆斯的其他後代也在一些重要的金融機構中居於領導地位。埃佛裏既是傑·亨利·施羅德銀行和施羅德信托公司的董事，又是該公司的附屬公司施羅德—洛克菲勒公司的合夥人和美國方麵的股東。這些施羅德係統的公司是一個英德銀行集團的一部分。
另外，埃佛裏·小洛克菲勒是一家大投資銀行的合夥人，威廉的兩個孫子是另一個實力雄厚的公司克拉克—道奇公司的合夥人。
20世紀20年代，洛克菲勒石油事業的進一步發展，要求有更強大的金融支柱。這時，洛克菲勒已退居幕後，由小洛克菲勒致力於金融業的發展。他們建立起自己的銀行，即公平信托公司，試圖取代花旗銀行，因為在花旗銀行中，他們還得考慮其他財團的意見。
公平信托公司原來是公平人壽保險公司的子公司，因為1911年《改革法》的實施，該公司被迫出售這些股份。小洛克菲勒在說服父親之後，買進了這家公司的控製股份。
洛克菲勒和亨利·福特一樣厭惡銀行家們和他們的機構，那時證券交易方麵的圈套司空見慣，所以他不願意把自己的錢限死在銀行裏。但小洛克菲勒卻早在1911年就強烈要求父親把一部分資金投入一些放款公司和信托公司。
後來，小洛克菲勒的一些朋友支持了他，他的嶽父納爾遜·奧爾德裏奇那時是國會中金融集團的代言人，代表著1913年建立聯邦儲備製度的立法推動力量，在管理全國貨幣方麵確立了銀行家與政府之間的合作關係。總之，聯邦儲備製度彌補了許多曾使美國獨立以來深受其害的貨幣製度上的缺陷。
公平信托公司買進後，憑借洛克菲勒龐大的財產迅速擴張，至1920年，它已擁有254億美元的存款，成為全國第八大銀行。至1929年，通過一係列詭計多端的合並，它吞並了14家較小的銀行和信托公司，實力大增。
它不但成為全美實力最強大的銀行之一，並且在國外也開設了許多分行，成為洛克菲勒家族在金融業的一支重要力量。