當初卡內基很有先見之明，他認為美國將來必須以工業立國，所以就辭掉了薪水階級的工作，而開創了自己的製鐵事業。他的計劃正好符合時代要求，於是他的事業蓬勃發展。等到製鐵時代逐漸進入煉鋼時代，他又搶先一步轉向煉鋼事業，而獲得了非凡的成功。而在風頭正勁的時候，他卻突然引退。
親人和朋友的相繼離世使卡內基時常思索一個問題：從一文不名的移民後代，一步步打拚到今天的功成名就，幾乎實現了少年時代的所有夢想，但如今擁有了這麼多財富，為什麼卻快樂不起來呢？親人和朋友都離開了，賺來的這些錢用來做什麼呢？目的是什麼呢？最後，深受東方文化影響的卡內基得出了一個這樣的結論：“富人若不能用他聚斂財富的才能，在生前為社會謀福利，那麼死了也不光彩。”
1886到1899年，卡內基收集了各種雜誌的資料編撰成一部《財富的福音》。他將這部《財富的福音》寄給了《北美評論》雜誌。他在文章中提到他對財富的分配方法，第一種方法是將遺產分給親戚，這是普通人最常選擇的分配方法；第二種是將財富捐贈給社會。
1900年，步入花甲之年的卡內基毅然決然地從鋼鐵事業中引退。當時卡內基的公司每年收入高達4000萬美元，將來還會繼續增加。鋼鐵業已經榮登產業界的王座，它的贏利，就好像一隻會生金蛋的鵝一樣。把這些都捐贈給社會，卡內基一點也不覺得可惜。當卡內基決定了將來的計劃時，便以5億美元的價格把公司賣給金融大王摩根所經營的美國鋼鐵公司，當摩根買下這家公司以後，每年的收入立刻漲到6000萬美元，他十分高興。
卡內基做事雷厲風行，在決定引退後，他將財產分配給了他計劃中的第一個分配對象，那就是煉鋼廠的員工們——
當我從業界引退時，我願意從我的財產中拿出400萬美元的債券，捐獻給那些對我事業的成功有很大幫助的勞工們，以表達內心的謝意。也就是利用這筆錢救濟那些因意外事故而生活艱困的，或已進入晚年需要幫助的人，我要用這筆錢作為資助他們的基金。
同時我再提供100萬美元債券，以它的利息來維護我為勞工所建的圖書館和娛樂廳。
卡內基把這筆基金命名為“安德魯·卡內基救濟基金”，由公司員工推選的管理委員會運作。露西熔礦爐的員工為了答謝卡內基的好意，贈送了一座刻有感謝銘的大銀盤給他。
卡內基作了這番安排以後，就搭船到歐洲去旅行了，當時曾有很多過去的同事和幹部都在碼頭歡送卡內基。這一次和以前的因公外出不同，他感到非常寂寞，一股似乎將要永別的淒涼之感襲上心頭。
幾個月後，卡內基回到紐約，仍然覺得十分寂寞和空虛，感到似乎沒有適合他居住的地方，雖然有幾個以前的老同事來迎接他，但他心中總覺得他們看待他好像是看待另外一個人。不過卡內基仍然鼓勵自己：“不要為這種感情的事氣餒，過去無論遭遇任何困難都能克服，現在還有新的事業正等待著自己去做呢。”
不久之後，卡內基認識了一位紐約公共圖書館的館長，他對卡內基說目前圖書館很缺乏，主要是建設經費的不足。因此卡內基便答應捐贈625萬美元，在紐約市建立68處圖書館的分館，首先在布魯克林區建立了20座圖書館。
卡內基對建立圖書館的事特別熱心，顯然是受了父親的影響。父親在故鄉鄧弗姆林為了讓沒有讀過書的鄰居有機會讀書，曾和幾位朋友在小鎮上設立圖書室。後來卡內基也繼承了父親的做法，曾經贈送一個公共圖書館給故鄉，那就是卡內基第一次捐贈的圖書館。
接著，卡內基又捐贈了一座圖書館和公民館，給他們全家初來美國居住的阿勒格尼市。那時候，哈裏森總統曾專程從華盛頓前來主持開館典禮。
後來匹茲堡市也希望有一座圖書館，卡內基也一樣很樂意地捐贈了。隨後卡內基又捐贈了美術館、博物館、音樂廳及許多學校，尤其是音樂廳的落成，使全體市民格外高興，因為匹茲堡是僅次於波士頓和芝加哥的交響樂團發源地。而卡內基本身對於自己能夠捐獻各種設施也感到非常滿意，因為他曾在這裏度過少年時代，在這裏踏進社會，過去的事業都是在這裏起步及成長起來的。卡內基熱愛這個滿是煙霧的城市，他覺得他有義務為這個城市花更多的錢。同時，卡內基願意給與自己有類似經曆的有上進心而家庭貧窮的年輕人提供良好的學習機會。
1902年1月，卡內基在華盛頓創立了卡內基協會。起初他捐獻了1000萬美元債券，後來為了協會的各種活動，又追加了1500萬美元。協會成立時，卡內基曾和羅斯福總統磋商，決定由國務卿約翰先生擔任會長。
這個協會主要致力於支持一些研究、發明等活動能在廣大範圍內自由進行，尤其是以發展科學、文學、美術為目標。如果某一個人所從事的工作極具意義和價值，協會就會毫無條件地提供資金上的援助。在卡內基協會所援助的許多事項中，卡內基特別舉出兩個比較特殊的例子。其中之一就是用木材和黃銅製的“卡內基”號帆船，這艘帆船航行過全世界的海麵，因而糾正了以前航海地圖上的一些錯誤。過去，海洋測量往往會因羅盤的偏差而發生錯誤，黃銅絕不會受到磁力的影響，但是鐵和鋼製的船身卻具有高度的磁性，因此會受磁力影響而導致錯誤。最顯著的例子就是丘納特公司的汽船在亞速爾群島附近，發生過觸礁的事實。“卡內基”號帆船的船長就以這次事件做試驗，結果發現丘納特的船長完全是按照英國海軍所繪的水陸圖航行，而水陸圖上的一些標誌是錯誤的，由此才發生了觸礁事件。後來經由“卡內基”號帆船重新測量，這些偏差全部被加以修正了。“卡內基”號帆船航遍了世界各個海域，發現了很多新的事實，並向全世界的航海者報告，受到許多的讚譽與感謝。這項貢獻使卡內基等人感到很欣慰。