卡內基晚年一直致力於慈善事業。他出資創立了用來發展科學、文學和美術事業的卡內基協會，設立了關懷見義勇為英雄及其遺孤的“舍己救人基金”。不僅如此，他的仁慈之心惠及了社會各個階層的各類人群，卡內基是個熱愛和平的人，他還專門出資資助那些為世界和平作出貢獻的人。
在所有的行業當中，從事教育的人的身份雖然高，很受人尊敬，可是他們的待遇卻最低。當卡內基首次擔任大學的理事時，發現教授們的薪水少得可憐，簡直還比不上他公司的一個小職員。他們不敢奢望晚年時會有一點儲蓄，因此那些沒有設置退休製度的大學，對於一些已經老得不能再從事教育工作的教授，也隻有讓他們繼續留任現職。他們為培育下一代青年而奉獻一生，可獲得的報酬卻十分微薄，實在太不公平了。
出於對教育工作者的尊敬和同情，1905年6月，卡內基又創設了1500萬美元的教育基金，以保障各大學老教授退休後的生活。這是卡內基又一項重大捐獻。為了經營這筆基金，卡內基從美國各大學的校長中選出25人來擔任委員。卡內基對這個基金會倍感親切，因為接受這筆基金的大部分學者都是卡內基的親密老友，卡內基最了解他們為社會所貢獻的價值。基金會設立以後，卡內基收到無數受益學者或其遺孀們寄來的感謝信，這使他很感激也很感動，他把這些信全都妥善地留存下來，每當情緒沮喪或鬱悶時，他就把它們拿出來再看一遍，心情就會立刻開朗起來。
有一次，卡內基的一位住在鄧弗姆林的朋友在英國的評論雜誌上刊載了一篇報道：“大多數住在鄧弗姆林的窮人，都希望自己的子女接受大學教育，因此在日常生活中，都盡量省吃儉用，可是仍然無法湊足學費。”
卡內基讀了之後，馬上寄送附有利息的債券1000萬美元給他們。利息的一半是作為貧民子弟的學費，另一半則用來補貼大學改善設備。這一個基金會就此很快地被運作起來，它被命名為“蘇格蘭大學卡內基基金”。
在第一次的理事會議席上，大家討論到一個問題，問題的核心是卡內基不把運用基金的權利委任給各大學。很多人對此紛紛猜測，如果讓他們放手去做，可能會做得更好。
當時卡內基曾向主持會議的主席巴爾夫首相說：“巴爾夫先生，到現在為止，我還從沒有看過任何一位政治家，能夠為年輕的下一代製訂有意義的立法，說真的，連一些試圖改善自己這一代而進行立法的國會議員都很少看到成功的例子。這件事情將來我總會委任給他們，不過在時機還未來臨之前，我相信由我來監督比較妥當。”
這話一說，立刻引起在座的英國最高權威政治家的一陣爆笑。巴爾夫首相也跟著笑了起來，然後對卡內基說：“確實如此，你說得很對，我過去還沒有見過像你這麼聰明的慈善家呢。”
1902年，卡內基被推選為英國聖安德魯大學的名譽校長，這是卡內基生命中極為重大的一件事。卡內基進入了夢寐以求的高等學府，這是他多年來無法實現的夙願。當卡內基第一次出席教授會議，坐在學校創立以來曆任著名校長的專用座席上時，他萬分激動。
在蘇格蘭4所大學當選榮譽校長後，卡內基夫婦邀請4位校長和他們的家屬到家中來做客。後來這種邀請就變成例行事項，每年他的家裏都會舉辦一次“校長周”。這種集會能夠培養各大學校間互相聯係和協助的精神。後來，經過聖安德魯大學全體學生的投票，一致讚成卡內基繼續擔任第二期的榮譽校長，這對卡內基來說也是一件深感欣慰的事。
當時在大學裏，有一種“校長晚會”，學生們能夠在這個晚會上和校長一起聊天、遊戲，而一般教授都不在邀請之列。每次的集會都令人愉快，當卡內基舉辦了第一次集會之後，他聽到學生們私底下討論說：“××校長曾經對我們說教，××校長曾經向我們訓話，他們這些人都是站在講台上發言，可是卡內基先生卻和我們坐在一起毫無拘束地彼此交談。”