卡內基在1835年出生於丹弗姆林，父親是一個手工紡織工人。卡內基沒上過多少學，很小的時候就開始為家裏掙生活費。十歲時，他就用積攢起來的錢買了一箱橘子，然後又把它賣給零售商，利潤還不小！當時，蘇格蘭引進了蒸汽機帶動的織布機，這迫使卡內基的父母帶著卡內基和弟弟湯姆移民到了美國，那一年，他十二歲。因為有親戚已經在賓夕法尼亞阿勒格尼高原的斯萊伯鎮定居下來，所以他們也在那裏的貝爾福特居民區安了家。他的父親在一家棉花種植廠的磨房裏找到了工作，小安德魯被一家紗廠以每周1.2美元的工資雇傭，成為了一名紡紗工。他的媽媽為隔壁一個名叫菲比斯的鞋匠洗衣服、縫補鞋子。菲比斯有一個十歲的兒子，名叫哈裏，這幾個小移民很快就成了好朋友。
卡內基在幾年前說過：“那份工作給我帶來了真正的滿足感，而這種感覺並非來自於每周1.2美元的工資。”
他每天天不亮就開始工作，一直到晚上天黑才下班，午間隻有四十分鍾的休息時間。然而，他覺得自己現在已經是可以養家的一個家庭成員了，這個內心深處的念頭一直在安慰並支持著他。
後來，一個友好的蘇格蘭人讓他在自己的紡紗廠裏幹活，每周付給他1.8美元，但這次，他的工作還包括燒鍋爐。他回憶道：“管理好鍋爐裏的水，讓它驅動發動機是一項責任重大的工作，如果我出了什麼差錯，整個工廠都有可能被炸成碎片。我壓力很大，這份壓力導致了我精神上的一些問題，我從夢中醒來，發現自己整晚坐在床上，手裏還拿著鍋爐蒸汽壓力計。但是，我從沒有把自己的窘境告訴過我的家人，不，不能告訴他們，一定要讓他們相信我這裏一切都好！”
再後來，丹弗姆林的市的一個當地人給了小安德魯一份每周三美元的工作，讓他做匹茲堡的電報送信員。他擔心自己對城市不了解，會在工作過程中迷路，於是，他狠下功夫記憶城市路線，於是沒過多久，他閉著眼睛也能說出這座城市每個商業區每家公司的門牌號碼。他每天早晨很早就去了辦公室，悄悄地練習發報技術。
一天早晨，費城方麵強烈要求發一封“陣亡電報”，安德魯在沒有任何發報員在場的情況下，接受了發報機裏傳來的信息，然後又迅速把它發送了出去，這一切發生在電報公司開始營業之前。事後，他不但沒有像他擔心的那樣，因為此番大膽的舉動而遭到解雇，反而很快被提升為發報員，而且得到了每個月二十五美元，一年三百美元的薪水。他還以每周一美元的酬勞做著一項額外的工作——抄錄報紙上的消息。這讓他有機會每晚接觸到那些為早報寫文章的記者們。
那個時候，托馬斯·A.斯科特是賓夕法尼亞鐵路匹茲堡的主管，他常常去發報室和電報公司阿爾圖納地區的主管聊天，這位精力旺盛的年輕發報員引起了他的注意。後來，當鐵路公司建立起自己的通訊網絡後，卡耐基被挖了挖了過去，以每個月三十美元的工資成為了一名辦公人員兼發報員。
有一次，鐵路全線癱瘓而一時又找不到當時的主管斯科特，情況十分危急。身為電報員的卡耐基果斷地冒用斯科特的名義發出電報，指示火車如何運行，從而避免了一場災難。這在當時是絕對不符合製度的，但是卡內基卻把它當作了一個典故，並引出了他最喜歡說的一句話“打破規則是為了拯救規則的製定者。”後來，斯科特以每個月五十美元的薪金把他聘為自己的私人秘書，從此，通往財富之路的大門打開了。