隨著資本主義在世界的蔓延，在美國以農業為主的南方和以工業為主的北方之間關係不斷惡化，他們之間的衝突幾乎是不可避免的。而此時，英國新興的資本主義逐漸蔓延到美國。林肯就任總統以後，南北間因奴隸問題和關稅障礙的對立導致情勢更加惡化。1861年，美國爆發了南北戰爭。在這次戰爭中，以林肯為中心的北方軍廢止了美國曆史上長期存在的奴隸製度，所以這一戰爭又被稱為“奴隸解放戰爭”。戰爭期間，卡內基奉調為北方軍鐵路部隊的要員，加入了戰爭的行列。
那時候斯科特先生被任命為物資運輸的陸軍次官，卡內基奉命擔任他的助理，跟著他一起被派到華盛頓。當時卡內基的工作是負責軍用鐵路和軍用電信的管理和營運，同時將鐵路員工編入鐵路部隊，在戰爭初期，這是最重要的工作部門。
戰爭進行得如火如荼。一天，北方軍部隊搭乘火車在即將通過巴爾的摩時遭遇南方軍的襲擊，鐵路被破壞，通往華盛頓的交通被切斷了。卡內基立刻率領部下趕到現場展開修理工作，經過幾天不眠不休的搶修，火車終於能夠暢行無阻。卡內基就坐上第一列要開往首都華盛頓的火車車頭內，觀察前方的路況。突然，他發現兩旁的電線被人用木棒釘在地上，這一定是敵人為了幹擾電信搞的鬼。卡內基立刻命令停車，他跑下去想拿掉那些木棒。由於電線拉得太緊，當他拆木棒時電線突然向上彈了起來，猛地抽到他的臉上。卡內基被打得倒在地上，臉上流了很多血。經過緊急治療後，火車繼續前進，終於到達了華盛頓。這次，卡內基和幾天前在巴爾的摩遭到敵人襲擊而受傷的幾名士兵一樣，都為國家流了血，他感到十分光榮。
南北戰爭期間，南方軍頻頻攻擊賓夕法尼亞鐵路，木質橋梁被毀的事件層出不窮，卡內基時常要帶人修橋補路。在一次檢視被南方軍毀壞的一座大橋時，他成功征集了所有的渡船，將它們並列排放，以取代被毀壞的橋梁，進行橋梁修補作業。工廠完畢後，他突然想到：今後應該用鐵橋來代替木橋，繼續用木橋是不行了。
再度回到華盛頓，卡內基與斯科特先生一起在陸軍本部服務。當時由於卡內基負責鐵路及電報兩個部門的工作，使得他經常有機會和林肯總統見麵。
林肯總統常常到卡內基的辦公室來等候電報。在卡內基眼裏，林肯性格冷靜，五官極為奇特，是他所見過的最醜陋的人，但是當遇到興奮或激動的事情，或為某件事沉思時，他的眼睛就會流露出智慧的光芒。
林肯先生無論和任何人談話，態度都很平易近人，而且語氣也極為親切柔和，即使辦公室的工友，他也一視同仁。他的動人之處就在於那平易近人的態度，絲毫沒有一點做作或驕矜的痕跡。卡內基從來沒有見過一個偉大的人物能夠像林肯一樣，使自己和對方站在相同立場來表示關切和情意。曾經有一位官員這樣評價過林肯：“沒有一個人能夠當林肯先生的仆從，因為他立刻就會變成林肯的朋友。”正如他所說，林肯是一個最完美的民主主義者，他用自己的語言和實際行動來表示人類都是平等的。
本來卡內基以為南北戰爭很快就會結束的，可是開戰不久，南方軍非常強悍，北方軍吃了不少苦頭，因此戰爭的情勢愈加明白地顯示出這將是一場長期的戰爭。卡內基開始考慮到自己並非正規的軍人，如今一直做軍人的工作，還不如把這些工作交還給真正的軍人。這時候賓州鐵路公司也因為戰爭的影響業務十分繁忙，一直盼望斯科特和卡內基趕快回去。於是卡內基和斯科特先生就向華盛頓政府申請複職，不久就獲得批準，他們便分別回到了原來的工作崗位上。
但是當卡內基從華盛頓返回不久，卻因為從軍時過於勞累而患了日射病，這是他有生以來患的最嚴重的疾病。有一天中午，當卡內基站在鐵軌上時，突然感到頭昏眼花，直冒冷汗，一下子就癱倒在地上。雖然經過治療得到緩解，但以後這種病仍然時常發作，最後醫生不得不嚴厲地命令他絕不能在天氣酷熱時外出，同時他向卡內基建議，今年夏天最好不要待在美國。卡內基便趁機向公司請假，帶著母親踏上去往蘇格蘭的回鄉之路。這個時候卡內基的收入已經十分可觀，他在伍德拉夫的臥鋪車製造公司的紅利一年高達5000美元，在亞當斯運輸公司的紅利一年高於1200美元，這些收入都遠遠超出了他在鐵路公司的薪水。