當詹天佑出任京張鐵路總工程師兼會辦的清息傳出後，一些充滿失敗主義情緒、毫無民族自信心的人，有的冷嘲熱諷詹天佑“自不量力”，有的咒罵他“膽大妄為”。對這些流言蜚語，嘲諷怒罵，詹天佑不以為然，坦然處之。他決心用事實回擊這些妄自菲薄、沒有民族自尊心的人。
1905年5月，詹天佑在工程技術人員異常缺乏的情況下，克服了重重困難，開始籌建工程機構，設立京張鐵路總局於天津，設分局於北京西城豐盛胡同。設立材料廠在北京，在豐台設購地所。
工程總局和分局均由詹天佑自己負責，所有工程師均由詹天佑量才調度。詹天佑率領工作人員不怕艱難險阻，爬山越嶺，實地考察、測線。通過勘測，選擇了三條路線加以比較，最後決定選距離短、時間快、投資少的一條：全路從豐台以東京奉路柳村60號橋起，經西南門、居庸關、八達嶺等地直奔張家口。全線長180餘公裏。由北京往西北的沿途，路經崇山峻嶺、懸崖峭壁，山高坡陡，地形極為複雜，施工難度很大。最險要地段是南口至岔道城一段工程，要在居庸關、五掛頭，石佛寺、八達嶺一帶開鑿四條隧道，總長1645公尺。其中八達嶺隧道即長達1091公尺，而且此路基逐漸升高。每40公尺，需加高一尺。麵對施工的艱難險阻，麵對社會輿論的壓力，詹天佑不但沒動搖靠中國人自己的力量、智慧和才華為祖國修築鐵路的決心，相反，在工作實踐中更增強了為祖國爭光，為中國人爭氣的信念！
1905年9月4日，京張路正式動工了。
在選線、測量和施工中，詹天佑經常勉勵工作人員，他說：“全世界的眼睛都在望著我們，不論成功或失敗，決不是我們自己的成功和失敗，而是我們的國家！”“工程技術要求精密，不能有絲毫含糊和輕率。‘大概’、‘差不多’這一類說法，不應該出自於工程技術人員之口！”他身體力行，常親自檢查技術人員已測量過的地段。一次，有一個年輕的技術人員不高興地說：“你既然不放心，又何必叫我們來測量呢？”詹天佑十分嚴肅又非常和藹地說：“並不是我不信任你們，科學工作，一絲不苟，多一個人檢查總是好的。諸位的責任太重了！”年輕的技術員被詹天佑對工作高度負責、對技術精益求精的精神所感動，在施工中，對自己測過的線，一次次地複查，直到達標為止。詹天佑不僅對工作人員要求嚴格，對自己也常提醒，他在日記中寫道：“惟責重益較才輕，而圖終，必先慮始。”
在我國修京張鐵路，當時的條件設備極差，既無開山機械、黃色炸藥，也無通風和排水設備，詹天佑不恥下問，親自請來老石匠共同研究，手掄大錘，深開炮眼，以奏開山之效。為加快工程速度，隧道由兩端向中點鑿進，同時動工。1906年5月22日居庸關、五掛頭、石佛寺、八達嶺全部打通了。為解決青龍橋坡度大，設計了“人”字型軌道，用兩輛重型機車進行前後推拉。英國工程師金達等人以打賭為名暗中偷偷窺視京張路修築情況，他們企盼京張路失敗，輕蔑譏諷地說：“中國修築這樣難度高的鐵路的工程師尚未誕生呢？！”員工們看見金達等洋人偷窺修路情景，站在山坡上高喊：“洋鬼子們開開眼吧！中國人也能修築鐵路了！”
因山高陡峭，負荷量大，運送材料車箱之間的鏈條折斷，列車顛覆在山上，洋人工程師都幸災樂禍，借機大肆揚言：“中國人怎能自己修鐵路呢！要想修成京張路，非外國工程師不成！”詹天佑並不灰心，他根據自己在國外留學時老師講過的有關原理，結合自己修新易鐵路的實踐經驗，刻苦研製成功了“自動掛鉤法”，解決了這一難題。後人稱之為“詹氏掛鉤”這一方法，在西方和日本等國也被推廣應用。