日軍占領華北以後，挖壕溝，築碉堡，不斷修築公路、鐵路交通網，平原上的據點之間都有公路聯絡，有的一個據點分叉十幾條公路，形成了縱橫交錯的公路網。正太鐵路是日軍施行“囚籠政策”的重要支柱之一。
正太鐵路東起石家莊正定，西止太原，全長240多公裏，橫越太行山脈，經過娘子關天險，是連接山西、河北兩省，溝通河北平原和山西高原，聯結平漢、同蒲兩條鐵路線的重要交通命脈。日軍施行“囚籠政策”，采用以“鐵路為主、公路為鏈、碉堡為鎖”的方法，企圖通過這種方式把華北抗日根據地分割成塊，在軍事上實行分區“掃蕩”，在政治上加強發展偽組織的“統治”作用，在經濟上對抗日根據地加以嚴密封鎖，隔絕各抗日根據地之間的糧食運輸，還企圖把晉察冀的糧食運往日本，緩和日本國內的糧荒。侵略者費盡心機，伸出毒蛇一樣的嘴，企圖更尖銳地插入根據地，控製根據地。日軍妄稱，正太鐵路沿線是“不可接近”的地區。1939年秋，華北抗日根據地有近百個縣城，日軍推行“囚籠政策”以後，抗日根據地逐漸被封鎖、被切割，八路軍的抗日活動困難，物資供應更為緊張。
1940年2月，八路軍總司令朱德、副總司令彭德懷在部署反摩擦鬥爭的同時就提出，八路軍各部隊要對日軍築路的起止地點、修築方法、沿路設施、守備兵力等情況進行詳細偵察。這是為了打破日軍的“囚籠政策”做軍事準備。
4月1日，朱德、彭德懷發布命令，要求八路軍各部隊互相配合，從4月10日開始對日軍的交通線發起總破襲戰。
4月2日，彭德懷收到毛澤東發出的一封急電。毛澤東在電報中指出：“目前局勢相當嚴重，蔣介石似已下了決心，即是掛抗日的招牌，做剿共的實際。目前對我最威脅的是綏德、皖東兩點。”毛澤東還提出，要以主力對付威脅延安的國民黨第90軍；八路軍除第344旅外，再抽調兵力南下華中，打通與新四軍陳毅方麵的聯係。毛澤東還希望朱德早日動身到洛陽，同衛立煌談判，停止國共摩擦，然後秘密返回延安，參加黨的第七次代表大會。
彭德懷接到毛澤東的電報以後，即要求八路軍有關部隊集中力量對付國民黨的反共摩擦，對日軍發動交通總破襲戰的計劃推遲。這以後，八路軍有些部隊也出擊了日軍的交通線，但沒有形成統一的戰役。
4月12日，毛澤東、王稼祥在給朱德、彭德懷的電報中提出：“朱總能否與衛（立煌）一晤？”根據毛澤東的意圖，朱德總司令離開八路軍總部王家峪，前往洛陽同衛立煌談判，再經西安、黃陵，返回延安。
5月7日，朱德一行渡過黃河。衛立煌得知朱德到來，早已派人到碼頭迎接。朱德到洛陽時，天已經黑了。衛立煌把朱德和康克清安排在自己的駐地住宿，以便互相交談。
在衛立煌舉行的歡迎會上，朱德特別強調了軍隊團結的重要性。朱德說：共產黨、八路軍堅決要求這種團結，國民黨的大多數需要這種團結，隻有日寇、汪精衛、漢奸、投降分子和摩擦專家害怕這種團結。朱德強調，這種團結必須建立在進步的基礎上，隻有這樣，才能克服困難，爭取抗戰的最後勝利。
在洛陽，朱德與衛立煌舉行會談，氣氛很融洽。每天晚上，衛立煌都安排招待晚會，有時還請著名演員演出。衛立煌原來還準備就陝甘寧邊區問題做些調解，蔣介石得知後立即打電報給衛立煌，說：“這個事你不用管”。後來，朱德向黨中央報告情況時說，洛陽是國民黨特務機關集中的地方，但因為有衛立煌這個中間力量在，情況比西安還要好些。
5月17日，朱德一行來到西安，發現八路軍辦事處周圍出現了一些不三不四的人。由於國民黨頑固派掀起反共高潮，八路軍設在國民黨西北統治中心的這一合法機關也成了反動分子的一個眼中釘，不僅在生活必需品供應上處處刁難，還在辦事處周圍設置了20多個特務據點，辦事處工作人員外出，很快有特務尾隨跟蹤。
朱德了解到上述情況以後，一麵要求大家保持警惕，任何時候都不可麻痹大意，一麵和大家一起研究了對付國民黨特務的鬥爭藝術。為了保證文件傳送中不被特務覺察，要求有關人員不走大街走小巷，晴天不送雨天送，白天不送晚上送。
離開西安前夕，朱德得知辦事處交通科一名姓賈的戰士因公外出時被國民黨特務秘密綁架，反動當局又拒不承認。為了把這名戰士救出虎口，朱德親自出麵同國民黨有關方麵交涉，迫使特務放人。
北上延安那天，朱德得知八路軍辦事處有一批通訊器材要送往延安，又擔心這些器材在途中會受到國民黨軍隊哨卡的刁難，不知如何運送。朱德毫不猶豫地說：“你們把這些器材裝上車，我隨大卡車一起走。”
當時，著名作家茅盾夫婦和一些進步人士也要從西安去延安，為了保障他們途中安全，朱德也邀請他們同車前往。