德國顧問在華使命的終結。
1937年7月5日，即七·七事變發生前兩天，法肯豪森似乎已預感到戰爭即將來臨。他以總顧問的名義向中方發出一份建議，要求立即將整訓完畢的國防軍開赴華北各國防戰略要地，以備不時之需。盧溝橋事件發生後，法肯豪森先是受蔣介石委派赴華北前線同中方指揮官會商抗日作戰方案，隨後又不顧德國政府禁令趕赴上海參與指揮圍殲當地日本駐軍的戰役。
8月13日，國民政府發起一場“先發製人”的打擊，擔任主攻任務的八十七、八十八師正是德國顧問一手調教的精銳部隊。在法肯豪森看來，這是檢驗德國顧問整軍成果的難得機會。八·一三淞滬抗戰持續了三個月之久，經德式訓練的中國軍隊在日軍攻擊下顯示了較強的戰鬥力。但是，11月初，當日軍增援部隊在杭州灣登陸之後，戰局急轉直下，上海防禦戰遭到慘敗。在中國軍隊潰退的過程中，耗資一百餘萬元修建的“東方興登堡防線”未發揮任何抵抗作用就被拋棄了。12月13日，日軍占領南京。據估計，從淞滬抗戰至南京失守，30萬中央軍大約損失了10萬至18萬人。精銳的新編師蒙受的損失最大，失去了1萬名低級軍官，從此基本喪失了獨立作戰的能力。南京失守後，德國顧問團大多數成員隨國民政府撤往武漢，此後他們實際已沒有多少工作可做。
在中日戰爭全麵爆發前後的一段時間裏，希特勒德國在對華關係上麵臨著困難的抉擇。德國與日本一樣，奉行對外侵略擴張政策。從1936年11月起，日本又成為德國某某產國際的盟友。德國勢必支持日本的遠東政策。可是，遭到日本侵略的中國，又和德國有著密切的經濟、軍事聯係；中國作為戰略原料的供應者和德國軍火、工業品的巨大市場，是德國壟斷資本家乃至德國統治集團難以立即放棄的。這樣，德國要支持日本的遠東政策又難免會損害自身利益。
雖然在戰爭初起時德國宣布中立，並向中方表示德日《某某產國際協定》同中日衝突沒有任何關係，但隨著戰爭的擴大，德國的中立實際已難以維持，中德之間的矛盾日益顯露。例如，德國對中蘇關係的改善深感不安，並公開向中國方表示不滿；在中德貿易中，德方轉而要求中方以外彙現款支付欠缺數額，甚至以停止向中國提供軍事物資施壓。隻是由於中德雙方有關人士的努力，兩國關係才沒有立即出現大的倒退，對華軍火供應也又持續了一段時間。
1937年10月下旬至1938年1月中旬，德國政府試圖通過駐華大使陶德曼（Oskar P．Trautmann）調停中日衝突，以解決其遠東政策麵臨的矛盾。這次調停失敗後，德國政府接連采取了一係列迎合日本的措施，中德關係急轉直下。1938年2月，希特勒宣布德國將正式承認“滿洲國”。3月，德國單方麵決定中止已實施多年的中國軍事學員赴德訓練的合作項目。4月，戈林下令禁止對華輸出軍火，德國外交部向中方交涉召回全部在華軍事顧問。6月下旬，為迫使顧問們盡快離華，德方發出極其嚴厲的訓令：凡不遵從者“即認為公然叛國，國內當即予以取銷國籍及沒收財產處分”。隨後，德方以中國未能如期允準全體德國顧問離華先行召回駐華大使陶德曼，此後再未派出駐華大使。7月5日，以法肯豪森為首的德國軍事顧問團離華返德。
自1938年起，國民政府為挽回中德關係所作的外交努力幾乎無一奏效，唯一的例外是德方又放行了一批軍火。當年7月，經過中方有關人員和德國廠商的多次遊說，德國政府最後默許將禁運前中方訂購而應於7月交貨的軍火轉交芬蘭公司啟運。這是運往中國的最後一批德國軍火。在維持了幾年冷淡的關係之後，1941年7月1日，德國正式承認南京汪精衛政權，重慶國民政府終於宣布與之斷交。
曆史上被遺忘的一頁。
在當時的曆史條件下，中德合作可以說是在比較平等的基礎上展開的。雙方合作的形式十分簡單，蔣介石以私人名義雇用德國人，德國顧問隻對蔣個人負責。這種方式繞開了國家間的合作可能遇到的種種難題。盡管兩國有著不同的曆史和文化傳統，但合作者近似的意識形態和價值取向卻基本填補了這個差異。
蔣介石對德國顧問是高度信任的，德國顧問團在中國的工作也推動了中德關係的改善和發展。軍事是雙方合作的主要領域。德國軍事顧問的作用在於向國民政府的軍隊初步灌輸了現代軍事觀念，幫助建立了一支比較現代化的陸軍示範部隊，改進了中國的兵工後勤係統，大批德製武器和軍工設備的輸入提高了中國軍隊的戰鬥力，也為德國帶來了巨大的商業利益。