1927年底，蔣介石在上海與朱家驊推薦的德軍退役上校鮑爾（Max Bauer）會麵。在為時一周的長談中，鮑爾不僅詳細介紹了德國最新軍火工業發展的情況和德式武器在現代戰爭中的效用，還向蔣提出了一大堆建議，不僅涉及軍隊的複員與重組，還涉及大量的經濟問題，蔣介石對鮑爾所展示的才幹十分賞識，他決定聘請鮑爾為顧問，並要鮑爾返德為南京政府遊說？
1928年，組織德國顧問團的計劃付之實行。3月，南京政府一下派出兩個代表團赴德訪問。其中一個代表團由鮑爾陪同，在德國進行了廣泛的活動，並同克虜伯、西門子等大公司簽訂了包括軍火在內的價值100萬馬克的意向性合作及貿易合同，這是南京政府首次同德國訂購軍火。當年11月，經中德雙方反複協商，一個德國顧問團終於組成並啟程赴華，鮑爾成為國民政府聘請的第一任德國顧問團負責人。
不過，這個顧問團並沒有得到德國政府和軍方的承認和支持。按照《凡爾賽和約》有關規定，任何德國公民即使以私人身份充當別國軍事顧問都是非法的，因此德國政府在這個問題上異常小心謹慎。
鮑爾是個倒黴的總顧問，在任僅半年時間。在軍事方麵，他除提交了一些建議、初步組建起一支“教導隊”外，主要任務是協助蔣介石打內戰。鮑爾上任不久便在蔣介石的授意下起草了一份《軍隊編遣方案》。這個方案擬將當時全國分屬各派係軍閥的二百六十餘萬人的軍隊縮編到80萬人，統歸南京中央政府指揮；結果，導致了蔣介石與華南桂係軍閥李宗仁、白崇禧之間的一場大戰。鮑爾在前線染上天花，因醫治無效於1929年5月病死上海。此後，由鮑爾的助手克裏拜爾擔任代理總顧問，完成了平定華南的戰事。
1930年5月，蔣介石聘請佛采爾（C。Georg Wetzell）擔任德國顧問團團長。佛采爾上任時，恰逢蔣介石與馮玉祥、閻錫山等軍閥之間的另一場戰爭“中原大戰”爆發。在一場關鍵戰役中，蔣介石的部隊在佛采爾指揮下第一次實行大規模步炮空聯合作戰，德式武器和訓練顯示了威力。這場戰爭最終以蔣軍大勝而結束。在隨後的幾年裏，蔣介石在德國顧問的協助下接連發動了對江西紅軍的“圍剿”，但前四次均遭敗績，直至第五次才取得成功，迫使****領導的紅軍離開江西根據地進行長征。
在華德國顧問團與國民政府的抗日戰備。
與其前任不同，佛采爾在華四年，除協助蔣介石進行內戰之外，也參與南京政府指揮的局部抗戰並為加強中國國防能力做出了貢獻。1931年，日本發動九·一八事變，侵占了中國東北三省。此後，日本人又不斷作出繼續南侵的嚐試。當時，蔣介石的基本方針是“攘外必先安內”；但在日軍的逼迫下，中國軍隊不得不實行局部抵抗，國民政府也不得不加緊備戰。
在這方麵，佛采爾主要做了四項工作：第一，他先後參與了1932年初上海一·二八淞滬抗戰和1933年初熱河“長城抗戰”的軍事部署與指揮工作。第二，他將鮑爾創建的“教導隊”逐步擴充為三個“示範師”，以陸軍第八十八、八十七和三十六師充任，並組建了10個炮兵營，使蔣統帥的中央軍有了一支德式訓練和裝備的精銳部隊。第三，改進了中國軍事教育體製，佛采爾親自兼任中央軍校總教官，幫助建立了各軍兵種訓練學校及培訓班，提高了教學和訓練水平。第四，佛采爾提出一整套改革中國軍事體係的方案，提高了軍事部門的效率，並促使國民政府組建工兵、汽車、高射炮、海岸要塞、電信、炮兵航空觀測機隊等專業化部隊。經過這幾年的整訓和改造，國民政府中央軍開始由“內戰型”向“國防型”轉變。
在佛采爾任內，德國顧問團得到了德國官方的支持，並鞏固了在國民政府中的特殊地位。由於佛采爾的努力，德國外交部和國防部逐漸意識到在華顧問團是德國的一筆重要資源。駐華使館對顧問團的活動轉持積極態度，德國國防部也開始掌握起顧問團的人事及中德軍品貿易大權。