一些仁人誌士和愛國將領，從大片淪陷的土地和無數抗戰官兵及同胞的血泊中，深深感到要戰勝強大的日本侵略軍，除強化中國軍隊的武裝，已別無它路。所以紛紛向蔣介石進言，建議集中財力和物力，首先在中國軍隊建立一支能同日軍打硬仗、打大仗的機械化部隊。在這些仁人誌士和愛國將領中，給蔣介石影響最大的，當屬杜聿明原來的上司，曾率部在長城抗擊日軍侵略華北的第十七軍軍長徐庭瑤。
徐庭瑤因長城抗戰，在全國人民心中贏得了很高的讚譽。蔣介石特地任命他為“軍事考察團”團長，讓他率領一批軍事專家赴歐美各國考察軍隊現代化裝備，軍事考察團先後走訪過英、法、德、意、美五國，回國時，已是1935年春天。
歐美之行自然讓徐庭瑤大開眼界。他回國後的第一件事情，就是向委員長遞交了一個詳細的考察報告。接著他又來到中央軍校發表講演，向集中在這裏的一大批高級將領講敘西方各軍事強國的機械化進程。他慷慨激昂地指出，中國現階段的軍事建設，必須吸收世界軍事強國的經驗，逐漸使軍隊裝備進入機械化程度。具體地說，就是要建立裝甲部隊，快速機動部隊，加強速度和火力，隻有這樣才能打敗在裝備上擁有優勢的日軍。而要創立新的機械化部隊，必須首先建立軍隊機械化專科學校，突擊培養一批掌握這方麵學術知識的新型軍官。
杜聿明正好在中央軍校高級教育班深造，當徐庭瑤滔滔不絕地講敘著世界強兵之道時，他深深地被這位老軍長的軍事思想陶醉了。他現在依然在編的第二十五師，曾作為中央軍的一支勁旅，最早在古北口與日軍交戰。敵人先進的飛機的坦克，讓第二十五師在長達兩個月的激戰中，傷亡超過4000人。他想，如果我們自己也擁有這些先進裝備，又怎會付出如此沉重的代價？我軍將士為正義而戰，誰都把生死置之度外，現在缺的正是鋼鐵！
從中央軍校畢業之時，經委員長批準的南京陸軍交輜學校，剛好在郊區丁家橋正式成立。擔任交輜學校中將教育長的徐庭瑤，主動邀請這位當年的愛將到校襄助辦學。原來，徐庭瑤已將這種想法報告過該校掛名校長蔣介石，並且已得到批準。
杜聿明一聽這消息，喜出望外，他卷起行李，馬上趕赴丁家橋上任。當時他想，交輜學校除了更能親近蔣校長和老軍長之外，又擔負著訓練新的機械化兵種的任務，代表著中國軍隊的希望--有此美差，何樂而不為？
杜聿明一到交輜學校，就出任該校的第三要職：學員隊隊長。因為是為國軍的未來培養現代化軍事幹部的最高學府，該校的第一批學員，是從各部隊優秀軍官中挑選出來的尖子，具有極強的上進心。所以開學後，馬上顯示出生氣勃勃的景象。杜聿明也正當年富力強、雄心勃勃的時候，他和這些黨員朝夕相處，教學相長，共同鑽研全新的機械化兵器知識和技術，很快和他們達到了水乳交融的程度。在暫短的一年多時間裏，他不僅為機械化部隊培養大批幹部，而且為他日後在機械化部隊作為第一位統帥性的指揮官，奠定了雄厚的政治基礎和人事基礎。
1937年，軍委會、軍政部作出決定，將交輜學校現有的戰車營與交通兵第二團所屬裝甲汽車隊合編，同時補充一批戰車，建立中國軍隊第一個陸軍裝甲兵團。在考慮第一任團長人選時，蔣介石和徐庭瑤不約而同地想到了杜聿明。當時委員長在給杜聿明下達的委任狀上的職務是“陸軍裝甲兵團司令”。
作為中國軍隊僅有的一支機械化部隊，陸軍裝甲兵團共有戰車、搜索車、戰車防禦炮三個營；裝備著德國的新型戰車和英國製造的水陸兩用戰車及炮戰車。按照世界通用的軍銜符號，官兵們統一佩戴“克羅米”領花。