光緒20年7月，光緒帝召見袁世凱。袁世凱抓住機會，慷慨奏聞舊有軍隊的弊病及練兵、製械諸法，力陳非改弦更張無法抵禦外患，受到光緒帝稱許，將他派到負責整頓舊軍、改練新軍的重要機構督辦軍務處差委。袁世凱第一個目標達到了。
然而，袁世凱在督辦軍務處擔任的是可有可無的閑差，難以施展他的抱負及多年曆練而來的治軍之才。袁世凱諳熟清朝官場積習，他動員叔祖袁甲三、堂叔袁保恒、袁保齡、養父袁保慶在京時的幾乎全部舊關係，四處活動，八方鑽營，請客送禮，重金賄賂，拜師請托，義結金蘭……打通進入上層集團的門徑。後黨核心人物、帝黨核心人物、西太後慈禧的心腹、光緒帝的師傅、滿族親貴、清流黨首領，諸如兵部尚書榮祿、恭親王奕訢、慶親王奕劻、軍機大臣兼戶部尚書翁同龢及軍機大臣李鴻藻等，竟全部被袁世凱搞掂。李鴻藻“激賞”袁世凱，認為他“家世將才，嫻熟兵略”，如令他特練一軍，“必能矯中國綠、防務營之弊”，而“亟言於朝”。翁同龢稱袁世凱“不滑，可任也”。榮祿具體指示袁世凱，“於暇時擬練洋操各種辦法”呈上，然後保舉他的軍事才幹。後來著名的“東南三督”劉坤一、張之洞、李鴻章，也都上書為袁世凱說好話。上述這些人黨派森嚴，相互之間矛盾極深，但卻眾口交讚，一致舉薦袁世凱這位小小的前駐朝商務委員。這其中固然有袁世凱逢迎拍馬、攀援權貴的因素起作用，但是他如果本身沒有兩手，那也是不成的！
根據榮祿的授意，袁世凱立即擬訂了全套編練新軍的計劃書，包括擬建新式陸軍的營製、餉章、聘請外國軍官的合同，上呈督辦軍務處，並強調指出： 甲午戰爭，清軍屢戰屢敗，“雖由調度之無方，實亦軍製之未善”。“若不權時度勢、掃除更張、參用西法、認真訓練，則前車之鑒，殊足寒心”。因“誠如憲台原奏，不得不為易轍之圖，作補牢之計也”。
光緒21年（1895年）年末，督辦軍務處奕劻、李鴻藻、長麟、翁同龢等議定三事：一、原駐小站編練定武軍10營的胡燏棻改任津蘆鐵路督辦；二、由袁世凱接任訓練新軍；三、命蔭昌挑選八旗兵丁入武備學堂。隨之，各親王、軍機大臣正式向朝廷奏請變通軍製，在天津創建新式陸軍，派員督練。其奏如下：
中國自粵、撚（指太平軍和撚軍）削平以後，相沿舊法，習氣漸深，百弊叢生，多難得力。現欲講求自強之道，固必首重練兵；而欲期兵力之強，尤必革新舊製。
查有軍務處差委浙江溫處道袁世凱，樸實勇敢，曉暢戎機，前駐朝鮮頗有聲望。因令詳擬改練洋隊辦法，旋據擬呈聘請洋員合同及新建陸軍營製、餉章，臣等複加詳核，甚屬周妥。相應請旨飭派袁世凱督練新建陸軍，假以事權，俾專責任。現在先就定武十營，步隊三千人、炮隊一千人、馬隊二百五十人、工程隊五百人，以為根本；並加募步隊二千人、馬隊二百五十人，共足七千人之數，即照該道所擬營製、餉章編伍辦理。
清廷批準此奏，即命袁世凱赴天津接管胡燏棻定武軍10營，以為改練新軍的基礎，並叮囑袁世凱：該道當思籌餉甚難，變法匪易，其嚴加訓練，事事核實。倘仍蹈勇營習氣，唯該道是問！
袁世凱取得了督練新軍的實權，8天後前往小站接管定武軍。他的第二個目標達到了。
小站鎮又稱新農鎮，東臨渤海，位於大沽要塞通往天津的中途，距天津僅60餘裏，離北京也不過300裏，是京津南大門。其地交通便利，地域遼闊，人煙稀少，宜於屯田養兵。因此曆史上於小站練兵早已有之。
清同治13年（1874年），李鴻章奉慈禧太後之命，派淮軍將領周盛傳率“盛軍7000餘人由安徽合肥至天津小站地區，鎮守大沽要塞，軍屯、練兵達20年之久。當地人稱“老盛軍”，設有7個營盤——盛字營、傳字營（以周盛傳名取名）、正營、老左營、後營、前營、副營。
光緒20年（1894年）甲午戰爭，盛軍奉調東北與日軍作戰，全軍覆滅，小站營房空無一卒。長蘆鹽運使、廣西按察使胡燏棻奉命編練定武新軍，原駐天津馬場，因營房不夠移駐此地。胡燏棻的定武軍在小站附近設有10個營盤，裝備洋槍洋炮，分步、炮、工、騎四個兵種。有步兵3000人、炮兵1000人、工兵500人、騎兵250人，共計4750人。聘請德國教官漢納根主持訓練。
新建陸軍采取德國和日本建製，分步、炮、馬、工程、輜重各兵種。以步隊為主，炮隊為輔，馬隊巡護，工程隊供臨時調遣。其中步隊5000人，分左右兩翼，設統領2人。左翼2營，右翼3營。翼下有營、隊、哨、棚；步隊每營1000人，設統帶1員，幫統1員，下分4隊；每隊250人，4隊共設領官4員，哨官12員，哨長24員，督排哨長4員。左翼由重炮隊接應，右翼由快炮隊接應。炮隊1營共1000人，設統帶1員，分右翼快炮隊、左翼重炮隊和接應馬炮隊3隊。馬隊1營共500人，設統帶1員，幫統1員，下分4隊；工程隊1營共500人，設管帶1員，幫帶1員，委員1員，下分橋梁、地壘、電雷、修械、測繪、電報6司隊。