進入軍務處以後，袁氏便有了向更高層進言的機會。國家危機讓這位有“非唯知兵，且諳外交”名聲的三十六歲的政治明星走出直隸，也走出李鴻章的陰影，進入中央。
一邊是編練新軍的進展並不理想，一邊是有“知兵”之譽的袁某被閑置在軍務處。所以，在皇上頒詔要封疆大吏廣薦人才之際，幾位重量級的總督，不約而同地向朝廷推薦了袁世凱。
且讀兩江總督劉坤一在給朝廷密上的《薦賢書》中的一段話:
際此時局艱危，知兵文臣甚少，如袁世凱者，伏願皇上擢以不次，俾展所長，及其年力正強，得以功名自奮，庶立尺寸之效。
湖廣總督張之洞的薦舉理由更是直捷了當:
(袁世凱)誌氣英銳，任事果敢，於兵事最為相宜。若使該員專意兵事，他日有所成就，必能裨益時局!
在朝中重臣與外省疆吏的共同舉薦下，光緒二十一年(1895年)六月，光緒皇帝破格召見了這個聲譽鵲起的少壯派將領，並命軍務處五大臣責成他起草一份新建陸軍的詳盡方案。
好一個袁世凱，深思熟慮後，將一整套全新的建軍思想和可行性報告呈送五大臣。袁氏建軍思想可概括為:聘請外國軍事顧問，按外國軍隊編製、裝備與規章製度，新建一支陸軍。
五大臣隨後上疏皇上:
查有軍務處差委、浙江溫處道袁世凱，樸實勇敢，曉暢戎機，前駐朝鮮頗有聲望。因令詳擬改練洋隊辦法，旋據擬呈聘請洋員合同及新建陸軍營製餉章，臣等複加詳核，甚屬周妥。相應請旨飭派袁世凱督練新建陸軍，假以事權，俾專責任。
救亡心切的光緒皇帝登時降旨批準。
於是，袁世凱奉旨離京，去了天津郊外七十華裏的新農鎮，接任了定武軍。他的前任“胡司令”，則轉任蘆津鐵路督辦去了。
小站成了袁世凱大展身手的舞台。他接手胡某留下的三千七百餘人，又新募得兩千五百餘人，聘來眾多德國軍事顧問，按全套德式建製與裝備重建了這支新軍。發憤圖強的袁司令，就以這七千人的新式軍隊為基礎，練成了北洋常備軍，人稱“北洋軍”。段祺瑞、王士珍、馮國璋、曹錕、吳佩孚、張勳……那些並無顯赫出身的北洋軍人們相繼成了袁氏的骨幹，後來，竟成為呼風喚雨的軍政巨頭。這些人對袁氏的崇拜和擁戴，多年未曾改變，即使在袁被迫下野後。以致當時都有過一句對袁十分不利的流言，曰:北洋軍隻知袁宮保，不知大清朝--袁曾被皇上授予太子少保的頭銜，故官場人稱“袁宮保”，他也一向喜歡部下這樣稱他。
小站練兵時的袁世凱不僅狠抓軍事訓練，而且也做“思想政治工作”，兩手都很硬。但他不是靠頻繁開會、組織官兵學習皇上各類批示來收攏人心，而是親自動手編寫了一首通俗易懂的《勸兵歌》，讓士兵們邊唱邊領悟“咱當兵的人，有啥不一樣”。歌曰:
諭爾兵，仔細聽:
為子當盡孝，為臣當盡忠。
朝廷出利借國債，不惜重餉來養兵。
一兵吃穿百十兩，六品官俸一般同。
如再不為國出力，天地鬼神必不容。
自古將相多行伍，休把當兵自看輕。
一要用心學操練，學了本事好立功;
軍裝是爾護身物，時常擦洗要幹淨。
二要打仗真奮勇，命該不死自然生;
如果退縮幹軍令，一刀兩斷落劣名。
三要好心待百姓，糧餉全靠他們耕;
隻要兵民成一家，百姓相助功自成。