這年6月，徐世昌和徐世光一起到順天府應試，隨後兩人雙雙中舉，“公中一百五十四名，弟世光中七十五名……太夫人甚喜”。
徐家兄弟同榜中舉的消息很快在鄉裏傳開，名人賢士紛紛前來祝賀。在人群中，有一個二十五歲上下的年輕人格外出眾，他就是袁世凱。此時袁世凱已經參軍多年，昔日的紈絝子弟早已變成訓練有素的官兵，他的到來，讓徐世光感到十分光彩。這個時候，袁、徐二人已經是多年的好友，他們的相識，要追溯到三年前。
光緒四年（1878年），袁世凱在河南陳州閑居，創立了“麗澤山房”和“勿欺山房”兩個文社，專門以文會友，一時間文人雅士雲集。第二年（1879年），徐世昌應邀到淮寧縣（今河南淮陽，屬陳州管轄）擔任文職。陳州袁端敏公祠有一個園子，閑暇時候，徐世昌到這裏遊園，恰逢袁世凱在園中讀書。看到徐世昌相貌堂堂，袁世凱覺得此人一定不俗，便殷切地前去攀談。袁世凱見對方談吐不凡，而徐世昌也覺得袁世凱見識廣博，兩人相見恨晚，遂成莫逆之交。正如曆史記載：
“郡城袁端敏公祠有園，暇往遊，適袁世凱慰廷讀書園中，見公狀貌偉岸，殷勤按晤，縱談當時之務，驚以為奇，因委心納交。”
徐世昌早年窮困，險些因湊不足盤纏而無法參加科舉。袁世凱見狀，多次資助徐世昌。光緒八年（1882年）科考之前，袁世凱送徐世昌百兩銀子，這才解了徐家的燃眉之急。有人說徐、袁二人的結盟是在袁世凱小站練兵的時候，實際上，他們的互幫互助早已開始。
徐世昌中舉後又參加了兩次科考，一次未中，第二次中進士，授翰林院編修，而弟弟徐世光未中。巧的是，在1882年參加科考之前，徐世昌因為擔心落榜，曾到京城前門外的一家廟中求簽，簽上寫有“光前裕後，昌大其門庭”，似乎恰與弟弟科舉名次比哥哥靠前，但最終是哥哥把徐家發揚光大相吻合。在這期間，徐世昌與袁世凱的來往日漸頻繁，而此時的袁世凱仕途並不得意。
徐世昌自被授翰林院編修之後，在京閑居九年。1894年，甲午中日戰爭爆發，7月，李鴻章率軍抵達平壤，然而，由於軍隊實力懸殊，清軍大敗。朝廷上下產生了以李鴻藻、榮祿為主的反對李鴻章的聲音。徐世昌一直密切關注時局，甲午戰爭爆發後，救國心切的徐世昌開始聯合各方力量，進行了彈劾李鴻章，支持張之洞、奕的一些活動。在這個過程中，徐世昌曾多次與袁世凱商討時局，他隱約感到袁世凱或許能擔當起拯救清政府的重任，於是時不時向朝廷推薦袁世凱。這一年，袁世凱從朝鮮歸國，不久就被派到天津督練新軍，而他之所以能以“拔貢生”的身份被朝廷派到天津督練新軍，除了他在朝鮮立下的戰功卓越之外，徐世昌也功不可沒。
而徐世昌人生真正的轉折點，是在放棄五品翰林之位投靠袁世凱之後。
光緒二十一年（1895年），剛剛在朝鮮立下戰功的袁世凱接替胡燏棻的位置，奉旨到天津小站擴練“定武軍”，更名“新建陸軍”。這是甲午戰爭之後清政府首次嚐試以西方模式訓練軍隊，小站也因此成了清末第一支近代化編練軍隊的誕生地，袁世凱早起的盟友也多是在天津小站彙集。
小站位於天津東南七十裏，遠離城區，周邊都是荒蠻之地，人跡罕至，鮮有人知。袁世凱來到小站之後，廣募新兵，聘用德國教官，全部采用西方新式武器，參考西方軍隊編製和操練方法，很快就建立起一支有別於清廷軍隊的武裝力量。這時候，徐世昌在朝中如魚得水，而袁世凱卻抱著絕對的信心，以一紙奏疏把徐世昌調到天津來。
1897年夏天，頭戴五品頂戴、身穿藏青朝服的徐世昌在北洋新軍官兵的簇擁下來到袁世凱麵前，這兩個兄弟已經好久不見，袁世凱顧不上寒暄，直接把徐世昌拉進廳內講起了他對新建陸軍的規劃。袁世凱神采奕奕地向徐世昌展示自己這兩年來的成績，並和他交流關於兵種設置、訓練方法、征兵標準、機構設置、軍製改革等方麵的想法，此時距離甲午戰爭已經過去了兩年，看著操場上訓練有素的士兵們，兩個正當年的男人仿佛看到了清朝的希望。
袁世凱邀請徐世昌加入，起初徐世昌還有些猶豫，但看了小站訓練出的精英部隊之後，徐世昌果斷放棄了在朝中的五品翰林身份，一心一意地投靠到袁世凱麾下，徐、袁二人正式結盟。
1897年秋，徐世昌應張之洞之邀請到武昌，先後參觀了很多近現代工廠、武備學堂及名勝古跡，大概受到袁世凱的影響，每每與人交談，總要提及軍隊改革的問題。年底，張之洞想挽留徐世昌，但徐世昌義無反顧地返回北方，選擇在小站和袁世凱一起實現他們的夢想。
徐、袁二人不僅性格互補，在治理軍隊的才能上也非常合拍。袁世凱偏武，負責統管軍隊操練，徐世昌則偏文，充當類似軍師的角色，“每日治牘外，閱各種操法，演試各種新炮，考校各學堂，仍乘間看書，研求戎略”。