徐世昌與袁世凱依別時，互道珍重，都盼望著不久就能“平定天下”，雙方再次攜手。令他倆都想不到的是，徐世昌到天津住了剛剛兩個多月，袁世凱就病倒了。
病危中的袁世凱打急電給徐世昌，請他務必來京見最後一麵。徐世昌匆匆來到總統府，見比自己還小四歲的袁世凱已經奄奄一息，由不得潸然淚下。
“菊人，你來了！來了，就好，好啊！”袁世凱斷斷續續地說。
“總統有什麼話，安排了我就去辦。”
袁世凱睜大眼，看了徐世昌很久，才喘息著吐出兩個字：
“約法！”
袁世凱自接過孫中山臨時大總統的桂冠，再到正式大總統，然後稱帝、廢除帝製，最後在一片討伐聲中死去，總共也就是不到五年的時間。可是，這其間卻“約”了兩部“法”。一部是孫中山等人為限製袁世凱的權力製定的舊約法，另一部是袁世凱為取得獨裁統治而製定的新約法。袁世凱生前隻認可新約法，他臨終前說的約法肯定指的也是新約法。
按照新約法規定，新總統由在任總統推薦，提出三個人名，寫下藏於金匱石屋中，待總統去世，取出來由受托取名單的人在這三人中推出一人任總統。
袁世凱去世後，徐世昌與段祺瑞、張鎮芳（袁世凱表弟）、王士珍等四人從金匱石屋中取出袁世凱寫下的預備總統名單，隻見名單上依次寫著黎元洪、徐世昌、段祺瑞三人的名字。
黎元洪當時實力並不是最強大，他也不是袁世凱的親信，為什麼就能排第一呢？關鍵是黎元洪在西南革命黨人中頗有聲望，而且如果按舊約法辦，總統去世後也應由副總統接任，黎元洪當時是副總統，理應接任總統。
現如今，南北戰事繃得正緊，袁世凱自己生前也無法解決，知道徐世昌自然也無法解決，不能獨掌眼前的危局。袁世凱對徐世昌了解頗深，知道他可做和平年代的總統，卻絕對做不了亂世中的梟雄。既然如此，自己死後由一位在南方中有聲望的人來接任總統，對結束南北戰爭，收拾戰亂的殘局顯然十分有利。
袁世凱就這麼想的，也就這麼安排了，真可謂是費盡了心機！徐世昌想著，沉思著。
在受袁世凱之托同去取遺囑的四人中，徐世昌當時是唯一的平頭百姓，可他的資格最老，聲望也最高，大家便都來請他發表意見。
徐世昌知道：麵前的這幾位，張鎮芳屬袁世凱稱帝的“幫凶”，眼下麻煩正多，能自保就不錯了，根本沒能力來爭總統大位；而一直以來被稱作北洋之“龍”的王士珍，為人做事都是謙讓當先，也不會來強爭這個總統高位；獨有段祺瑞，被稱為北洋之“虎”，做事獨斷專行，野心勃勃，絕對想爭這個總統來做。
就個人感情來說，徐世昌與段祺瑞自然近了許多，但憑徐世昌的經驗看，段祺瑞性格剛烈，與南方一直又有成見，值此南北緊張之時登上大位，隻會把局麵搞得更亂。更何況，還有袁世凱排下的順序放在那兒。
徐世昌把這些都細細地考慮了，最後才緩緩地說道：“現在南方獨立，收拾時局是一件極其艱難的工作，依我的愚見，根據《約法》，應該推舉副總統黎元洪來繼任。”
話說出來之後，徐世昌再不言語，隻靜靜地望著他們三位。
“相國以大局為重，不謀私位。收拾殘局，確實是黃坡（黎元洪）最相適宜。”王士珍首先附合說。
“確實，確實是！”張鎮芳也連忙表態。
段祺瑞此時的心情很複雜，雖然他一直都很敬重徐世昌，認為他的話也有道理，但還是心有不甘，有些留戀總統的高位，隻是此刻已經有兩位都表態了，四人當中，自己隻占其一，要想謀得總統大位，恐怕是不可能了。這麼想著，看徐世昌的目光罩在自己身上等著回話，這才匆忙地說道：“很好，相國說得好，我與相國的意見一致。”
總統一事有了著落後，徐世昌鬆了口氣。此刻他心裏知道，袁世凱這一死，國事更加難為，外麵有南北在相鬥，內部掌控京師的段祺瑞與在南方頗有聲望的黎元洪又一定有院府之爭。世道如此，自己還是再去做閑雲野鶴吧。徐世昌這麼想著，匆匆離開北京，又回水竹村隱居。
黎元洪做了大總統之後，一直受做總理的段祺瑞操縱著，心裏十分地不舒坦。倆人在對南方是和平解決還是武力解決的問題上分歧不能調合，矛盾越來越大。沒有辦法，隻好請他們共同認可的徐世昌出麵調解。