沿津浦線從起點到終點，段祺瑞一路上的心神不寧自不待言。且不說當年在保定他與蔣氏到底有多少交情，就憑傳聞中蔣氏的處世手段強悍且陰鷙，就難免令他忐忑。作為被推翻的“反動政府”的頭號“大軍閥”，反對中國“赤化”的最高統治者，他曾空前絕後地以國家最高名義（執政令）通緝過國民黨北方領袖們，除了一個跨黨的共產黨人李大釗後來死在張作霖手中外，其他幾位南下後都是“黨國”大員，且多是部長級人物了，他們會不會秋後算賬？更讓段氏擔憂的是，“九一八”事變以後，臭名昭著的日本駐奉天特務機關長土肥原賢二曾幾番去他家拜訪，而他也專程到北平醇親王府與遜清皇帝溥儀見過一麵——本來他與溥儀同住天津日租界的同一條街上，隻因一個是前朝的國君，一個是前國家元首，雙方誰也不願屈尊到對方府邸作訪客，遂經手下人磋商，改為北平會晤。到前朝攝政王、溥儀的父親家裏相見，算是段氏讓了一步。雖說大特務土肥原賢二勸他出麵組織華北偽政權的遊說被他直言拒絕（此公從來不會婉言待客），雖說與少不更事的溥儀的會麵因對方的擺譜而匆匆結束（段的親信說，溥儀還以為是皇上召見湖廣總督呢！），但憑蔣的多疑與其手下軍統人員的精幹，這幾樁極有可能是“通敵”證據的行為難保不給他惹上殺身之禍！後來，當過北洋政府首任總理的唐紹儀，就因在上海租界裏與日本軍方頻繁接觸而被蔣氏猜疑，竟下令軍統特工將其“製裁”！如今，溥儀已經被土肥原賢二忽悠到東北去了，日本人攛弄北洋各派人士鬧“華北自治”的風聲一陣緊似一陣，蔣氏接自己到他身邊，何嚐沒有就近約束甚至劫持之意？像太多的國人一樣，老段聽多了蔣氏殺人如麻的“正麵”傳聞，卻不識此人也有宅心仁厚的一麵。
令段氏萬萬想不到的是，浦口站台上，國民政府為他舉行了隆重的歡迎儀式！寒風中，立著烏壓壓一片列隊歡迎他的人，領章金閃閃的國軍將領占了一半！原來，蔣委員長有令：所有在京少將以上軍人，一律過江迎接“三造共和”的段祺瑞老先生！於是，浦口車站上出現了空前絕後的一幕——首都的將軍們全體過江列隊，隻為迎接一個人，一個手中無一兵一卒的下野了的老人。
歡迎儀式結束後，這位尊貴的乘客與家人、部屬被迎上了渡江的專艇。南京長江上有大橋，是幾十年以後共和國時期的事了。有大橋以前，所有南下過江的旅客，無論身份貴賤，都隻能在浦口站下車，然後，換乘輪渡過江，再繼續前行。
專艇抵達下關碼頭後，當他被人攙扶著走出船艙時，見到第一個登船迎接的人，竟然是一身戎裝的蔣誌清同學！
二十多年未見過的學生，快步趨前恭行軍禮向老校長致敬，並親自攙扶著他介紹起諸位迎賓者。其著名的美麗的夫人宋美齡隨之上前笑吟吟地對“芝泉老”表示歡迎。再是如過江之鯽一般的黨國袞袞諸公上來或作揖或行軍禮向老人致敬……
當晚，蔣委員長偕夫人為他的回歸舉行了盛大的歡迎宴會，文武百官共同把盞，熱烈歡迎寄身天津日租界的民國元勳回到祖國的懷抱。次日，國民黨《中央日報》以《共和勳臣段芝泉氏蒞京》的大字標題報道了此事。
精明的蔣委員長顯然在借老段南下一事來打擊日本人的氣焰，並借老段的號召力召回更多留在北方的北洋軍政名流。
老段雖遠離政壇，但畢竟是政治家，他知道他的國家需要聽到什麼樣的聲音。所以，在歡迎儀式上，他向記者散發了對時局的書麵談話：
（前略）當此共赴國難之際，政府既有整個禦侮方針和辦法，無論朝野，皆應一致起為後援。瑞雖衰年，亦當勉從國人之後。……
抵達“黨國”中心的前“反動軍閥頭子”深知，成王敗寇，現在他的學生最需要他做什麼。於是，他主動提出去謁中山陵。
他知道，自己最讓國民黨人惱怒的，不光是他最後一次出山時通緝過他們在北方的領導人，更因他慢待了他們的終身總理孫中山。
孫中山抱病北上並逝於北京，都與他有關。民國十三年（1924年），為推翻直係政權，南方的割據政權孫中山和實力雄厚的奉天張作霖（時稱“奉張”）同時找到他，推他為盟主。他則派心腹徐樹錚前往桂林與孫氏會麵。由是，段孫張三角同盟結成。是年秋，借江浙戰爭之際，奉軍率先入關挑戰直軍，直係靈魂人物吳佩孚直接上陣指揮直軍反攻奉軍。戰事正在山海關前線膠著之際，被三方花錢買通的直軍第三方麵軍司令馮玉祥猝然倒戈，回師北京發動政變，直軍由此大敗，大總統、直係首領曹錕成了中南海裏的高級囚徒，吳佩孚從天津登船南逃，三角同盟奪取了軍事與政治的全麵勝利。因孫中山遲遲未能北上，本著“國不可一日無君”的治國慣例，段氏便在馮玉祥與張作霖的聯袂勸說下重返京城，以“臨時執政”的名義，擔任了過渡時期的國家元首。到任後，他力邀孫中山盡早到京，與“奉張”、馮玉祥共商國是。