張作霖雖然也和曹錕一樣，早就覬覦大總統的寶座，但他深知目前還未到自己君臨全國的時候，暫時還隻能在幕後操縱北京中央政府。他決定采取擁護段祺瑞上台執政的策略。這基於多方麵的考慮：其一，段祺瑞是北洋派的元老之一，資曆比他和馮玉祥都要老，不但馮玉祥不好反對，其他各派軍閥也難有非議；其二，在張作霖與段祺瑞結盟反直時，彼此實際上已有默契，即推翻直係後張將擁段上台；其三，張作霖與段祺瑞都是親日派，此次反直成功，又都得到了日本的支持。而日本希望戰後由段祺瑞組織一個親日的中央政府，張作霖當然不能無視日本的意向；其四，張作霖與段祺瑞在思想政治方麵比較一致，“臭味相投”，與孫中山、馮玉祥都不同；其五，也是最重要的一點，段祺瑞本人已沒有多少實力，他上台後，不能不仰承張作霖的鼻息，便於張作霖進行操縱。一旦形勢有變，張作霖很容易將其踢開，或換馬，或由他自己取而代之。可見，張作霖的算盤打得是相當精的。
打定主意後，張作霖便電邀馮玉祥同到天津，與他和段祺瑞舉行三人會晤。1924年11月10日，三人在天津日租界段祺瑞的私宅如期會晤。張作霖首先提議，擁護段祺瑞重新上台，擔任中華民國臨時總執政。段祺瑞自1920年下野以後，無時無刻不在夢想著東山再起，奉張的提議當然正中其下懷，隻在嘴上略表謙讓之意。至於馮玉祥，他雖然心裏傾向於擁孫，不讚成擁段，卻難明說，一來礙於段祺瑞的麵子，二來馮玉祥一時也想不出站得住腳的理由。結果三人會議一致通過了張作霖的提議。
會後，張作霖、段祺瑞、馮玉祥先後進京，並正式宣布推舉段祺瑞為“中華民國臨時總執政”。11月24日，段祺瑞正式宣誓就職。
根據後來公布的臨時政府組織條例，臨時政府既無總統，也沒有總理，隻設“執政”一職，故這個所謂的“執政”，兼了總統和總理兩大要職，既是國家元首，又是內閣閣揆。不過，以“臨時執政”代總統、總理，也反映出臨時政府過渡和非正式的性質。而且，對於段祺瑞和張作霖來說，用“臨時執政”的名義，既可以省卻正式選舉總統，確定總理的許多麻煩，又不影響其行使權力。
對於張作霖而言，匆忙扶段上台還有另一個目的，就是抑製孫中山，由於“三角同盟”的關係，打敗直係以後，表麵上張作霖不得不同孫中山繼續周旋。因此，在馮玉祥電請孫中山北上共商國是之後，張作霖和段祺瑞也不得不向孫中山致電發出邀請。然而，在如何治理國家的問題上，張、孫兩人毫無共同之處。尤其是在孫中山確定了聯俄聯共的政策，並在共產黨人的幫助下，下決心開展反對帝國主義和反對封建軍閥的鬥爭之後，孫中山與張作霖的距離更是越來越遠。道不同不相謀，張作霖從原來的聯孫轉為抑孫、反孫，就不足為奇了。
對張作霖的居心，孫中山洞若觀火。他對張作霖和段祺瑞並不抱幻想。但孫中山明知山有虎，偏向虎山行。他不計較個人的地位得失，毅然決定仍按原計劃經上海、日本北上，目的是要通過北上之行，大力宣傳國民黨的革命主張。因此，他不但在《北上宣言》中，而且在沿途的一係列講演中，宣傳這些主張。孫中山說：“十三年來，軍閥本身有新陳代謝，而其性質作用，則自袁世凱以至曹錕、吳佩孚，如出一轍。故北伐之目的，不僅在覆滅曹、吳，尤在曹、吳複滅之後永無同樣繼起之人，換言之，北伐之目的，不僅在推倒軍閥，尤在推倒軍閥所賴以生存之帝國主義。”孫中山的基本主張，概括地說，主要是兩句話，一是廢除不平等條約，反對侵略中國的帝國主義；二是召開國民會議，根除軍閥統治。
當孫中山帶著這些革命主張於12月初抵達天津時，張作霖毫不掩飾地表白了對這些革命主張的仇視。孫中山一到天津，出於禮貌，首先到曹家花園拜訪張作霖。一見麵，張作霖就對孫中山揚言說：“孫先生，我是粗人，坦白言之，我是捧人的，我今天能捧姓段的，就可捧姓孫的，惟我隻反對共產，如共產實行，雖流血所不辭。”張作霖以反“共產”為借口，抵製孫中山反帝反軍閥的革命主張。第二天，張作霖又乘回訪孫中山的機會，再一次兜售他的反動觀點。他勸孫中山不要反對外國人，因為外國人都不是好惹的，而各國公使非常反對聯俄聯共政策，希望孫中山放棄這個政策。他說：“你們有學問的人理想太高，當心俄國人與共產黨不可靠，要小心上當。”張作霖還表示，他可以代孫中山同外國人疏通，並大包大攬地說：“這件事包在我張作霖一人身上，一定可以成功。”聽了張作霖的這番話，孫中山真是哭笑不得，但由於身體不適，未與張作霖當麵爭辯。很快，孫中山即因旅途勞累而肝病複發。此後，他就沒有再同張作霖會過麵。
為了進一步抵製孫中山，張作霖又夥同段祺瑞針鋒相對地提出“外崇國信”和召開“善後會議”兩項主張，以同孫中山的“廢除不平等條約”和召開“國民會議”的主張相對抗。這兩條的實質，說穿了就是要繼續維護帝國主義在中國的侵略利益，繼續維護封建軍閥的統治。
1925年3月，孫中山因病醫治無效，不幸在北京與世長辭。盡管由於張作霖和段祺瑞的阻撓，孫中山這次北上未能使自己的革命主張得到貫徹，但經過他的努力宣傳，這些革命的主張在廣大民眾中間，畢竟產生了巨大的影響。
在捧段抑孫的同時，張作霖也對馮玉祥大加排斥。照理，馮玉祥發動北京政變，對奉係戰勝直係作出了直接貢獻，戰後張作霖至少應在一段時間裏同馮玉祥繼續合作。然而，硝煙剛散，張、馮之間便開始發生矛盾，戰時的同盟關係很快就被尖銳的對立所代替。原因非常簡單：第一，張作霖與馮玉祥的政治主張截然不同。馮玉祥因為受到孫中山革命思想的影響，在政治上比較傾向孫中山，他在發動北京政變、幽禁曹錕之後不久，便首先電請孫中山北上。而張作霖、段祺瑞對馮玉祥的做法，卻很不滿意。在他們看來，馮玉祥如與孫中山結合起來，南北呼應，將給他們造成莫大的威脅。因此，張作霖力主擁段，既以此抑製孫中山，也破壞馮玉祥的計劃。馮玉祥雖因實力不足最終被迫作出妥協，但心裏不服。第二，張作霖和馮玉祥都想擴展自己的實力和地盤，雙方衝突在所難免。馮玉祥之所以倒戈反吳，除受到孫中山思想的某些影響外，更重要的是出於對吳佩孚奪其地盤、限製其發展的不滿。故在倒戈之後，馮玉祥也想乘機擴張自己的勢力。他在發動政變前，就曾向張作霖提出過奉軍不入關的要求，目的也是為了在推翻曹錕、吳佩孚之後，自己能控製京、津和華北的大部分地區。不料，張作霖當時雖然一口答應，事後便食言，不但將大批奉軍調進關內，而且對馮玉祥步步進逼，將京津的大部分地區據為己有，矛盾和衝突由此產生。盡管開始時段祺瑞曾居間調解，劃分了奉、馮兩軍的勢力範圍，規定奉係沿津浦鐵路向南發展，而馮軍則沿京漢鐵路發展，但這隻是暫時的一種緩衝，矛盾並未得到真正解決。張、馮之間日益貌合神離。尤其是張作霖，自恃奉係實力雄厚，根本不把馮玉祥放在眼裏，千方百計地予以排斥。有關北京政府的大事，基本上都由張作霖作主、段祺瑞附和，而馮玉祥則隻好妥協。部分奉係將領甚至主張乘馮玉祥赴津開會時將馮殺害，致使馮玉祥國民軍的將領嶽維俊、鄧寶珊等人也想乘張作霖到北京、隨從兵力不足之機，將張作霖暗殺。盡管這兩起暗殺動議均因張作霖、馮玉祥不允而未成事實，但奉、馮兩軍對立情緒之嚴重，由此可見一斑。