獨霸奉天
1912年（民國元年）11月，趙爾巽辭去奉天都督一職，由張錫鑾接任。這一人事變動，袁世凱是經過慎重考慮的。張錫鑾是他的老把兄弟，很是可靠。而且張錫鑾原在奉天任過奉天巡防營務處總辦，那時張作霖任前路巡防營統領，馮德麟任左路巡防營統領，兩人都是張錫鑾的老部下。這次老上司前來，他們總得給點麵子。這是袁世凱打的如意算盤。可是，今非昔比了。今天的張作霖已不是昨天的張作霖了。張錫鑾是１８４３年生，１９１４年他已是７１歲的老人了。麵對咄咄逼人的張作霖，他感到力不從心。
但這是袁世凱的一招棋。袁世凱對張作霖是不放心的。他對張作霖采取的是既利用又限製的策略。而張作霖也不是白給的，他對袁世凱的招數洞若觀火，便采取了既逢迎又反抗的策略。１９１３年３月２０日，袁世凱在密謀刺殺革命黨人宋教仁後，接著就對南方的革命黨人發起了進攻。
袁世凱為了有一個穩固的後方，便在北京首次召見了張作霖。袁世凱對張作霖說：“東三省形勢危險，全仗軍威鎮懾，賴以有今日之安寧。嗣後仍當振刷精神，為東三省人民謀幸福。本總統有厚望焉。”袁世凱讓張作霖感到升官有望，前途無量。張作霖立即表態，堅決照辦。張作霖這次以一個師長身份被袁世凱召見，在當時是絕無僅有的，這成了張作霖的一個政治資本。
張作霖沒把張錫鑾看在眼裏，對張錫鑾是表麵逢迎，暗地排擠。張作霖雖然隻是一個師長，但他手中握有兵權，且這一師的官兵隻聽他一個人指揮。再加上被袁世凱專門召見，因此，全省各界對張作霖都另眼相看。據記載：他家“成為全省政治中心，每日賓客如雲，文武官員都有。無論與張有無關係的事情，都與他相商或征求他的意見，事先必使他與聞。如趙爾巽擬請王永江為奉天民政司，張有不悅之色，趙即不敢提出。”張作霖儼然是東三省的太上皇了。
１９１５年，張作霖曾兩次赴京，“秘密接納政府要人，試圖運動繼任奉天將軍的職務”。這在當時的《盛京時報》都有報道，不是什麼秘密。對這種報道，張作霖沒有加以製止，他願意有這種輿論。其目的是想給張錫鑾造成一種壓力，以便逼迫張錫鑾自動要求調走。
在這種情況下，張錫鑾感到處境尷尬，再加上年邁體衰，就向袁世凱提出辭呈。１９１５年８月，張錫鑾被調走，任湖北將軍。張作霖排擠張錫鑾的目的達到了，但是，這個奉天將軍的位置沒有給他，而是給了袁世凱的親信段芝貴。張作霖還得等。
這個段芝貴是大有來頭的。段芝貴，字香岩，安徽合肥人，１８６９年生。北洋武備學堂出身，後留學日本。曾任袁世凱新建陸軍講武堂教官。１９１２年任武衛軍總司令。１９１３年授陸軍上將，任陸軍第一軍軍長。１９１４年授彰武上將軍，署理湖北軍務。他這次是和張錫鑾對調。１９１５年８月，授鎮武上將軍，節製奉天、吉林、黑龍江軍務，兼奉天巡按使，又封為一等公。此時他才４６歲，可以說是年富力強，閱曆豐富，頭銜繁多，翎頂輝煌。
最令人可畏的是，他有強大的後台。而且，他本身就是一個軍人。段芝貴不僅是袁世凱的心腹，他和張作霖還有一段交情。原來，在張作霖受撫時，段芝貴的父親曾出過力。從某種程度講，段芝貴有恩於張作霖。可見，袁世凱的這個安排，是煞費苦心的。
段芝貴走馬上任，隨帶衛隊一團，但留在京畿灤東一帶，隻帶少數人來奉。到奉天時，就下榻於張作霖第二十七師的司令部，以表示對張作霖的信任。張作霖深知段芝貴的來曆，知道不能硬碰，必須韜光養晦，待機而起。因此，對段芝貴極盡逢迎之能事，甚至“不時搜購珍貴古玩，饋送段父，以買其歡心”。
在袁世凱稱帝的關鍵活動中，張作霖更是進行了露骨的表演。他積極支持段芝貴。在奉天舉行國民代表大會，投票表決國體問題時，張作霖帶著大隊人馬，荷槍實彈，監視投票，結果全部投票讚成君主製。當段芝貴聯合廣東龍濟光等２４省將軍，密呈袁世凱“速登大位”之時，張作霖也不甘人後，密電袁世凱勸進。又表態道：“如帝製不成，死不再生。”張作霖就是這樣的以罕見肉麻的行動支持袁世凱恢複帝製。
１９１５年１２月１２日，袁世凱甘冒天下之大不韙，自稱皇帝，當即遭到全國的反對。同年，１２月底，逃出北京的蔡鍔在雲南組織護****，首先舉起反袁的大旗。此後，各省相繼宣布獨立，起兵討袁，一致要求取消帝製。在四麵楚歌之時，袁世凱想到了向他表忠的張作霖，他要求張作霖出兵湖南，並許諾以後可以封公封侯。這是袁世凱最後的一棵救命稻草。
袁世凱對部下封爵時，曾封張為二等子爵，照袁頒爵時的普遍習慣，中將階級的師長和鎮守使，都隻授輕車都尉，張作霖以一個師長而獲二等子爵，就表示袁破格籠絡他。然而張自以為對洪憲帝製出過大力，竟不能封侯，遂大失所望，即日遞呈請假。當時所謂請假，便是辭職的先聲，辭職又是自由行動的初步。所以嚇得段上將軍親自踵門探疾，而張作霖卻閉門擋駕。袁想調虎離山，征求張做綏遠都統，張當然是一口拒絕，他怎會離開他的老窠奉天呢。
張作霖看到袁世凱大勢已去，便決心反袁。但是，他還是表示聽袁調遣，以便騙取餉械。待餉械到手後，他突然變臉，來了一個一百八十度的大轉彎，提出了“奉人治奉”的口號，表示不能離開奉天。
這時，全國反對帝製的呼聲異常強烈，袁世凱不得不於１９１６年３月２３日宣布取消帝製。但他仍然竊據民國總統的寶座，借以發號施令，企圖鎮壓反對派。
此時，二十七師師長張作霖和二十八師師長馮德麟相互勾結，導演了一場驅段的鬧劇。馮德麟為張作霖出主意：“段芝貴是清末官吏敗類，穢史劣跡人所共知，今為東三省帝製禍首，仍然居奉天人士之上，我輩絕不甘心，應該驅逐他。”張作霖問用什麼方法。馮德麟胸有成竹地說：“這個不難。由我們二十八師演黑臉，和他作正麵衝突。由二十七師演白臉，用嚇字訣逼他畏罪逃走。這樣演一幕不費一兵一文的滑稽戲，豈不妙哉！”張作霖鼓掌讚成說：“讓各方麵的人也知道奉天人是不好惹的！”