大姨太在旁雙目噙淚哀求：“張師長，您幫人幫到底，送佛送到西天啊！”
張作霖無奈地說：“我對馮德麟說：你要抓段將軍，你就先把我撂倒了，從我的屍首上邁過去！他一看我真玩命啦，就說放段芝貴走行，可得把公款留下！我說那可不行！”
段芝貴雙眼一亮，道：“行！行！隻要他讓我走！所有的錢都給他留下！”
張作霖裝出一臉不忍的神色：“這不行！你老這些年來……”
這會兒，反而是段芝貴來開導張作霖了，說：“留得青山在……”
張作霖點頭：“也對！隻要有我張作霖在奉天，你老多綹回來，我都給你老保駕……”
段芝貴歎氣道：“奉天我是回不來了！事情鬧成這樣，明天各家報紙都得登出來我攜款潛逃！我哪還有臉回來？”
張作霖單腿跪地，一臉的沉痛和難舍難分：“事情過去就沒事啦！你老多多保重！進京見到大總統，替我向大總統問安！我張作霖在這祝他老人家福壽康寧。”
段芝貴忙道：“快請起。我一定要把張師長忠勇盡職的情形，麵奏皇上……大總統！”
當下，張作霖下車走到馮德麟跟前。段芝貴從車窗看見，張作霖對著馮德麟說了些什麼。馮德麟便把邱團長叫來吩咐了兩句。於是，邱團長吹起口哨，所有的士兵從火車上下來，麵對火車排成一字長蛇陣。火車鳴笛起動，慢慢開走了。
包車廂的段芝貴流出了感激的淚水，想著患難之時，乃見真情，心裏對張作霖大是感激。
段芝貴受此重創，還蒙在鼓裏，一直以為是馮德麟和他作對，到京複命時，自然向袁世凱說了很多馮德麟的壞話；但對張作霖卻印象頗佳，以為是張作霖救了他一命。這是張作霖的精明之處。段芝貴在離奉時，讓張作霖暫代他的本兼各職。
段芝貴被驅逐了，已經不能再回來了。袁世凱思忖，如果再派一個外省的大員督奉，一定不會有好下常因為這時，奉天保安會參議總長袁金鎧等人已經草擬了《奉天保安會章程》，並且唆使省議會正副議長等人倡立自治期成會，大造輿論，宣傳“奉人治奉”的口號，明白無誤地反對中央派外省人治奉。
袁世凱被逼無奈，隻得在奉省選人。在當時情況下，隻有張作霖和馮德麟兩人可以考慮。袁世凱征求了段芝貴的意見，段芝貴對馮德麟恨之入骨，對張作霖推崇備至。袁世凱也是這個看法。最後，袁世凱於1916年4月22日下令，命張作霖為奉天盛武將軍督理奉天軍務兼奉天巡按使。就這樣，張作霖經過幾年的權謀角鬥，取悅袁世凱，排擠張錫鑾，驅逐段芝貴，終於登上了奉天省督軍的寶座。從此，他便成為奉天省軍政的最高統治者。
袁世凱在全國軍民的一片聲討中，於1916年6月6日病死。按《臨時約法》的規定，原副總統黎元洪於6月7日就任大總統。黎元洪宣布恢複國會，進行地方官製改革，將軍改為督軍，巡按使改為省長。因此，張作霖於7月6日又改任奉天督軍兼奉天省長。
10月30日，江蘇督軍馮國璋當選為副總統。11月8日，馮國璋在南京府邸宣布就任副總統。1917年7月6日，張勳複辟失敗後，馮國璋在南京宣布就任代理大總統，同時免去李經羲的國務總理職，正式任命段祺瑞為國務總理。8月1日，馮國璋北上抵達北京。8月4日，馮國璋宣布在北京行使代理大總統職權。1918年10月去職。1919年12月8日，馮國璋病逝於北京。
奉天省是東三省位在第一的大省，奉天市是奉天督軍和奉天省長的所在地，是東三省的政治、軍事、經濟的中心。張作霖占據這個位置，就為以後做東三省之王打下了堅實的基矗現在的官職，是他以後成為東北王的關鍵一步。
張作霖雖然當上了奉天督軍，但是他還沒有真正地全部掌握奉省的軍政實權。其主要的障礙是來自他原來的老搭檔馮德麟。張作霖和馮德麟的關係，在張作霖任奉天督軍前，還是和諧的。張作霖對馮德麟采取了又打又拉的策略，終使馮德麟就範。
馮德麟，字閣忱，又名麟閣，1866年（一說1868年）生，奉天省海城人。17歲當胡子，流竄各地，漸有聲名。1900年7月，沙俄以鎮壓義和團運動為名，出動十萬大軍，分七路入侵東北，燒殺搶掠，無惡不作。清政府無能，百姓自保，鄉團興起。1900年馮德麟在遼陽組建大團，得到奉天的批準，成為合法化的一方勢力。由於馮德麟堅持抗俄，保護百姓，漸得人心，來歸者眾。不久，馮的隊伍擴大至數百人，各幫頭目自稱一百單八將。
他們的抗俄行動引起沙俄侵略軍的警覺，沙俄侵略軍對馮德麟發動了一次突襲，將馮抓獲，放逐到庫頁島。兩年後，他僥幸逃回。日俄戰爭時，他自然倒向日本一邊，幫助日本侵略軍打擊沙俄侵略軍。日本勝利後，經日本少將福島的保薦，東三省總督趙爾巽考慮到地方的安全，便招撫了馮部。由此，馮德麟漸升至巡防營左路統領（旅長），駐北鎮。
那時，張作霖任巡防營前路兼中路統領，駐奉天。那時，他們就產生了些許猜忌，但矛盾不大。1912年，巡防營改編為陸軍。9月1日，中央任命張作霖為第二十七師師長，陸軍中將，駐奉天；任命馮德麟為第二十八師師長，陸軍中將，仍駐北鎮。他們二人，雖然平起平坐，但由於駐地不同，且兵力差別很大，自恃前輩的馮德麟便甚感不快，由此裂痕漸深。但他們在驅段的問題上，利益卻很一致，因此，有了暫時的默契合作。
然而，他們之間的矛盾終於激化。1916年4月22日張作霖被任命為奉天將軍兼奉天巡按使，馮德麟大為不滿。因為馮德麟被任命為奉天軍務幫辦，這個官位是“職居張氏之下”的。張作霖是正職，馮德麟是副職。馮德麟當時50歲，張作霖是41歲。而馮德麟在張作霖麵前，總是以綠林前輩自居。聽到這個任命，馮極為憤怒，罵道：“他媽的！雨亭這小子！”思來想去，怎麼也咽不下這口氣，便拒絕接受這個任命。
足智多謀的張作霖知道，對這位自視甚高的前輩，不能來硬的，必須使軟招。因為馮還有一個師的兵力，得罪不得。於是，他親自登門拜見，低三下四地同馮德麟拉關係，請馮德麟就職。馮德麟擺出前輩的架勢，提出了一個就職條件，軍務幫辦要在奉天單獨成立一個公署，其編製同將軍公署相同。這就是說，要同張作霖分庭抗禮。張作霖自然不能接受這個條件。
張作霖把這個難題推給了袁世凱，讓袁替他解決。袁世凱回電，不同意設軍務幫辦公署，但每月可以給15萬幫辦辦公費，以圖收買馮德麟。但馮拒絕接受，帶兵回到北鎮駐地。袁世凱特派他們原來的老上級張錫鑾來奉調解，馮不給麵子。張作霖隻得又派五十四旅旅長孫烈臣，攜帶大宗禮品和30萬元巨款到北鎮慰問馮軍，進一步請馮到省城就職。
1916年5月20日，馮德麟突率步、馬、炮五個營聲勢煊赫地開進奉天，並在風雨壇設立了第二十八師駐奉辦事處。張作霖當晚急忙為之設宴洗塵，馮既不赴宴，也不回拜。張作霖無法，隻得把宴席搬到馮的辦事處來，又召來歌妓陪酒，但馮仍不滿意。馮提出讓省財政廳給他撥款50萬元購買飛機，並致電袁世凱，要求增加7個營的兵力，同時，在北鎮設立奉天軍務幫辦公署。馮隻在奉天住了一天，就回北鎮去了。
張作霖對這個無理取鬧的老把兄低三下四，委曲求全。他趕緊為馮在奉天修建二十八師辦事處，又派軍署秘書長楊宇霆到北鎮去特請馮回奉天省城。6月6日，馮回到了省城。但馮提出了三個條件：一是幫辦權力和將軍完全相等，二是用人行政相互谘詢，三是撥款20萬元給二十八師購買飛機。對這些苛刻的要求，張作霖當然不能答應。
袁世凱死後，馮進一步要挾，二十八師全體將士向段祺瑞內閣總辭職。段祺瑞曾派趙爾巽來奉解決問題，但也是無功而返。1917年3月，馮又回到北鎮駐地，待機而動。在這期間，張作霖的部下五十三旅旅長湯玉麟又同馮德麟相勾結，企圖倒張。張作霖在國務總理段祺瑞的支持下，罷免了湯玉麟的旅長職務，以張景惠代之。段祺瑞又揚言要派兩個師來幫助張作霖討伐馮德麟，馮感到處境不妙，就回到北鎮，暫時沉默下來，伺機而起。
這時在北京上演了一出張勳複辟的醜劇。張勳，原名和，字少軒，江西奉新人，1854年生。1913年任江蘇都督。1913年12月至1917年任長江巡閱使，駐徐州。1916年7月，任安徽督軍。1917年6月，趁黎元洪和段祺瑞的府院激爭之時，率他的辮子兵定武軍從徐州出發，進京調停。
張勳是個極端反動的封建餘孽，醉翁之意不在酒。進入北京後，迫使黎元洪辭職。他借機和康有為一起，於7月1日，擁戴小皇帝溥儀登基，自任內閣議政大臣兼直隸總督、北洋大臣，清朝儼然複辟了。
在這期間，於6月中旬，張勳電召馮德麟入京。馮德麟未加思考，以為事成之後，會當上奉天督軍，就派先遣隊200人急馳入京，自己則於20日率衛隊30人赴京。到京後，立即會晤張勳，表示完全支持張勳的複辟行為，並命令他的二十八師火速進京“讚襄複辟，保衛皇室”。他急不可待地晉謁了溥儀，溥儀賞賜他“穿黃馬褂，紫禁城內騎馬，禦前侍衛大臣頭銜”。馮十分得意。
但這場醜劇，僅維持了12天。7月12日，辮子兵天壇之戰，全軍潰敗。這場醜劇，就在全國的一片反對聲中收場了。張勳逃進了荷蘭大使館。馮德麟事先感到不妙，於7月10日率隊200人，著便裝乘火車回奉。路過天津時被扣，被押回北京。14日，段祺瑞進入北京。8月15日，宣布馮德麟“因背叛共和，罪跡昭彰，剝奪一切官職和勳位，並交付法院依法嚴懲”。段祺瑞本來對馮德麟就沒有好感，這時怎能輕饒了他。馮德麟的第二十八師師長、陸軍中將等一切官職和勳位都被剝奪，成了不折不扣的階下囚。
對待張勳複辟，張作霖很是謹慎。對張作霖來說，無所謂共和與保皇，隻看這件事情是否對己有利。他是個十足的機會主義者，他的政治嗅覺十分敏銳，很會觀測風向。 本來張勳和張作霖關係非同一般，是來尋求張作霖支持的，因為他們是兒女親家，但張作霖沒有輕舉妄動，而是坐山觀虎鬥。段祺瑞在組織討逆軍之前，張作霖看到讚成複辟者極少時，就確定自己必須站在段祺瑞一邊。他當機立斷，馬上發表宣言，反對複辟。在這個問題上，機敏的張作霖取得了主動。
段祺瑞馮德麟在北京被囚，急電張作霖求救。張作霖完全可以落井下石，起碼不予過問，但張作霖沒有這樣做，他反而不念舊惡，積極營救。這是張作霖的非同尋常之處。張作霖之所以這樣做，不僅是出於綠林義氣，也是有意做給馮德麟的部下看的，以便爭取馮的部下。
張作霖當即致電段祺瑞，請求釋放馮。並且，又以二十七師、二十八師、二十九師各旅、團、營長的名義，電請段祺瑞釋馮。還以遼西16縣士紳的名義，向段祺瑞請願，希望從寬處理馮。段祺瑞在探知張作霖的真意後，於10月15日就釋放了馮德麟，判決“參與複辟證據不足，因吸食鴉片罪罰金八百元”。這是一個象征性的輕微處罰。此後，張作霖又電請段祺瑞發還馮德麟的勳章和勳位，段祺瑞照做。為籠絡馮的部下，段祺瑞又授予馮德麟總統府高等侍從武官。
事後不久，段祺瑞任命馮德麟為山陵守護大臣，馮便回到奉天。山陵是指包括長白山和清入關以前三代之陵。長白山是清朝的發祥地。三陵，一為永陵，在撫順新賓，是順治帝曾祖輩的墓地；二為福陵，在今沈陽之東25裏，是清太祖努爾哈赤的墓地；三為昭陵，在今沈陽之北，是清太宗皇太極之墓地。
這個大臣的職位，馮德麟還比較滿意。雖然這是一個有職無權的閑差，但因為畢竟是大臣，而且還管轄很多官地，不僅名聲好聽，還可以撈到許多錢。在全國一片聲討複辟禍首之時，張作霖竟然不避嫌猜，敢於為馮德麟請願，馮德麟對此不能無動於衷。經此磨難，馮德麟再也不作他想，而是老實過他的晚年生活了。1926年8月11日，馮德麟病死。
馮德麟被捕後，張作霖就接收了二十八師，自兼師長。後把原二十八師的旅長汲金純提升為師長。掃除了馮德麟這個障礙，張作霖才真正地掌握了奉天省的軍政實權。在對馮德麟的問題上，張作霖的又打又拉的策略起了重要作用。
張作霖對隻掌握奉天省的軍政實權，仍不滿足，他的政治野心很大。其近期目標是奪取東三省的統治大權，故首先把矛頭對準了黑龍江剩當時的黑龍江將軍是朱慶瀾。朱慶瀾，字子橋，浙江紹興人，1875年生。曾任職奉天督練公所巡警總局，第十七鎮鎮統。1912年，任黑龍江督署參謀長。1914年，加陸軍上將銜。同年改署巡閱使並升任黑龍江將軍，是黑龍江的最高統治者。朱慶瀾當年在奉天時，很看不起張作霖，兩人由此結怨。朱慶瀾也不會聽張作霖指揮，張作霖便想擠走他。
但袁世凱很信任朱慶瀾，擠走朱也並非易事。此時駐黑龍江的是陸軍第一師，師長是許蘭洲。許蘭洲，字芝田，河北南宮人，1872年生。湖南陸軍學堂畢業。袁世凱在天津小站練兵時，因其會武術，曾任職袁世凱衛隊，而受袁世凱信任。1908年，任黑龍江巡防營第二路統領。1914年，任黑龍江省陸軍暫編第一師師長。當時，許蘭洲經常來沈陽，張作霖就把他奉為上賓，並且拜了把兄弟。因許蘭洲年長，張作霖就稱他為大哥。一次，張作霖對許蘭洲說：“大哥，你在黑龍江如果有什麼行動，需要款子，我可以把原打算還日本的3萬元外債晚一點兒還，挪給你用。”