張作霖深感正和吾意，兩人一拍即合，便開始行動。張作霖布置軍隊於某夜開槍，然後假意到段芝貴處報告，說馮德麟要率二十八師部隊進城，懲辦帝製禍首段芝貴。張作霖表示自己無法製止。段芝貴聽後，十分緊張。張作霖借機勸段芝貴避一避，段感到這是一個好辦法。經電請中央批準，段芝貴便乘機攫取巨額官款和若幹軍火，乘一列專車赴津。
這一切，均在張作霖和馮德麟的掌握之中。但他們佯裝不知，還特派五十四旅孫旅長率一營兵護送。他們隨後布置二十八師汲金純旅的一個團在溝幫子車站攔截了該列火車。團長邱恩榮上車，以奉天軍民的名義，交電報兩封，內稱：“卸任上將軍段芝貴為帝製禍首，奉天人民正擬處以應得刑罰，竟敢手攜省官款二百萬之巨並軍火大宗，聞風畏罪潛逃，沈陽人民無不發指痛恨，電請汲旅長派兵就近截留押赴沈陽，依法處理。”而且，士兵又擁到站台上，劍拔弩張，一觸即發。
段芝貴把電報拿給孫旅長看，孫旅長看罷，大聲不滿地說：“豈有此理，等我問問。”即下車到票房同邱團長談話。段芝貴見孫旅長許久不回，驚慌失措，立即下令把官款和軍火卸下，堆在站台上。孫旅長上車後報告說：“沈陽各界人情洶洶，一定要截留專車押回沈陽，經張代督婉商多時，才答應不扣專車，但官款和軍火務須點清留下，並電請中央查辦。”段芝貴連忙點頭認可，下令交由邱團長清點帶回。
張作霖的目的已經達到，見好就收，段芝貴即被放行。仍由孫旅長率一營兵護送到天津，後避居租界。段芝貴就這樣灰溜溜地逃出了奉天。
段芝貴受此重創，還蒙在鼓裏，一直以為是馮德麟和他作對。到京複命時，自然向袁世凱說了很多馮德麟的壞話。但對張作霖卻印象頗佳，以為是張作霖救了他一命。因為當段芝貴離奉時，張作霖還假惺惺地到車站歡送，並送給了段氏父子大批禮物。這是張作霖的精明之處。段芝貴在離奉時，讓張作霖暫代他的本兼各職。
段芝貴被驅逐了，已經不能再回來了。袁世凱思忖，如果再派一個外省的大員督奉，一定不會有好下場。因為這時，奉天保安會參議總長袁金鎧等人已經草擬了《奉天保安會章程》，並且唆使省議會正副議長等人倡立自治期成會，大造輿論，宣傳“奉人治奉”的口號，明白無誤地反對中央派外省人治奉。
袁世凱被逼無奈，隻得在奉省選人。在當時情況下，隻有張作霖和馮德麟兩人可以考慮。袁世凱征求了段芝貴的意見，段芝貴對馮德麟恨之入骨，對張作霖推崇備至。袁世凱也是這個看法。最後，袁世凱於１９１６年４月２２日下令，命張作霖為奉天盛武將軍督理奉天軍務兼奉天巡按使。就這樣，張作霖經過幾年的權謀角鬥，取悅袁世凱，排擠張錫鑾，驅逐段芝貴，終於登上了奉天省督軍的寶座。
張作霖達到了覬覦多年、夢寐以求的目的。從此，張作霖成為奉天省軍政的最高統治者。
袁世凱在全國軍民的一片聲討中，於１９１６年６月６日病死。按《臨時約法》的規定，原副總統黎元洪於６月７日就任大總統。黎元洪宣布恢複國會，進行地方官製改革，將軍改為督軍，巡按使改為省長。因此，張作霖於７月６日又改任奉天督軍兼奉天省長。
奉天省是東三省位在第一的大省，奉天市是奉天督軍和奉天省長的所在地。奉天市是東三省的政治、軍事、經濟的中心。張作霖占據這個位置，就為以後做東三省之王打下了堅實基礎。現在的職務，是他以後擔當東北王的關鍵一步。
張作霖雖然當上了奉天督軍，但是他還沒有真正地全部掌握奉省的軍政實權。其主要的障礙是來自他原來的合作者馮德麟。張作霖對馮德麟采取了又打又拉的策略，終使馮德麟就範。張作霖和馮德麟的關係，在張作霖任奉天督軍前，還是和諧的。
馮德麟，字閣忱，又名麟閣。１８６６年生（一說１８６８年）。奉天省海城人。１７歲當胡子，流竄各地，漸有聲名。１９００年７月，沙俄以鎮壓義和團運動為名，出動１０萬大軍，分７路入侵東北。燒殺搶掠，無惡不作。清政府無能，百姓自保，鄉團興起。１９００年馮德麟在遼陽組建大團，得到奉天的批準，成為合法化的一方勢力。由於馮德麟堅持抗俄，保護百姓，漸得人心，來歸者眾。不久，馮的隊伍擴大至數百人，各幫頭目自稱一百單八將。
他們引起沙俄侵略軍的警覺，沙俄侵略軍對馮德麟發動了一次突襲，將馮抓獲，放逐到庫頁島。兩年後，他僥幸逃回。日俄戰爭時，他自然倒向日本一邊，幫助日本侵略軍打擊沙俄侵略軍。日本勝利後，經日本少將福島的保薦，東三省總督趙爾巽考慮到地方的安全，便招撫了馮部。由此，馮德麟漸升至巡防營左路統領（旅長），駐北鎮。
那時，張作霖任巡防營前路兼中路統領，駐奉天。此時，他們就產生了些許猜忌，但矛盾不大。１９１２年，巡防營改編為陸軍。９月１日，中央任命張作霖為第二十七師師長，陸軍中將，駐奉天；任命馮德麟為第二十八師師長，陸軍中將，仍駐北鎮。他們二人，雖然平起平坐，但由於駐地不同，且兵力差別很大。自恃前輩的馮德麟便甚感不快，由此裂痕漸深。但他們在驅段的問題上，利益卻是一致的，因此，有了暫時的默契合作。
然而，他們的矛盾終於爆發了。１９１６年張作霖被任命為奉督，馮德麟大為不滿，因為馮德麟被任命為奉天軍務幫辦，這個官位是“職居張氏之下”的。馮德麟當時５０歲，而張作霖是４１歲。馮德麟在張作霖麵前，總是以綠林前輩自居。聽到這個任命，馮極為憤怒，罵道：“******！雨亭這小子！”思來想去，怎麼也咽不下這口氣，便拒絕接受這個任命。