由於日軍的出麵使郭鬆齡的部隊耽誤了時間,導致軍糧與藥品短缺,在後勤上出現的嚴重的問題。正巧又趕上冬季的來臨,張作霖一邊奮起反抗,一邊專門針對郭鬆齡的後勤補給進行破壞,以此來擾亂軍心,同時日軍也出動了炮兵,為戰爭的勝利提供了很好地保障。在饑寒交迫和槍林彈雨的打擊下,郭鬆齡部下軍心渙散。最終郭鬆齡意識到大勢已去,帶著妻子喬裝逃跑,最終還是被抓到。張作霖馬上槍決了郭鬆齡夫婦,但他還是不解恨,便下令將兩人的屍體懸掛起來,曝屍三天。
郭鬆齡的倒戈是張作霖勢力內部分化的一個起點,之後占據山東的張宗昌與占據直隸的李景林都有脫離奉係的舉動。張作霖此時忙於聯合吳佩孚這個昔日的冤家對頭,一起反對馮玉祥的國民軍。多年的大戰已經把東北的財政耗費一空,軍隊多次受創後張作霖撤回了奉天,留下了張宗昌和李景林來協助吳佩孚籌劃戰爭事宜。張、吳最終打走了馮玉祥,暫時守住了北京政府這個名義上的政治中心。
此時的北伐軍已經突破了吳佩孚在長江地區的防線,由於北伐軍在對吳佩孚與孫傳芳的戰爭取得了勝利,迫使當時中國僅有的幾大軍閥首領不得不齊聚一堂商量對策。他們趕到天津張作霖的府邸蔡家花園召開高級將領會議,會議期間各方還在為自己的得失互相算計。會議最終決定建立安國軍,張作霖就任安國軍總司令並進駐北京。張作霖當時的計劃是,派兵到西北阻截馮玉祥的軍隊,派吳佩孚、劉傳芳正麵抵擋北伐軍,等戰爭鬥得兩敗俱傷張作霖再帶領東北軍坐收漁翁之利。如此粗略不堪的計劃卻被張作霖視為絕頂的妙計,他做起了掌控全中國的美夢。張作霖進駐北京後就對大總統為位置十分垂涎,雖然戰事吃緊,沒有得到全範圍的勝利,但這時的張作霖又表現出了他賭徒的性格,非要當一回大總統以了卻一樁心願。
張作霖進駐北京後也開始對共產黨下手,逮捕李大釗並於1927年4月28日以絞刑處死了李大釗等二十多名共產黨員。張作霖處在全國輿論的打擊之下,但張作霖此時把希望寄托到外國人手裏,認為這是在向外國表決心,此時的外國各界政府都已經對北洋政府失去了興趣,開始尋找新的接班人。四一二反革命政變使北伐軍分裂為南京政府和武漢政府,最終南京政府在蔣介石的帶領下占據了主導地位,代表封建主義、帝國主義和大資產階級的利益建立了南京國民政府。對於苟延殘喘的北洋政府,蔣介石向張作霖提出了改旗易幟,信奉“三民主義”的要求,但張作霖想的卻是“南北議和”。
蔣介石表示在張作霖易幟後隻給他東北三省的地盤,這是張作霖不能接受的,他把原因歸結為自己沒有個名正言順的地位來與蔣介石平起平坐談條件。在孫傳芳以及老部下的支持下,張作霖決定再賭一把。
1927年6月18日,張作霖榮登中華民國海陸軍大元帥,上任後就頒布條令說明他這個元帥不統領全國軍隊,在軍事混戰時代表中華民國行使統治權,同時發布電報想與蔣介石聯合起來共同反對共產黨,以求得地位的鞏固和維持。閻錫山這時卻和張作霖唱起了對台戲,接受了蔣介石的易幟要求,並被任命為北方總司令,張作霖的軍隊開始和閻錫山對峙,最終閻錫山失敗退回老巢,為張作霖的統治延續了壽命。1928年年初,蔣介石開始準備大規模的北伐,戰事一開始,在奉係的精銳進攻之下北伐失利,後來,張宗昌和孫傳芳的所在地區失守,戰爭局麵開始扭轉,這也是張作霖奉係戰敗的開始。張作霖仍然在賭,他覺得,這次一戰,如果贏了就能得到全中國,如果輸了,還可以退守到關外繼續做自己的東北王。