張作霖巧獲大宗軍火，如虎添翼。他用這些截留下來的武器，裝備了7個混成旅，並新建了以張景惠為師長的“暫編第一師”，大大增強了自己的實力。3月14日，張作霖再次派兵入關，在軍糧城設立奉軍總司令部。徐樹錚因獻計截械有功，被任命為副司令，代行總司令職權。
1911年10月，北京政府的軍閥部隊與南方的護法軍之間開始了湘南戰爭。11月，在北京政府中，直皖兩係軍閥之間的矛盾日趨尖銳。直係首領、總統馮國璋免去皖係段祺瑞的總理職務，改任王士珍為國務總理。段祺瑞想“借奉打直”，就在秦皇島劫械的第二天，派心腹徐樹錚從北京專程到奉天，以張作霖升任副總統為條件，拉攏張作霖入關，以武力恢複段祺瑞內閣職務，舉兵討伐南方，借以實現“武力統一”。
1918年3月12日，早有出兵中原野心的張作霖為了支持皖係軍閥段祺瑞的“武力統一”政策，率軍大舉入關，總司令部設在天津附近的軍糧城。他自任總司令，讓徐樹錚做副司令，楊宇霆做參謀長，孫烈臣為二十七師師長兼湘東司令，張景惠為奉軍暫編第一師師長兼湘西司令，丁超為奉軍兵站司令，總兵力共5萬餘人。一切安排就緒之後，張作霖就回到了奉天。
在大軍壓境，咄咄逼人的形勢下，北京政府內閣總理王士珍被迫辭職。馮國璋不得不屈服，再任段祺瑞為國務總理。3月23日段內閣成立後，北京附近的奉軍開始南征，分別進駐湖南、湖北、福建、河南、陝西、河北各剩張作霖之所以南征，並不想參加實戰，而是要從中獲得軍費、武器和增強實力，如此而已。
不料，由於北方南征軍在湖南戰敗而形勢驟變，徐樹錚打算接替曹錕，親任總司令，策劃將奉軍開往第一線決戰。這還不算，徐樹錚是“一朝權在手，便把令來行”的人，他要借機抓自己的槍杆子。他和日本士官學校的同學楊宇霆商量了一陣，就背著張作霖秘密編練了4個補充旅的新兵，說是用奉軍淘汰的槍械裝備，實際是奉軍武庫中最好的裝備。他把這4個旅放在洛陽和信陽兩地訓練。此外，徐樹錚還以奉軍的名義代領軍費515萬元，奉軍實收隻有180餘萬元，絕大部分用在編練參戰軍和新國會的選舉上。
俗話說，沒有不透風的牆。這件事讓奉軍前敵湘西司令張景惠知道了，他就向沈陽拍密電，要求回奉麵報軍情。張作霖照準之後，張景惠於9月回到了奉天，添枝加葉地報告了徐樹錚要取代奉軍，編練4旅及要讓奉軍參加決戰的緊急情況。張作霖一聽火冒三丈，刻不容緩地向京奉鐵路局要了一列專車，帶著一團衛隊，星夜趕到天津。
徐樹錚和楊宇霆以為張作霖來又是例行公事，待幾天又得回奉天，所以都趕來參見。哪知他們一進門，帶來的幾個馬弁就被張作霖的人給繳械了。
張作霖把眼一瞪：“徐樹錚，楊宇霆，你們還敢來見我！”
“老將，您這是？”徐樹錚、楊宇霆不免惶惑起來。
張作霖先不說4個旅的事，而是說：“小徐呀，我這次來是要查查你的賬。”
“賬？”徐樹錚心裏一驚。
“啊，賬！軍費、軍火賬。”張作霖說的聲音不大，可一字字都像刀子一樣直紮向徐樹錚的心窩。
徐樹錚看了看楊宇霆，見他默不作聲，就壯著膽子說：“怎麼，老將你這是不信任我小徐嗎？我可沒少給你們奉軍賣力呀。”
“你少來這一套。我問你，在洛陽、信陽那4個旅是怎麼回事？說！”
“老將，我們準備訓練好了，再向您報告。”楊宇霆把“報告”兩個字說得很重。
“報告？哼，我要不問，你們一輩子也不他媽會報告。”張作霖又盯了兩人一眼，楊宇霆的腦袋耷拉了下來，徐樹錚的脖子還在梗著。張作霖恨不得一槍把他們斃了，但又覺得不能莽撞，就說：“看在芝老（指的是段祺瑞）的麵子上，我不要你們的命，可你們在奉軍裏頭也就算幹到頭了，從今天起，請另謀高就吧。為了給你們點兒麵子，明天在報上先發個辭呈。”張作霖和徐樹錚的關係從此破裂。
第二天，京津各報上就登出了消息：徐樹錚已辭奉軍副司令職，由孫烈臣繼任；楊宇霆辭去奉軍參謀長職，由秦華升任。
1918年8、9月間，由安福係操縱的國會進行正副總統的選舉。由於直皖兩係軍閥互相爭持，段祺瑞和馮國璋一起下台，北洋文治派的元老、64歲的徐世昌當選為總統；副總統一職由於各方麵的鉗製暫未選出；張作霖被任命為東三省巡閱使。這時正值第一次世界大戰結束，南北停戰議和呼聲甚高，徐世昌對北軍各前線部隊下達了停戰令。11月，張作霖以抵製蘇俄赤化為名，名正言順地將南征奉軍全部撤回關外，奉軍第一次入關宣告結束。