在直係咄咄逼人的形勢下，徐世昌於7月4日在公府召集特別會議，決定由公府頒布命令：一、特任徐樹錚為遠威將軍；二、免去徐樹錚西北籌邊使職務，留京供職；三、西北邊防總司令一缺著即裁撤，其所部由陸軍部接收。
安福係對徐世昌的三條命令表示憤憤不平，既免去徐樹錚職務，又要求懲辦吳佩孚。徐樹錚認為：徐世昌此舉，並非針對他個人，而是助直排皖，削奪段祺瑞兵權。徐樹錚向段訴說：“樹錚之濫借巨款，編練重兵，甘冒天下之不韙，無非為督辦計耳，今總統惑於僉壬，免去樹錚之職，是欲排去皖係也，排皖係即是排督辦，樹錚一身不足惜，豈吾督辦一生之威名掃地耶？”說罷痛哭不已。經徐樹錚這一激，段祺瑞壓不住心中怒火，氣衝衝地說：“吾與東海有數十年之交往，故於改選時，願與河間（即馮國璋）同時下野，而以元老之位讓之，何意彼年老昏聵，竟出此非法之舉動，彼既不念前情，老夫亦顧不得麵子，今日誓不與之甘休。”
段腦子發熱，忘乎所以，不顧皖係在政治上和軍事上所處的不利地位，於7月5日以邊防督辦名義對邊防軍做緊急動員，鼓動邊防軍官兵奮勇作戰，說：“如果這一仗不能打勝，不但我個人失敗，邊防軍也不能存在，全體官兵的命運將不堪設想。”段對邊防軍的緊急動員，引得京城人心惶惶。直、皖兩係要在京城打仗，達官貴人紛紛出京避難，使館區內外國飯店又告客滿。
7月6日，徐世昌又請張作霖到團河再做最後一次努力。當天張作霖到團河去見段，這天段的火氣很大，咆哮著說：“罷免吳佩孚，萬事皆休。”張說：“這怕辦不到吧。”段咬牙切齒地說：“辦不到也得辦，你辦不到，我一定要辦到！”徐樹錚對張作霖夥同徐世昌免去他的職務非常憤怒，把仇恨集中在張作霖身上，徐以假接電話為名，將段叫出，說要殺掉張作霖，段雖剛愎自用，但不是不計後果的人，不讚成徐的幹法。段返回座席，機警的張作霖，一眼看出段的神色異常，知事不好，借口溜出團河，8日午夜1時，未與任何人作別，悄悄離開北京，在軍糧城宣布“局外中立”。
圍繞徐樹錚和曹、吳免職問題的激烈鬥爭，直皖戰爭已不可避免，雙方都在積極備戰。段決定派5個師，劃分3個戰區，以京奉路一帶為東路，以固安一帶為中路，以琉璃河至高碑店一帶為西路。
直係吳佩孚在河南的部隊也向北開拔，到達高碑店，留駐鄭州部隊嚴密監視在洛陽的西北邊防軍一、四兩旅的行動。曹錕的部隊也由保定開赴高碑店。9日，曹錕在天津舉行誓師典禮，所率部隊為討逆軍，設大本營於天津。前線司令部設在高碑店，任命吳佩孚為前線總司令兼西路總指揮、曹鍈為東路總指揮、王承斌（第一混成旅旅長）駐鄭州為後路總指揮。
7月9日，張作霖由軍糧城回到奉天，10日致電段祺瑞，勸段勿袒護徐樹錚。同時，張作霖通電全國，宣布派兵入關，決心加入直係倒皖戰爭的行列。11日在奉天巡閱使署開會，決定由二十七師、二十八師各派一旅入關，保護京奉路。同一天，曹錕致電張作霖，希望在對皖戰爭中得到奉軍的支持。11日，張作霖致電曹錕，說他已派遣第二十八師先行入關，派張景惠為關內奉軍總司令。直軍和進關奉軍總計約有七八萬人，可以應付東西兩線的戰爭，並向曹錕保證：“我輩骨肉至交，當此危機存亡關頭，不能不竭力相助。”
13日，張作霖向全國發出通電稱：“作霖奉大總統令入都。”這時張作霖的態度不是局外中立了，公開站到直係一邊倒皖。張作霖派兵進關助直倒皖的借口是說，他破獲了皖係曾雲霈讓姚步瀛等人在東三省搞顛覆活動。
不久，直皖戰爭就爆發了。
戰爭爆發前，段祺瑞密電長江上遊總司令吳光新調遣駐鄂西的部隊集中到漢口，牽製和襲擊直軍的後路。7月16日，湖北督軍王占元按照吳佩孚的指示，將吳光新扣押，部隊被繳械。皖係駐洛陽的西北邊防軍第一、四兩個混成旅，按照段的密電，配合京畿皖係的軍事行動，但因處在直、奉包圍中，未敢輕舉妄動。7月27日，吳佩孚致電該兩旅解除武裝，他們不願歸順，7月30日，直軍王承斌旅會同奉軍合力圍剿，該兩旅向西北方向逃竄。皖軍在山東與直隸交界處的邊防軍第三師，擬奪取德州兵工廠，然後北上與東路皖軍會師。19日，師長陳文運率部發動總攻擊，奪取德州。但是此時皖軍東西兩路已失敗，邊防軍第三師成了孤軍，在天津的龍濟光振武軍去接應邊防軍第三師，旋被奉軍擊潰繳械。26日，直軍在奉軍的配合下，向邊防軍第三師進攻，該師被擊敗予以遣散。至此，皖軍被直軍徹底打垮。
戰爭發動前，82歲的淮軍宿將薑桂題勸段祺瑞不要打仗，並斥責徐樹錚說：“什麼壞事，都要你小子給鬧出來了。”定國軍總參議傅良佐也力陳皖係決非直軍之敵，雙方打起來必敗無疑。可是這些苦口良言，段祺瑞一點兒也聽不進去。如今慘敗，悔恨交加，經過多年編練的邊防軍，不堪一擊，徹底完蛋，意欲自戕，幸左右監護嚴密，百般勸解，方得寬慰。
7月18日，靳雲鵬去見段，向他進言說：“戰爭已完全失敗，邊防軍戰鬥力已失，要不從速解決，恐三數日內京中糧食告罄，將令全軍不戰自潰。至兵臨城下，為時已晚，追悔莫及矣！”段表示同意，便請徐世昌下令停戰。是日，徐世昌頒布停戰令，責成各路將領迅飭各守防線，停止進攻，聽候命令解決。
7月19日，段祺瑞通電引咎辭職。段在通電中把戰敗說成是外交團警告和大總統的電諭而停止戰鬥，時至今日，仍然擺出剛愎自用的架子，推卸發動戰爭的責任。
直皖戰爭於18日基本結束。從23日起，直、奉兩軍的先頭部隊陸續開進北京，相約不入城，分別接收南苑、北苑的營房。26日，徐世昌下令撤銷對曹錕、吳佩孚的處分。28日，徐又批準段祺瑞辭職，撤銷督辦邊辦事處，西北邊防軍由陸軍部接收。
7月19日，徐世昌委派靳雲鵬、薑桂題、傅良佐、張懷芝等六人，攜帶經過段祺瑞同意的四點方案（一、懲辦徐樹錚，二、解散邊防軍，三、解散安福係及罷免曾毓雋、李思浩、朱深三總長，四、解散安福國會）赴天津與直、奉方麵議和。當時曹錕、張作霖均不在津，直隸省長曹銳對他們態度冷淡。傅良佐因替段祺瑞說客，被曹銳扣押，並繳械其武裝警衛170多人，薑桂題等4人返京，靳雲鵬則去奉天與張作霖磋商。
靳雲鵬向張作霖轉述了徐世昌的四點方案。徐世昌主張懲辦極少數幾個人，對段不予追究。靳希望給段留點兒麵子，不要使他太難堪。張作霖同段祺瑞的交誼原本不惡，主要是怕徐樹錚掌握大權，現在安福係和徐樹錚垮台，這時出麵為段轉圜，可以爭取皖係勢力的支持，增加同直係抗衡的力量，所以同意徐世昌的四點方案。張作霖看到段祺瑞19日發出的引咎辭職電報時，當即複電說：“引責各節，不忍卒談。”“吾公一世英名，壞於群小之手，言念及之，淚如下雨。”表示，“作霖當躬率三軍，願為督辦掃除群小，至對於督辦，決不稍有侵犯。”23日，張作霖又給段祺瑞去電安慰說：“翼青（靳雲鵬）到奉，業已接洽，竊念此次興戎，譬如子弟相爭，無關長者，為父兄者盡可置之不問，任憑子弟自行設法了結，今日之事，無以異此。伏望我督辦切勿介懷，遇事仍襄助元首、維持大局，並救濟近畿一帶之生靈。作霖日內到津，即當約集曹使，聯絡各省，籌商善後一切事實，以資收束，溽暑逼人。尤望勉節憂勞，為國珍攝，無任盼禱。”張作霖這兩份電報，為保護段祺瑞，處理善後定下了基調。
吳佩孚對善後處理的主張，與張作霖相反，要求嚴厲處置皖係，“非將奸黨殲除不可”。提出六項要求：一、解散邊防軍，取消邊防督辦官製；二、取消西北籌邊使官製；三、安置段祺瑞於湯山，候國民公決；四、徐樹錚、曾毓雋、朱深、李思浩、丁土源五人交法庭審辦；五、國會停止辦公；六、追究安福係首領王揖唐及安福係議員，永褫公權。這六項條件得到曹錕、李純、陳光運、王占元等人的讚同，作為向北京政府正式提出的處理善後問題的條件。吳佩孚還提出從速召集國民大會，以共商國是的主張。吳佩孚這個主張，立即引起張作霖的不滿。25日，張作霖偕靳雲鵬到天津。他向記者表示，他“不與吳佩孚接洽一切，僅與曹錕接洽”。並指出：“吳隻不過一師長，不應幹涉政治。”這說明，在直、皖兩個軍閥之爭結束之後，直、奉兩個軍閥的關係開始出現裂痕。
7月29日，曹錕、張作霖、靳雲鵬及各省代表在天津曹家花園討論直皖戰爭的善後處理問題。會議決定以下幾個問題：
組閣問題。組閣是當務之急。然而，曹錕、張作霖和徐世昌各有各的打算，徐世昌想要他的老朋友周樹模組閣。曹錕首先不讚成，認為：“周是個老官僚，主張王世珍組閣，王是北洋老前輩，性情平和，與世無爭，出主中樞有利於南北統一。”張作霖則認為：“與其由周氏組閣不如使靳雲鵬複職，俾各方麵均易融洽。”徐世昌、曹錕放棄自己的意見，同意由靳雲鵬複職擔任總理。靳本人表示“愧對師門”不願複職，張作霖極力慫恿，並保證給予支持。吳佩孚對靳說：“聞公不欲組閣，公私兩途，皆為最便，佩孚實表讚同。”靳得到各方麵的讚同，才表示同意組閣。8月9日，徐世昌頒發了“特任靳雲鵬署國務院總理”的命令。各部總長是：外交總長顏惠慶、內務總長張誌潭、財政總長周自齊、陸軍總長靳雲鵬（兼）、海軍總長薩鎮冰、司法總長董康、教育總長範廉源、農商總長王乃斌、交通總長葉恭綽。張誌潭、董康為直係，王乃斌屬奉係，靳、周、葉均傾向奉係。這個內閣的組成，反映了戰後直、奉兩係，特別是奉係在中央勢力的增長。
直係為了防止段祺瑞、徐樹錚東山再起，要求徹底鏟除段派勢力。一是處分段祺瑞，驅出北京，放逐湯山，聽候國民公決；一是嚴懲安福係。
吳佩孚堅決主張段祺瑞離開北京，他曾說：“段總不宜再居京中，如恐湯山時有外人遊玩，諸多不便，何妨改住西陵，我可派一營擔任保護。”曹錕也主張段離開北京，他表示：“段在北京，我們不便來，須先請他回避。”但是徐世昌、張作霖、靳雲鵬都不讚成。徐世昌認為段“三造共和，參戰提高國際地位”，“有殊勳民國，朝野屬望綦段”。堅決不同意再作進一步處置，“懲治禍首，須將段撇開，不能傷其體麵”。靳雲鵬極力向張作霖、曹錕求情，如果再有軌外活動，他負完全責任。7月27日，北京內閣會議上，已決定不將段列入懲辦禍首名單。曹、張進京後，徐世昌、靳雲鵬又一再為段說情。張作霖表示理解和支持，曹錕不好再堅持己見。處分段的問題也就放下了。
天津會議還討論了吳佩孚提出的召開國民大會的主張。8月1日，吳佩孚發表關於召開國民大會、共商國是的通電。吳佩孚認為，解決軍閥之紛爭，隻有召開國民大會，一切重大問題，由國民公決。張作霖看出國民大會是吳佩孚沽名釣譽，企圖製造一個政治工具來實現個人的政治野心，於是首先起來反對。8月2日，吳佩孚應曹錕之召，到天津謁見張作霖，陳述召開國民大會的意見時，張作霖即表示反對。吳退出後，張作霖對曹錕說：“吳某通電，三哥曾否讚成。我則事前一無所知，如三哥任其所為，則我將單獨通電反對。”曹錕在政治上不是張作霖的對手，沒有張作霖那種機敏靈活的頭腦，開始他同意吳佩孚的主張，現在張作霖表示反對，他又不敢與張爭論，隻好退讓。因此，吳的通電未發往全國各省，隻在京、滬的一些報上有所披載。8月13日，張作霖對日本記者談話時說：“國民大會非可為問題也，該會係吳子玉將軍所主唱，然其背後有某國人煽動操縱，吳氏不過為其傀儡耳，就中國現狀觀之，此事萬屬不可能。”
吳佩孚還想通過合法手段，取消徐世昌的總統地位，吳佩孚對徐世昌素無好感，他認為徐是個思想陳舊的官僚，毫無原則的昏庸老朽，不能擔任總統。然而，張作霖是擁護徐世昌的，安福國會擁戴徐當總統時，張作霖就表示讚成。徐雖為安福國會所選出，但是後來受安福係的排擠，對安福國會的專橫也是不滿的。而且在直奉聯合反對安福係中，徐是一個同盟者，現在鬥爭取得勝利，反要把徐攆下台，未免不盡情理；讓徐留在總統位置上，對於維護北洋集團的統治是有好處的。曹錕的態度是“無可無不可”。最後，張作霖的意見占了上風，吳佩孚被迫放棄了自己的要求。吳在善後處理的一係列重大問題上，被徐世昌、張作霖一一拒絕，心中憤憤不平。8月17日，吳離開北京，把部隊開到洛陽練兵，積極擴充自己的軍事實力。