26日，徐世昌下令雙方軍隊撤回原防。外交團照見北京外交部，必須切實遵守《辛醜和約》，確保 北京至海口的交通完全無阻，奉直雙方軍隊不得進入北京城。
29日，張作霖到軍糧城自任鎮威軍總司令，以孫烈臣為副司令，即日下了奉軍的總攻擊令。
直奉軍的戰爭，東路在津浦線，西路在沿京漢線及其以東地區進行。奉軍東路總司令張作相駐落垡，所屬有張作相自兼師長的第二十七師及騎兵集團司令許蘭洲、張作霖的衛隊旅旅長張學良等部。開戰前，這路奉軍縮短防線撤回到馬廠以北。西路總司令張景惠駐長辛店，所屬有張景惠自兼師長的奉軍第一師及第十六師師長鄒芬、第二十五混成旅旅長齊占九等部。直軍西路吳佩孚的第三師在琉璃河，王承斌的第二十三師在固安，東路張國溶的第二十六師（後來加入張福來的第二十四師）在馬廠。直軍步兵是久經戰陣之師，奉軍則以騎兵和炮隊見長。直軍雖有飛機助戰，但未發揮作用。吳佩孚命令海軍第二艦隊司令杜錫珪調動海籌、海容兩艦駛赴秦皇島，江利、江元、楚同、楚謙四艦駛赴大沽口威脅奉軍後方，由於帝國主義者根據《辛醜條約》不許中國在京奉路線及其沿海地區采取軍事行動的條款，這些艦隊也未發揮作用。
29日戰爭開始，北京可以聽到長辛店傳來的隆隆炮聲，不少外國人前往戰地觀戰。徐世昌除命令各省切實保護外僑外，還下了一道責成雙方軍隊停止攻擊，迅速撤兵，聽候查辦的命令，當然不會有人加以理睬。
從戰爭開始的第一天起，帝國主義報紙各自替自己的工具進行宣傳，西方國家說直軍勝了，日本說奉軍勝了。實際情況是，東路直軍敗退任丘、河間，西路直軍在奉軍的優勢炮火下也沒有進展，而奉軍騎兵從京漢線以東地區縱橫掃蕩，迫使直軍退到路線附近，正麵直軍陣地也幾乎動搖起來。因此，西方國家報紙又閉門造車地說，這是吳佩孚的誘敵之計，不日包圍反攻，奉軍就要站不住腳了。
從4月29日到5月3日，直奉雙方也都捏造事實吹噓自己的勝利。張作霖儼然以戰勝者自居，每天都有告捷電發表。直軍隨心所欲地發布號外說，北京政府已將張作霖免職，派張錫鑾為東三省巡閱使，馮德麟為奉天督軍。其實，北京政府在奉軍的控製下，不可能發表這樣的命令。
5月4日，西線奉軍忽然發生變化，第十六師停止戰鬥，並牽動全線奉軍土崩瓦解退回到北京來，當天長辛店就被直軍占領。第十六師原係已故直係首領馮國璋的舊部，師長王廷禎被奉係趕走，改派鄒芬繼任。奉係把該師擺在前線攻打直軍，正和兩年前皖係把原屬直係的第十五師擺在前線充當先鋒一樣，他們遇有適當的機會，就要倒戈相向或者不戰而退，這是理所當然的事情。第十六師倒戈是決定奉直戰爭成敗的重大因素，當天退回到北京的奉軍以及原駐北京的奉軍，都被慣於打落水狗的北京駐軍包圍繳械，西線奉軍就這樣被消滅了。
當天張作霖還到落垡來企圖挽救頹勢。由於西線牽動了東線，奉軍的鬥誌完全喪失，他才匆忙地回到天津下了總退卻令，第二天又倉皇逃往灤州。張景惠留在北京“待罪”，並電勸曹錕“勿為己甚”。 北京政府也並未問他的罪，不久（5月29日）還授為安威將軍。
5月5日，徐世昌下令：“奉軍即日撤出關外，直軍退回原防，均應聽候中央命令解決。”這位膽小總統仍然害怕張作霖，不敢加以懲罰，但是為了討好戰勝者，又不得不再下一道命令，指葉恭綽、梁士詒、張弧三人為戰爭禍首而加以通緝。梁本來列在第一名，徐覺得過意不去，用筆一鉤把他排在第二名。周自齊和梁是幾十年老朋友，他在命令頒布前，打長途電話勸梁離開天津，並且解釋本人處境困難，不能不副署這道命令，梁卻大肆調侃，悻悻地把聽機掛上了。
5月7日，梁士詒化名高信，葉恭綽化名曾敏勳，張弧化名孫虛曲，自天津乘芝罘丸逃往日本。
這次直奉戰爭，經過一年多的冷戰，吳打了6天就告結束。張作霖除損失關內地盤以外，並未受到致命的打擊。吳佩孚早期在東北做過軍事間諜，懂得東三省是日本軍國主義者的勢力範圍，如果出兵關外，必然會引起關東軍的軍事幹涉。他本來打算利用“奉人治奉”的口號，把對奉問題交給第二十三師師長王承斌（奉天人）處理，而王承斌也並無出關追敵的勇氣。同時，孫中山的北伐軍已經改道江西北伐，吳佩孚必須撥轉馬頭對付南方，也就沒有餘力把對奉戰爭進行到底了。
（五）
直係獲勝後，吳佩孚不可一世。他一再催促北京政府嚴懲張作霖。不得已，總統徐世昌於1922年5月10日下令裁撤東三省巡閱使，張作霖免去本兼各職，聽候查辦。11日又下令裁撤蒙疆經略使，這就剝奪了張作霖的一切軍政大權。徐世昌並根據直係的意見，任命黑龍江督軍吳俊升為奉天督軍，馮德麟為黑龍江督軍，袁金鎧為奉天省長，史紀常為黑龍江省長。“直係借此離間作霖舊部，而迫其下野。究之計不得逞。”馮德麟等人心知肚明，這是直係的離間計。他們於5月15日發出通電，表明心跡：“北庭亂命，免去張巡閱使本兼各職，並調任德麟等署理督軍等……德麟等對此亂命，拒不承認，合電奉聞。”馮德麟等是很識趣的。
其實，張作霖的實力地位，不是北京政府可以輕易動搖的。他們的命令並沒有生效，但也產生了一些風波。有一本書《遼海小記》，其中關於北京政府命令頒布後，對吳俊升及其幕僚反應的描寫很是生動。聽到徐世昌的任命，吳俊升的幕僚興奮異常。“小河沿之吳公館中，吳督幕僚，食指頻動，人思一臠，幾乎彈冠相慶矣。”無形中，奉天小河沿的吳俊升公館，成了東三省的政治中心，車水馬龍，人聲鼎沸。吳的幕僚有的忘乎所以，等待著分一杯羹了。
吳俊升但是，吳俊升並沒有被這個喜訊衝昏頭腦，他知道進退行止。他馬上召來督軍署於秘書長，口授一封通電，文曰：“徐大總統均鑒：俊升材具粗劣，一向追隨雨帥，黑疆之寄，已感隕越是懼，況其他乎？”明確表示拒絕擔任奉天督軍一職。
但是，於秘書長感到文電意猶未盡，沒有結尾，似乎文氣不足，想改一改，又怕吳大舌頭怪罪下來，就去找參謀長應善一商量。應善一一看電報，不假思索，就擅自在文電的末尾加上了“惟政府之命是從”這句話。這就完全違背了吳俊升電文的原意。
這個通電最後沒有讓吳俊升看，就公開在《盛京時報》上全文刊登了。吳看到報紙後，十分憤怒，馬上把於秘書長叫來大罵道：“你這個王八羔子，誰叫你添上‘惟政府之命是從’這句話？這樣，你不是把我和張大帥的交情給弄糟了嗎？”說完，抓住於秘書長的衣領子，連踢帶打，當時就把他趕了出去。
這個於秘書長是有些冤枉的。因為當時主張吳俊升接受奉天督軍任命的大有人在，其中最積極的就是吳俊升的參謀長應善一。應善一曾當過總統馮國璋的侍衛，與直係私下有勾結。如果吳俊升坐上奉天督軍的寶座，水漲船高，他也會成為東三省一人之下萬人之上的頭麵人物。同時，曹錕、吳佩孚等直係把持北京政府，對他也是大有好處的。為此，應善一便暗中與直係通款，希圖攫取高位。但是，他的這些秘密活動，早就被張作霖留守在奉天巡閱使署、奉天督軍署和奉天省長公署的心腹，一一掌握了。
看到這封電報，他們非常氣憤，決定把應善一殺掉。第二天，應善一從吳公館南麵右側甘露門出來，被人對麵打了三槍，當即身亡。刺客就是奉天督軍署的副官高金山。高金山是張作霖的隨身副官，跟隨張作霖多年，對張作霖忠心耿耿。
事發後，留守的奉天省長王永江擔心事態鬧大，不好收場，便故意給吳俊升掛電話問：“應參謀長是誰打死的？《盛京時報》上刊登的電報是怎麼回事？我得緝拿凶手。”吳俊升機智地回答：“電報後尾的那一句聽說是應善一這個糊塗鬼給加上去的，我已經把秘書長打了一頓，又把他趕走了。至於應善一，真是壞人有惡報，今天上半晌他就叫人打死了，活該！”至於應善一是誰打死的，吳俊升心裏明鏡一般，但他抱著息事寧人的態度，對王永江輕描淡寫地說道：“唔！應善一是個窯皮，他逛窯子得罪了人。我想是地痞流氓把他打死的，千萬別管這類雞毛蒜皮的閑事。”此案便不了了之。
這是張作霖對覬覦他權位的人的一個警告，殺雞儆猴。吳俊升粗中有細，深知此事非同小可。吳嚴令家人，不準外出。 閉門謝客，不事張揚。
應善一被打死，奉天的謠言蜂起。吳俊升左思右想，為了讓張作霖對他不產生一點兒誤會，便決意隻身到山海關親謁張作霖，以釋嫌猜。臨行前，他把此行隻告訴了王永江，囑咐他負責奉天省的秩序。他摒去衛隊，隻帶一名副官處長陳振之及兩個衛士，以示坦然，掛專車一輛，匆匆西下。
到山海關時，張作霖正在收容部隊，整理殘軍。忽報吳俊升乘專車前來見張，《遼海小記》書中寫道：“專車到站時，張恰在旅邸門前散步，見吳到來，即轉身回室（向例張見吳，必款接歡迎，足恭有加）。吳趨入謁，張板起麵孔說：‘你怎這時才來，我正等你，好給個交代。不該玩忽國家命令，趕快回奉就職，以安人心。咱是老朋友，你幹不比別人幹強嗎！我交代完，你叫我住在哪裏，我就住在哪裏。’吳說：‘唔！大帥，咱不提這個。我在江省，有熟地多少坰，生荒多少方，夠我過幾輩子了。錢呢，日本正金銀行、朝鮮銀行、東三省官銀號，我還存有多少萬款子，我的財產不比你少。再說，他們北京政府盡鬧把戲，咱們鬥不過。 北京對付廣東，還不是這一套。今天撤掉陸榮廷，明天撤掉陳炳琨，結果大家誰都幹不成。唔！大帥！你的肩膀比我寬，什麼都能擔當得起。教我在黑龍江剿匪放馬，墾荒種地我會；把我擱在奉天，和外國交涉，各省代表，文的武的，我一樣也應付不來。我一天也幹不了。我這時才來，我把家都安置好了。你住大連，我跟你住大連。你到哪裏，我到哪裏。’張聽完，笑了說：‘他們怎不來？’吳說：‘大帥生氣，誰敢來！打電報叫他們，他們就來了。大家捧柴火焰高。咱們還是幹哪／”
張作霖聽著高興，前嫌盡釋，笑容滿麵，親切地問道：“大哥，你看下一步該怎麼辦呢？”吳俊升看到張作霖又叫他大哥了，知道誤會解除了，就興致勃勃地說道：“唔！別聽什麼大總統、曹三、吳秀才他們那群兔崽子的話，咱們還是幹咱們的。要叫我說，到了奉天再說。什麼命令，去他媽的！”
一席話，說得張作霖通體舒坦。大舌頭吳俊升總能把握住關鍵時刻，不失時機地表示自己的忠心。他對張作霖是真心服膺的。人們往往認為吳俊升不善言辭，其實他的思維是相當縝密，說話是相當到位的。另外，從中不難看出，張作霖的威風一點兒也沒有減少，即使是在直奉一戰後，他的東北王的地位也是很牢固的。
奉軍在京漢、津浦兩線撤退時，天津的帝國主義駐軍對奉直雙方軍隊發出警告，準許他們利用鐵道及河流運兵，但奉軍不得下車。同時，天津周圍20裏內不得駐軍的條約不得違反。5月7日，敗退下來的奉軍在灤州集結時，英國公使艾思頓聲明，不得損害開灤煤礦和英國僑民的生命財產安全。如發生問題，惟張作霖是問。又強調京奉路必須通車，必要時擬派英軍保護通車。從中不難看出，英國對直軍的偏袒，對奉軍的壓製。
5月7日，得勝將軍吳佩孚誌得意滿地視察奉軍的總司令部所在地軍糧城，然後回到天津。不少中外人士前來一睹大名鼎鼎的秀才將軍的風采。吳佩孚得意洋洋，高談闊論。這時戰事還沒有完全結束，曾經做過東三省總督的趙爾巽勸他適可而止，見好就收。他瞟了這位老前輩一眼，譏諷地調侃道：“以前提拔張作霖的就是你！胡匪擾亂國家，你應該負有責任，今天還來替他說話！”把老邁的趙爾巽說得無地自容。這時的吳佩孚是自視甚高的，哪裏能聽得進不同意見？
卻說，老練的張作霖一看形勢不好，便在軍糧城及時地下達了總退卻令，並急電前線的張學良回部開會。此時，張學良正同郭鬆齡率隊猛衝猛打，已經深入敵陣。得到張作霖的命令，張學良就匆匆趕回，把部隊交給郭鬆齡指揮。5月5日，張氏父子率部倉惶奔赴灤州，建立臨時指揮部。5月6日，李景林不敵，率殘部放棄了楊柳青，急忙撤退。因有鐵路幫助，撤退比較順利。而張作相部則是潰不成軍。
郭鬆齡率領的第二梯隊，因孤軍深入，有被切斷後路的危險，撤退很困難，郭鬆齡部撤退的先頭部隊到了馬頭鎮，要渡永定河。軍隊剛剛渡過一半，直軍王懷慶的第十三師即追至左側，情況相當危機。郭鬆齡鎮定沉著，從容應對。一麵派兵迎擊，一麵揮軍搶渡。用了一夜的時間，全軍強行渡過永定河，脫離了險境。張作霖父子在灤州收容各路潰 兵，亟盼郭鬆齡第二梯隊的消息。焦躁難耐，憂心如焚。正當此時，郭鬆齡率隊風塵仆仆地歸來。張作霖父子喜出望外，精神大振。因為郭鬆齡部是張作霖的精銳部隊，此隊沒有受到重創，張作霖就可以很快地東山再起。