在軍事上，張作霖將北方的所有軍隊一律改稱為“安國軍”，並統編為七個軍團，任命孫傳芳、張宗昌、張學良、韓麟春、張作相、吳俊升、褚玉璞分別為第一至第七軍團軍團長。
軍政府從組成之日起就顯得底氣不足。5、6月間，在蔣介石、唐生智、馮玉祥各路大軍的攻擊下，奉、魯軍被迫節節後退。張作霖頗感形勢嚴重，一方麵收縮陣地，整頓內部，另一方麵則不斷地放出試探氣球，大造“南北妥協”的輿論。在就任“大元帥”之後，張作霖還發布了一個所謂的“息爭令”。在專為貫徹這個“息爭令”而發的通電中，他竟以“中山老友”的身份，大談實現所謂的“中山之誌”和“中山主義”，並一再表白自己曾資助過孫中山，來同南方各派套近乎。電文稱：
共和肇造，治權在民。回思締造之艱，實維孫前大總統首創革命，百折不回，始克肅清帝製，還我民族自由。作霖與中山為多年老友，十一、十三兩年之役，均經約定會師武漢。信使往還，物質援助，彼此精神契合，始終如一。當時在事同誌，類皆奔走後先。嗣以北方底定，中山以粵中內部變化，時以不克會師為憾。北京會晤，歡洽平生，後以邦家多難，中山齎誌以終，一切建設大端，皆屬後來之責。是作霖與中山一生宗旨，本屬相同。不意過激分子，假借中山主義，投降外人，宣傳赤化，害民禍國，背友蔑倫，種種罪惡，難以指數。豈惟人類害群之賊，實背中山在天之靈；豈惟我國民族之羞，實為世界和平之敵。用是簡率師徒，施行討伐，實以繼中山之誌，並非有政見之殊。茲以中央負責無人，忝膺艱巨，緬懷先烈，時切兢兢，特再鄭重聲明：凡屬中山同誌與其真正三民主義不相違背，平時為共產黨徒脅迫無可起訴者，仍當本中山合作初衷，一律友視；其有引狼自衛，賣國禍民、怙惡不悛、甘心赤化者，作霖為老友爭榮譽，為國民爭人格，為世界爭和平，仍當貫徹初衷，問罪興討，劍及履及，義無反顧。凡我同誌及全國父老兄弟幸垂察焉。
這封通電中，張作霖希冀在反共旗號下找到與蔣介石等人的共同點，給自己覓到喘息之機。可惜的是，蔣介石並不希罕這個反共夥伴，根本不允許他以平等地位“談和”。因此，張作霖的一廂情願到頭來隻能落得個竹籃打水一場空。
然而，就在張作霖向蔣介石等人“求愛”未果之後不久，形勢又發生了變化。一是馮玉祥和武漢政府的汪精衛、唐生智等人也公開背叛革命加入了反共行列。二是國民黨內部爭鬥加劇，在武漢的汪、唐和南京方麵的桂係逼迫下，蔣介石被迫下野。三是由於南方各派係之間矛盾激化，一時無暇顧及張作霖，不得不在軍事上對北方奉係集團暫取守勢。張作霖頓時又神氣起來，認為這是奉係重整旗鼓、恢複已失地盤的天賜良機。於是，他將“和談”的念頭丟到一邊，決定乘此機會發動攻勢。
7月下旬，張作霖首先讓張宗昌、孫傳芳率部，從山東向南進攻。由於南京政府內訌，所部軍隊沒有鬥誌，故孫傳芳部進展順利，於8月8日重新占領徐州。8月17日，孫軍又乘勝打到長江北岸，占領了浦口。
張宗昌、孫傳芳部獲勝的消息傳到北京後，張作霖大受鼓舞，再次召開軍事會議，研究下一步計劃。與會者也都認為，整個形勢的發展對北方十分有利，故一致讚同張作霖繼續實行“反攻”計劃。會議還決定，津浦路南端的軍事行動由孫傳芳負責主持，張宗昌則組織所部魯軍“反攻”河南。此外，由張學良率部在京漢線北段對付山西閻錫山所部晉軍，得手後再南下河南，與張宗昌部合擊馮玉祥部國民軍。
這個“反攻”計劃，看上去雄心勃勃。但是，張作霖又一次錯誤地估計了形勢，結果再次嚴重受挫。
從8月下旬起，集結於長江北岸的孫傳芳部，開始發動新一輪反攻。他的計劃是從浦口、揚州、江陰三處同時渡江，然後分路進攻南京和截斷滬寧鐵路，得手後再攻上海，以收複他的江浙失地。8月25日和26日，孫軍先後占領滬寧路上的烏龍山、棲霞、龍潭、鎮江，並企圖圍攻南京。在十分危急的情況下，南京方麵派何應欽的第一軍和桂係李宗仁的第七軍迎戰孫軍。雙方在龍潭附近展開激戰。孫軍因背江而戰，傷亡慘重。8月29日，白崇禧帶援軍從上海趕到，孫軍三麵受敵，再也支持不住，不得不向江北撤退。但實際上，隻有一小部分人渡江回到北岸，大部分被包圍殲滅。孫軍此次反攻，終以慘敗告終，並從此一蹶不振。
張宗昌對河南的進攻，是從10月間開始的。魯軍與馮玉祥的軍隊先在徐州以西的東隴海線上激戰，並一度擊敗馮軍，於10月下旬先後占領歸德、民權、蘭封、考城等城，威脅河南省省會開封。但馮軍並未因此而垮掉。12月間，馮軍重整旗鼓，進行反攻。由於孫傳芳在津浦路失敗，張宗昌部兩麵受敵，被迫放棄10月間占領的所有城市，退回山東境內。12月16日，馮軍占領徐州，與沿津浦線北上追擊孫傳芳部的國民黨軍會合。
孫傳芳、張宗昌的相繼失敗，使奉係集團的士氣受到沉重打擊。從此，不論是張作霖，還是孫傳芳、張宗昌，都隻好專力防守，不敢侈談反攻了。
在京漢線北段作戰的張學良部情況稍好。8、9月間，閻錫山為配合南京和馮玉祥方麵作戰，曾命令晉軍乘奉軍不備發動進攻，一度占領京綏、京漢鐵路線上的部分重鎮，對奉軍造成很大的威脅。10月2日，張作霖發表討閻通電，宣布發動討閻戰爭。10月7日，張學良部即從保定等地出發，向晉軍反攻。由於實力懸殊，晉軍大部很快被擊退，張學良率奉軍奪回了宣化、張家口、定州、正定、石家莊等地。然而，占據涿州的晉軍傅作義所部第四師，雖已陷入奉軍四麵包圍，成了孤軍，卻在繼續頑抗，拒不投降。為了拔掉涿州這顆釘子，張學良將指揮部移駐高碑店，從10月15日開始，就近指揮奉軍向涿州發起總攻擊。不料，此次涿州之戰卻極不順利。到12月中旬為止，奉軍先後發動了九次總攻擊，動用了飛機、大炮、坦克等大批重武器，甚至還用了毒氣瓦斯，卻始終攻不下孤城涿州，最後不得不與傅作義部談判。12月30日，雙方談判達成停戰協議。次年1月6日，傅作義部出城受編，奉軍則在城門外“擺隊歡迎”，涿州之戰遂告結束。