北京政府問題解決了，張作霖決心奉軍南下。張作霖向吳佩孚表示，讓張學良以子侄之禮率兵南下，聽候吳佩孚的指揮調度。吳佩孚知道，這個子侄是不好接待的，趕緊聲明不要前來。
張作霖也失去了耐心，決定兵分兩路，直取河南。一路由直魯聯軍副司令褚玉璞進攻開封；一路改派張學良、韓麟春為援鄂軍總副司令，進攻鄭州。2月6日，張學良、褚玉璞在徐州召開會議，決定行動方略。2月8日，張作霖發出進兵河南的電報，電稱“茲分飭直魯聯軍及三、四方麵軍分途前進，誓收武漢，進取粵湘。豫中將士宗旨相同，即無歧視，其一切名義地位，悉仍其舊。師發在途。特聞。”這個電報還是想說明奉軍進兵河南，不是去占領你們的地盤，而是假道收回武漢，進攻粵湘。這個假話沒有一個人會相信了。
奉軍大舉進兵河南，吳佩孚的部隊土崩瓦解。
2月中旬，張作霖還調動吉黑兩省的軍隊進關，以保持長江以北的地盤。江浙兩省交給直魯聯軍張宗昌、褚玉璞負責。奉軍全力解決河南問題。奉軍在3月間占領了河南大部分地區，但是，1927年3月，北伐軍攻占了南京，孫傳芳被迫逃到長江以北。此時，張作霖在軍事上已經處於劣勢，顯出敗相了。
吳佩孚和張作霖這兩大派軍閥徹底鬧翻了。觀測風向的閻錫山知道必須自保，便提出了“保境息民”的口號。至此，張、吳、閻的三角討赤聯盟完全瓦解了。
（六）
當吳佩孚、張作霖聯合發動南口戰役攻打國民軍時，廣州政府為完成孫中山先生遺願，統一中國大業，組織國民革命軍誓師北伐，由蔣介石任總司令。
國民革命軍經蘇聯顧問的建議，整編為8個軍。將黨軍改為第一軍，蔣介石兼軍長（後為何應欽）；湘軍改為第二軍，譚延闓任軍長；滇軍為第三軍，朱培德任軍長；以粵軍第一師為骨幹和粵軍各部為第四軍，李濟深任軍長；粵軍第三軍改為第五軍，李福林任軍長；以程潛的攻鄂軍、吳鐵城的警衛師和一部分贛軍編為第六軍，程潛為軍長；以廣西李宗仁、黃紹竑的9個旅編為第七軍，李宗仁任軍長；湘軍第四師編為第八軍，唐生智任軍長。
廣州政府為防備雲南軍閥唐繼堯率部入侵，留下李福林第五軍外，由李濟深以國民革命軍總參謀長身份，坐鎮廣州指揮。實際上參加北伐的部隊隻有24萬多人。從數量上看，北伐軍部隊隻有奉、吳、孫和直魯聯軍總兵力100萬人的1／10。但是此刻的北洋軍閥已經分崩離析，矛盾重重，失去民心。 北伐軍對北方軍閥采取各個擊破、分化瓦解的方針。吳佩孚為第一進攻目標，孫傳芳為第二進攻目標，張作霖為第三進攻目標。同時提出首期作戰打倒吳佩孚、聯絡孫傳芳、不理張作霖的謀略。
吳佩孚失陷武漢三鎮的消息傳到奉天，張作霖在奉天於9月7日至11日，召開軍事會議，商討援吳“時赤”問題，會上有兩種不同意見，吳俊升、張作相等人仍然主張保境息民。而張宗昌、褚玉璞則要以派兵為名南下，把奉係勢力擴展到長江以南地區。張宗昌、褚玉璞主張奉軍南下有他們的打算，他們預料到北伐軍收拾完吳佩孚、孫傳芳，就該收拾直魯聯軍了，用奉軍代替吳軍和北伐軍作戰，能對直、魯兩省起到保護作用。張作霖認為，奉係采取保境息民的方針，可以苟安一時，北伐軍還是要打來的，在家門口打，不如出去打，而且張宗昌、褚玉璞積極主張援吳，要他們去打頭陣，他們不會反對。會議經過討論決定，“援吳討赤”，派張宗昌為援吳軍總司令，褚玉璞為前敵總指揮，張學良為預備軍總司令，並將這一決定電告吳佩孚，表示合作對抗北伐軍。
吳佩孚接到電報，擔心假途滅虢，托奉係代表張景惠攜吳的親筆函複張作霖，稱“本人尚有雄師十餘萬，力足恢複武漢，隻求接濟餉械，不需要派員來援，並建議奉軍派遣渤海艦隊載直魯軍南下直搗廣州，並且應允中央政治由奉方全權主持，本人不再過問”。吳怕張不采納他的意見，還給張發了電報，稱：“此間將領或於風傳，有假途滅虢之慮，弟如視兄尚有可為，請稍助餉械，聽其自謀，否則可令漢卿（張學良的字）來自取之，兄當遁跡世外。”
張宗昌並非真心效忠於張作霖，他自告奮勇地願意南下討伐北伐軍，是取悅於張作霖的一種手段，他並不願意把他的軍隊開到京漢路，張宗昌回到濟南，和他的總參議楊度商議，要楊度給他出主意。
楊度，字皙子，湖南湘潭人，民國初年，被袁譽為“曠世逸才”，他是君主立憲的倡導者，組織籌安會，為袁世凱策劃複辟帝製，是洪憲禍首，複辟帝製失敗後四處流浪，過去孫中山要他參加同盟會，他堅持君主立憲。1922年楊度到上海晉謁孫中山，痛陳過去走錯了路，從此追隨孫中山，致力於民主革命。
楊度給張宗昌當總參議，負有在軍閥內部造亂的特殊使命。楊度對張宗昌說：“這是一盤難下的棋，將軍下將軍的棋，張大帥下張大帥的棋，吳佩孚、孫傳芳又各下各的棋，將軍要下好自己的棋，必須先要了解別人的棋路，否則這盤棋會輸的。”張宗昌不解其意，楊度接著說，“張大帥的棋路擺得很清楚，將軍是援吳軍總司令，張學良是預備軍總司令，就是要將軍打頭陣。將軍打勝了，張大帥勢力擴大，穩拿勝利成果；打輸了，張大帥不過損失一支友軍，對他的直轄軍隊毫無損失。吳佩孚、孫傳芳的棋路，都是希望救兵為他們解圍，並由救兵去承擔 北伐軍的壓力。”楊度又挑撥說，“將軍好比是一個瓷盤子，人家鬥毆，拿起盤子就向對方砸去，後果是可以想象的。”張宗昌被楊度的挑撥所激怒，說：“俺老張給他個按兵不動。”楊度搖頭說：“將軍按兵不動，大帥必然惱怒，和將軍的關係就會決裂。吳、孫一垮，北伐軍馬上壓過來，將軍前臨大敵，後無退路。”張宗昌說：“你說俺老張怎麼辦？”楊度說：“目前孫傳芳正在九江督師，南京空虛，將軍不如乘機以援孫之名奪取南京，不過這就要和北伐軍取得諒解，事先派人和廣州政府聯係，約定夾擊孫傳芳，江蘇地盤就是將軍的了。”張宗昌聽了楊度的主意，誇獎地說：“先生真是俺的張子房呀！”張宗昌便請楊度作函表示願意歸附廣州政府，以驅逐孫傳芳，讓予江蘇地盤為條件，並且派心腹參謀長金壽良攜函到廣州接洽。不料，張宗昌和楊度的密謀被張作霖獲悉，派張學良去規勸張宗昌。張學良未打招呼突然來到濟南，當麵質問張宗昌有無南投意圖？張宗昌一驚，然後笑咧咧地說：“什麼大不了的事，也值得當真！”張學良說：“效坤！咱們兄弟可不能上當嗬！你是直性子、爽快、講義氣，但也容易上當。楊度這人的話不能聽信，他出的餿主意，是為他自己打算，他想投南軍（指北伐軍），拿你當作投降的資本，你什麼好處也得不到。如果國民黨得了天下，一定安插他的嫡係，對你效坤會過河拆橋。對山東來說，最穩當、最安全的做法是奉魯軍團結作戰，進可以戰、退可以守，即便和的話，我們一致行動，也是半壁江山。山東單獨行動，隻能被人家蠶食，逐個消滅。效坤這次不過偶然受人挑撥，本來不值得當真，我不過是提一下！”張宗昌順水推舟地說：“俺張宗昌全聽大帥的，牽馬提鐙都跟大帥走，請大帥一百個放心！”張宗昌這個人大大咧咧，誰都不怕，就怕張大帥。張學良和張宗昌閑聊間走進大廳，張學良見文武群集，隻是不見楊度，見到張宗昌的門上客薛大可，和他握手說：“請你告訴皙子，叫他當心他的腦袋。”張學良的警告傳到楊度的耳朵裏，知道事情不妙，就溜到北京去了。
奉天會議雖然決定派兵援吳，然而吳佩孚怕被奉軍吃掉，張宗昌也不願意出兵援吳，張作霖遂改變了原作戰計劃，以便把老把兄吳大帥推上梁山。
北洋軍閥集團麵臨的局勢岌岌可危，在這個時刻，孫傳芳、張宗昌一唱一和地推舉張作霖為北洋軍閥集團的首領，糾集北洋軍閥殘餘勢力，與北伐軍抗衡。然而北洋軍閥集團已經四分五裂，吳、奉雖然合作，但是吳佩孚時刻警惕奉軍假途滅虢。孫傳芳被北伐軍打得落花流水，而蔣介石以升官發財為誘餌，對地方軍閥進行策反工作頻頻奏效，張作霖雖然自恃有強大的軍事實力，但是逆潮流而動，終究擋不住北伐軍的進軍。
在張作霖就任安國軍總司令期間，北京政府發生了非法搜查蘇聯大使館武官處，逮捕殺害了中共創始人之一的李大釗事件。
1927年3月6日，蔣介石唆使他的爪牙，慘殺了江西省總工會副委員長、贛州總工會委員長共產黨員陳讚賢。以後，又接二連三地實施了一係列的反共措施，其反革命行為愈演愈烈。4月11日，蔣介石在南京密令：“已克複的各省，一致實行清黨。”4月12日，在精心策劃後，蔣介石於上海發動了震驚全國的反革命政變。這就是臭名昭著的“四·一二反革命政變”。4月15日在廣州又進行了反革命政變。繼“四·一二”、“四·一五”的反革命大屠殺之後，在全國掀起了一股反共逆流，無數共產黨員和革命人民犧牲在蔣介石的屠刀之下。
蔣介石在南方舉起反革命屠刀的時候，張作霖在北方也毫不示弱，向中國共產黨人和進步人士舉起了屠刀。他們在相互進行絞殺革命的比賽，競相向帝國主義邀功請賞。
當時，奉軍在北京大肆搜捕共產黨員，李大釗避居在外國使館區的蘇聯兵營。因夜間工作，寫文章，議形勢，被法國使館發現。法國使館就向北京政府報告，奉軍決定進入使館區捕人。1927年4月6日，奉軍300餘人取得了北京公使館的允許，由北京警察總監陳興亞、憲兵司令王琦率領，進入使館區搜查蘇聯大使館及蘇聯兵營，捕去了蘇聯工作人員16人及李大釗等革命人士35人。除蘇聯大使館外，中東路駐京辦事處及遠東銀行也都遭到搜查。
搜查蘇聯大使館的事件發生後，蘇聯政府向中國駐蘇聯代辦鄭延禧遞交了抗議書。鄭延禧私下認為，中國是個一向受人欺負的弱國，怎麼能敢於派軍警到使館區大批逮捕中外人員，因此他不假思索地說：“中國政府決不會幹這樣的事，想必是土匪所為。”這句話傳到北京，生平最忌諱別人提到土匪字眼的張作霖，不由得暴跳如雷地大罵：“外交人員怎麼如此混蛋！”嚇得顧維鈞急忙發電嚴厲斥責鄭延禧：“何得不問情由，擅發荒謬議論！”4月19日，蘇聯代辦齊愛爾尼克率領全體外交人員30餘人回國。
張作霖逮捕李大釗等共產黨人和革命誌士，激起了全國輿論的公憤。工人、學生、教師、學者、名流等，均想方設法進行營救。工人組織了劫獄隊，計劃武裝營救。李大釗在得知此計劃後說道：“我個人為革命犧牲光榮而應當，這已經是黨的損失，已經是我的罪過。我不能再要同誌們做冒險事情，而耗費革命力量。”
張作霖還派總參議楊宇霆勸降李大釗，被李大釗嚴詞拒絕。
當時，蔣介石還特“密電張作霖，主張將所捕黨人即行處決，以免後患”。在這一點上，新老軍閥倒是完全一致的。張宗昌惡狠狠地說李大釗是“赤黨禍根”，“巨魁不除，北京終久危險”。
李大釗奉軍憑借搜查到的一些文件，無中生有，深文周納，硬給李大釗等人扣上陰謀組織暴動的罪名，還煞有介事地編造了一個《蘇聯陰謀文件彙編》，把李大釗置於死地。奉軍裝模作樣地組織了一個軍事特別法庭，派何豐林為審判長，安國軍軍法處長顏文海為主席法官，審理被捕華人一案。4月28日判處李大釗等20位革命誌士以絞刑，即日執行。 被絞殺的革命誌士中，還有國民黨的左派人士鄧文輝、張挹蘭等人。臨刑前，李大釗憤慨地作了最後的一次講演：“我們深信，共產主義在世界、在中國，必然要得到光榮的勝利。”最後三呼“共產黨萬歲”，為共產主義事業獻出了寶貴的生命。
這是張作霖犯下的一個滔天罪行。在辛亥革命時，張作霖殺害了革命誌士張榕，得到了清廷的提拔。這一次，他用殘酷的手段慘殺了共產黨人和革命誌士，又得到了帝國主義的青睞。張作霖就是用他手上的鮮血來染紅他頭上的頂戴的。
再說1926年底，隨著北伐軍的節節勝利，連克湘、鄂、贛、閩諸省，廣州國民政府的統治區域大大擴展。於是，在1926年12月7日，國民黨中央決定遷都武漢。同日，國民黨中央和國民政府停止在廣州辦公，遷往武漢。
蔣介石發動“四·一二反革命政變”後，武漢國民政府和共產黨人對蔣介石的大屠殺表示了強烈的反對，並進行了憤怒的聲討。4月12日，國民黨左派聯名通電痛斥蔣介石的反革命罪行。4月17日，武漢國民黨中央和國民政府發布了《免蔣介石本兼各職令》，指出：“蔣中正屠殺民眾，摧殘黨部，甘心反動，罪惡昭彰，已經中央執行委員會議決，開除黨籍，免去本兼各職，著全體將士及革命民眾團體拿解中央，按反革命罪條例懲治。”
委任馮玉祥接替蔣介石的國民軍總司令職務，並任命唐生智為副總司令。武漢國民黨中央主張繼續北伐，與馮玉祥所部會師，打通同蘇聯的交通線，然後再進攻蔣介石。當時沒有掉轉槍口攻擊蔣介石，用軍事行動嚴懲蔣介石的叛變行經，是決策的一個重大失誤。這個繼續北伐的決定給蔣介石以喘息之機。