第二次交鋒，在“皇姑屯事件”之前十幾天。據《世紀情懷—張學良全傳》記載，5月17日晚，芳澤向老帥麵交照會，提出索取滿蒙權益的要求，逼他立即答應。同時威脅說，張宗昌的兵在濟南殺死幾十名日本僑民，大元帥應該對此負一切責任。麵對芳澤的威逼恫嚇，張作霖勃然大怒，氣得把手中的翡翠嘴旱煙袋猛力往地上一摔，聲色俱厲地衝著芳澤說：“此事一無報告，二無調查，叫我負責？他媽拉個巴子的，豈有此理！”說完，扔下芳澤，怒氣衝衝地離開了客廳。這天晚間，他們足足談了四個小時，最後就這樣毫無結果地不歡而散。
但是，芳澤仍不甘心，當他得知張作霖將要離京返奉時，於6月3日下午一時許，又到中南海來糾纏張作霖，硬逼他正式履行“日張密約”的手續。張作霖推說：“現在太忙，等我騰出手來簽字以後，再通知你來取。”過了三個多小時，芳澤再次前來索取。張囑外事人員把他讓到客廳等候。這時，張在辦公廳內，故意高聲大罵：
日本人不夠朋友，竟在人家危急的時候，掐脖子要好處。我張作霖最討厭這種做法。我是東北人，東北是我的家鄉，祖宗父母墳墓的所在地。我不能出賣東北，免得後代罵我張作霖是賣國賊。我什麼也不怕，我這個臭皮囊早就不打算要了！
罵了一通，張作霖便叫人把一遝文件返還給芳澤，說老帥太忙了，不能會見，還請原諒。芳澤心想，反正已經簽署了，不見也罷。待他回到使館，打開文件一看，原來張在文件上，隻簽了個“閱”字，既未署名，也沒有“同意”字樣。這時，芳澤才知又上了張作霖的當。
後果不難設想，日本關東軍的最後一著，必然是“圖窮匕現”。隻是，張作霖缺乏足夠的警覺。他總是以為，身為安國軍大元帥，堂堂的國家元首，小鬼子“其奈我何”！即使離京，他也要擺擺排場，不能給人以倉皇出逃的敗軍之將的印象。於是，乘坐前清老佛爺慈禧太後的豪華花車，掛了二十多節車廂，浩浩蕩蕩，出關而去。對於日本關東軍的無恥伎倆和狡詐行徑，他始終估計不足，警惕不夠。在這一點上，張氏父子犯下了同樣毛病。結果是，未出三年，前者粉身碎骨在皇姑屯，後者蒙羞含垢於九一八。
千秋功罪
張學良對於他的父親，感情極為深厚；而張作霖對於這個“小六子”，更是舐犢情深，寄予了深深的厚望。多少年以後，少帥還記得：當年父親離京回奉的時刻，他同楊宇霆、孫傳芳等人，都在站台上歡送。老帥和他們一一握別之後，特意把他拉到身邊，輕聲說：“等回到奉天，爹給你補辦生日！”聽了，他一愣，值此國事蜩螗、內憂外困集於一身之際，父親居然惦記著他的生日！當即感動得熱淚盈眸。豈料，第二天—正是他的生日那天，父親竟然身遭重厄，自己的生日成了父親的忌日。這樣，他就再也不在這一天過生日了。直到彌留之際，父親還鄭重囑托：“叫小六子快回沈陽。我這個臭皮囊不算什麼，告訴他以國家為重，好好地幹吧！”
多少年以後，少帥還記起當年父子合作共事的那段黃金歲月。那是1922年，奉軍在第一次直奉戰爭中遭到慘敗，退回山海關外。作為東三省保安總司令，老帥決定成立陸軍整理處，以便“整軍經武”，重振雄風。這時，在他心中，已經明確張學良作為接班人，因此委任為整理處參謀長—這樣，就可以名正言順地參與最高層的決策了。這天，他把學良叫到自己的房間，說：“小六子，這一仗我們輸得忒暴了，十幾萬人的隊伍，隻在長辛店打了七天硬仗，就全線崩潰了。若是沒有你和郭鬆齡兩個旅打了幾場阻擊戰，隻怕撤也撤不回來了。今兒個我沒找別人，就想聽聽你的實話。看來，奉軍非改良不可了，可又拿不準怎麼個改法。”
兒子略一沉思，便說：“學良想，主要的事情是培養和提拔軍事人才，訓練精兵，整編龐雜的隊伍，”
老帥說：“好！就這麼辦。”
在這次整頓隊伍中，張學良經手做了大量實際工作，特別是在協調各方的能力方麵，得到了很好的鍛煉。幾十年之後，那些老東北軍人還津津樂道講武堂上老帥、少帥同台講演的逸聞—
當時，老帥是堂長，少帥擔任監督。每期學員結業，老帥都要到場祝賀，一般的都由少帥出麵講話；這次是第一期，老帥特別看重，要親自給大家訓話，特意叫秘書給擬了個講話稿。他登上講台之後，剛說了“作霖戎馬半生，飽經事變”，下麵的詞兒已經忘得一幹二淨。台上台下，寂然無聲，他越發尷尬，便說：“他媽拉巴子的，我來之前，講稿背得滾瓜爛熟矣，看見你們一高興，竟全盤忘記矣！”於是，他走下講台，巡視一周，遇到年貌較輕的，便問上一句“什麼名”，然後誇他“好小子”。這樣鬧了一陣，便又重新登台，放開喉嚨講下去：“你們知道現今的潮流嗎？中國是誰的？就是咱們的。你們都是好小子，好小子就得好好幹！譬如你們畢了業，就可以當排長，不久就給你們升連長，再升營長、團長。隻要知道努力，不貪生怕死，有功我必賞。要什麼，我都可以給什麼。但是，有一樣我不能給，”話音落下，稍作停頓，然後撲哧一笑，“我的太太可不能送給你們。”引起了全場歡聲一片。
張學良的講話，就顯得文縐縐的了：
今日為本隊第一期畢業之日，爾等學兵曆經六閱月之勞苦，獲茲圓滿之成績，本人無任欣慰。惟盤桓半載，不日離別，未知後會何日，則又不勝戀戀。今以“望、愛、熱”三字為臨別贈言，其細聽之！望者，希望之心也。望汝等勿以地位卑微而自棄。人人自奮，國力以張；人人自棄，國勢必亡。故須抱希望心；愛者，愛人民也。吾軍人食國家之糧餉，而欺壓百姓，非國家養兵之意也。故須具愛國心；熱者，熱心也。天壤間事，悉由熱力做來。敷衍從事，萬事難成，故人人須有熱心。
父子二人“整軍經武”的願望是一致的，但目標不盡一致。從他們的講演中，就可看出，不僅風格各異、氣質不同，而且，在向往與追求方麵，是大有歧異的。
整軍的效果，加上有利的政治形勢，使兩年後的第二次直奉戰爭，以奉軍大獲全勝告終。但此後，少帥與老帥的思想分歧就日益顯著了。
“是軍人，但不願為軍閥。”少帥這句話，透出了全部的症結所在。作為典型的封建軍閥，老帥從個人的權勢、地位出發，著眼於擴充實力，擴大地盤，爭權奪利，威加全國，因而不惜窮兵黷武，禍國殃民。他要不停地“南下”，一仗接著一仗地打下去；而少帥更多地考慮到，如何把東北建設好；要打仗，應該是衝著帝國主義列強開火，而不能製造派係衝突，中華民族自相殘殺。他的這一主張，也得到了以“停止內戰，開發東北”為宗旨的郭鬆齡的全力支持。這樣，張氏父子的矛盾衝突，自然會在郭軍反奉的鬥爭中，充分地彰顯出來。
但是，作為軍人，作為下級，作為孝子，張學良仍然要聽從老帥的調遣，一次又一次地投入軍閥派係的戰爭。直到1927年6月，張作霖如願以償，登上中華民國陸海軍大元帥的元首寶座，仍然還發動奉軍與晉軍疆場鏖戰。不久，又雙方通電，宣告停止軍事行動。張學良問他父親：“你今天跟這個打，打過之後又好了；明天又跟那個打，究竟是什麼目的呀？這純粹是造孽。是誰給老百姓造成的？那就是我們啊！”
一年過去，奉軍又和蔣、閻、馮的三角同盟打上了。就在各派血戰方酣之際，張學良從冀南前線前往中南海居仁堂麵見老帥，簡單地報告了戰況，他又一次提出撤軍的建議。老帥聽了，大發雷霆：“我當了快一年的陸海軍大元帥，中國還沒有統一，你就想撤兵不打了，你小子這不是拆我的台嗎？”
少帥誠懇地勸說父親：
天下哪有兒子欺騙爸爸的。我說咱們東北軍統一不了全國，這是實話，是真話。咱們隻有幾十萬軍隊，現在過了黃河，再往前就過長江了，孤軍深入，乃是兵家大忌。後麵沒有預備部隊和援軍，馮玉祥、閻錫山要是抄了咱們的後路，再想撤也撤不了啦！中國打內戰，日本最高興。他對各方都支持，就是鼓勵你打下去，這是鷸蚌相爭，漁人得利。
當時，老帥是聽不進去的；後來為形勢所逼，敗局之下，才被迫罷兵，但為時已晚了。
當然，張氏父子也有完全一致的地方，那就是興辦教育，培養人才。他們都深信，國家的前途、命運，最終決定於人力資源，一是人心向背，二是人才培養。因此，他們籌建東北大學，不惜投入巨資，吸收了大批頂尖級的專家、教授；整個校園占地九百畝，發展潛力非常大，這樣大的校園，當時在全國首屈一指。李鼎彝（台灣著名作家李敖的父親）回憶當日情景，說：“每逢孔子誕辰，張作霖都脫下戎裝，穿著長袍馬褂，到各個學校，給老師們打躬作揖。坦言自己是大老粗，什麼都不懂；隻懂得把教育下一代全都仰仗各位老師，特地趕來致謝。他的態度，誠懇感人，所以大家都盡心竭力。”
白雲蒼狗，世事滄桑，時光過去了八九十年，一切已經水落石出。關於張作霖的曆史評價，曆史學家陳崇橋認為：“蓋棺論定，張作霖是個做了許多壞事的封建軍閥，但也幹了一些好事他是一個複雜的人物，對他持全盤肯定和全盤否定的觀點都是不對的。”
張作霖傳記作家徐徹指出，所謂壞事，當然指他鎮壓辛亥革命、五卅運動；連年窮兵黷武，爭奪地盤，為害人民；反對共產黨，殺害革命領袖李大釗，等等。但觀其一生，也有應予肯定的部分。對內方麵，重用人才，興辦教育，發展實業，修建鐵路，鎮壓俄國操縱的蒙古民族分裂分子的叛亂，為東北地區的穩定、發展，做了很多工作；對外方麵，日本夢想吞並中國東北，對張作霖千方百計威脅利誘，強迫他簽訂喪權辱國條約，而他則絞盡腦汁，巧於應對，或推托，或抵賴，或翻臉，或裝傻，情況危急時爽快答應日本人要求，過後便斷然推翻原來的承諾。這是作為特殊曆史條件下的特殊曆史人物的特殊做法。對於日本人的威脅恫嚇，張作霖根本不在乎，他曾憤怒地聲言：“我不能出賣東北，東北是我的家鄉。我什麼也不怕，我這臭皮囊早就不打算要了。”
徐徹還引述著名學者金毓黻的論斷：“日人欲伸其巨掌於東省者久矣，光緒甲辰兩役所獲已多，猶未饜足。遇中原有事，輒向作霖有所要索，顳顬若不出口。作霖笑而麾之，或折以片言，嚐有以關其口而奪其氣。故當其世，東省中日交涉迄不得決，號為懸案。日人怯於積威，憚不敢發。然所以蓄怒於作霖者亦至深。故作霖亦終不免飲日人一彈。”最後徐徹做出結論：“總之，我認為，張作霖是一個具有一定愛國思想和民族意識的封建軍閥。”
應該說，這些論斷都是客觀而公正的。