在國內，蔣介石複職了，而他複職後的首要任務當然是完成那未竟的北伐大業。桂係正在忙著兩湖的戰事，當然也沒興趣跟著老蔣瞎攪和，也就派了白崇禧率收編的唐生智殘部北上，老蔣的盟友主要是馮玉祥以及在晉奉大戰中吃了點虧的閻錫山，當然對手很明確，死了九成九的孫傳芳、坐鎮山東的張宗昌以及奉係老大張作霖。
龍潭一役，孫傳芳主力盡失，北伐實際上已經變成了國民黨和奉係的二人轉，而雖然奉係還控製著直隸和山東，但是由於山西閻錫山公然反目，馮玉祥進軍河南，蔣氏直入蘇北，山東和直隸業已變成了國民黨包圍圈中的獵物，事實上奉係在關內已經沒有多少可以仰仗的了。事實上，如果不是國民黨出現了內亂，奉係根本就不可能堅持到現在，但是奉係的堅持更多是苟延殘喘，隻要國民黨解決內亂問題，奉係就會隨時可能在關外崩盤。
張作霖當然也深知這一點，在蔣介石複職宣布繼續北伐後，他就已經在考慮依靠張宗昌的掩護將奉軍主力退往關外，進行戰略收縮了。二期北伐就像白開水一樣索然無味，張宗昌的魯軍遠不如吳佩孚和孫傳芳的部隊那麼有戰鬥力，所以諸如汀泗橋、南昌攻堅戰這樣的經典也不再出現，取而代之的是張宗昌且戰且退，蔣介石且戰且進，畢竟，張宗昌此時的任務根本不是保住山東，而是為張作霖的戰略轉移贏取充分的時間——從某種意義上說，張宗昌隻是扮演了肉盾角色。蔣介石於1928年4月開始進兵，一路沒有遇到任何根本性的抵抗，僅用了一個月不到，便率軍開進了濟南，基本完成了對山東的占領。
但是，山東是個很特殊的地方，五四運動爆發的原因就是膠東半島的問題。膠東半島一度是德國人的勢力範圍，德國在一戰戰敗後便失去了在遠東的地位，盡管中國最後沒有在巴黎和約上簽字，但是這並不代表日本就甘心失敗。山東居住著大量的日本僑民，這些僑民的成分非常複雜，包括間諜、商人、軍人等，這是日本為了侵占中國所進行的前期投資，當然，僑民的另一個作用是為軍事幹涉提供借口。
從清末到民初，日本在中國展開軍事行動最常見的借口就是保護僑民，最典型的就是日本幫助張作霖平定郭鬆齡的叛亂，而這次日本如法炮製，再次以保護僑民為借口向中國用兵。山東一直被日本視為自己的囊中之物，而原本山東的張宗昌隸屬奉係，雖然張作霖與日本打交道時極盡圓通之能事。但是不能否認的是，奉係和日本畢竟還是親善關係，山東在奉係手裏和在國民黨手裏，這對於日本來說是完全不同的概念——畢竟站在蔣介石身後的是美國。日本要出兵，根本目的是不想讓假想敵美國在山東落腳，膠東半島的軍港戰略價值非凡，日本要稱霸遠東，當然就不能讓如此的戰略重地進入美國的勢力範圍。因此，蔣介石在山東的軍事勝利觸動了日本的神經，日本不願意跟著奉係一塊兒退回關外，因為他們的目標是全中國，而要占領全中國，山東就不可或缺。
因此，當國民黨開始進行二期北伐後，在膠東半島觀察局勢的日本間諜坐不住了，日本駐濟南武官酒井隆就將此事報告了參謀本部，而參謀本部則立即抽調第六師團從青島登錄，開入濟南。等到5月1日蔣介石占領濟南時，濟南的日本駐軍已經有3000餘人，他們在城內建築工事，架設路障，並組織戒嚴，儼然把濟南當成了他們的占領區。北伐軍進入濟南後就遭到了日本軍人的無禮挑釁，軍人被殺，軍隊被繳械，北伐軍雖然人數占據絕對優勢，但是卻對此毫無辦法——蔣介石不想在北伐行將勝利時多生枝節，所以勒令軍隊保持克製。
當時中國的混亂局勢讓蔣介石根本沒有能力去應付一場與日本的戰事。當一個人衰弱時，就必須忍受別人的挑釁，想反抗？好吧，等來的將是瘋狂的海扁，這就是弱者的無奈，那些在你受辱時指責你過於懦弱的人絕對不會在你反抗時幫你一把，相反，他們會躲在後麵看熱鬧，鼓掌叫好，甚至說不定還會在你倒黴時踩上一腳。因此，當你無力與強者對抗時，最好的辦法就是隱忍，然後徐圖自強，等待時機，君子報仇，十年不晚。
中國近代史上有很多屈辱的事件，我們發現很多時候當事者的選擇都是隱忍，這並不是軟弱，而是打脫牙和血吞的氣概，現實的政治跟誇誇其談的清議完全是兩個概念。弱國無外交，同樣，弱國人民也必須時刻把握住自己的情緒，就如義和團一般，鬧得越凶，損失越慘。息事寧人，這是弱國處理突發性外交事件時的基本準則，因為把事情鬧大，最後吃虧的還是自己。政治，從來就不是逞一時之勇的舞台，進退之道本身就充滿著無奈。