蔣介石也被弄糊塗了。過度的滿足使他有些疲倦。他靠著椅背假寐了不到15分鍾，就聽到遠處響起連珠的機關槍響。他兀自奇怪：“敵軍張宗昌不是早已狼狽逃過德州、離此已有幾百裏路程嗎？敵軍是絕不可能反攻的！”他命令侍從副官趕快查看。
副官回來就比畫開來：“不是張宗昌，是日本兵跟我們的人打起來了！我還看見路上有我們兩個同胞被日本兵刺死了！”
蔣介石臉上痛苦地一抽，說道：“糟了，上了日本人的當了！原來他們剛才是來打探我是否還在城內總部裏，然後再來決定對我們的態度及其預定計劃。”事後才知，率先出擊的日軍正是西田宣稱“即日返津”的派遣隊，突襲的路線正是他們拆除工事的路口，瞬間，東、西兩“警備區”的日軍如黃蜂一般傾巢而出，發動了預謀的、不宣而戰的突然襲擊。
蔣介石背在身後的兩指扯緊了，又鬆開，馬上命令各師長，各自約束部隊，無令不許外出，避免與日軍衝突。同時派聯絡參謀長將此意轉達日本福田司令官，要他同樣命令日本軍隊，以免兩軍擴大衝突。
史學界普遍認為：“濟南慘案”是中日兩國最初發生的正麵軍事衝突，也是中日兩國長期戰爭的序幕。
事件的肇端是這樣的：當天早晨，有國民革命軍第四十軍（軍長賀耀祖）所屬的一名士兵生病，同伴要送他到國民政府外交部山東交涉署對麵的基督教醫院治療。經過商埠區時，日本兵阻止通行，由於語言不通而發生爭執。雖然就這麼一點小事，可對於等待挑釁機會的日軍來說，就是一個很好的借口。他們不問情由、不待理論便突然開槍，當場打死中國一名士兵和一名役夫，其餘的人見勢不妙，躲進醫院。日軍則將醫院包圍，用機關槍亂射，於是乎，戰火一經點燃，全市都響起了槍聲。
日本方麵當然不這樣說。在他們陸軍省5月13日發表的《濟南事件概要》中有一段文字：“3日上午9時半左右，日本人吉房長平在麟祥門外的《滿洲日報》代銷所中，有中國兵二三十人闖入，日本領事館巡查岡田繁一立即前往該處，反而被中國兵毆打，是故乃由中久米川中尉率領自天津調來濟南的一部分日軍趕到現場，中國兵則逸入附近兵營。兵營崗哨首先向日軍開槍，日軍不得已而還擊。以此為開端，中國兵在各處同時開始攻擊。”正好將事實倒了個個。
不到15分鍾，日軍便將其占據的城外商埠地區各交叉路口，用沙包鐵絲網構築了防柵，完全切斷了交通。連蔣介石派往日軍司令部的人也無法通行。蔣介石急不可耐，又往日軍司令部掛電話，通知福田司令官，說他已經命令所有濟南城外的中國軍隊於下午5時以前一律離開濟南，同時請福田也約束日本軍隊不要再亂放槍炮，傷害市民。
福田回了一封信，說他願意同蔣介石的人開一個會議，來調查今天衝突的經過，要蔣介石派員到日本司令部去。
日近黃昏，槍炮之聲沒有停息。日本軍隊故意亂放槍炮。
蔣介石接到福田的信，滿臉怒氣，指示副官答複他：“給他回信，就說日軍應趕緊派人到我們總司令部來開會。”
信送走了，蔣介石依然坐立不安。直到當夜12時，福田才有回信來，說他不能派人到蔣介石的司令部來，堅持要蔣介石派人到日軍司令部去。
蔣介石不能平靜了，在屋裏大步來回走著，怒睜著眼，額角上青筋隨著呼呼的粗氣一鼓一脹。他的拳頭擱在那張寬大的辦公桌邊緣，吩咐副官：“以我的名義再給他寫封信，就說如果要我派員到日軍司令部去，那就是日軍沒有誠意；亦就可以認定今天不是為了小事衝突，而是日軍把我們當成了敵人。這樣，我就絕不能派代表到你司令部裏。”