到1928年，南方的國民政府北伐，國民革命軍勢如破竹，大勝北洋軍閥，很快攻入濟南。這時候，蔣介石手握軍權，成為最有實力的第一號人物。自古兩軍對壘，都在淮海一帶決戰，逐鹿中原，誰贏，誰就可以得到天下。隻要拿下徐州，攻入濟南，繼續揮師北上，平定北京指日可待。然而也就是在這個節骨眼上，日本人開始搗亂，在中國的領土上，借口要保護僑民，公開出兵占領濟南。說起來真夠窩火，本來隻是中國人在內戰，日本人非要橫插一杠。從內心深處來說，日本不希望北伐成功，不希望中國統一，不願意中國強大。不管是麵對北洋軍閥政權，還是麵對南方革命政府，日本人首先考慮的是在華利益，是利益的最大化。
兩軍對壘，難免擦槍走火，北伐軍的軍歌是“打倒列強，除軍閥”。一年前，國民革命軍攻入南京，發生了北伐軍人和當地流氓參與的暴力排外事件，造成各國外僑九死八傷，其中死者就包括一名日本人，日本領事館也在此次事件中遭洗劫。結果導致英美軍艦開火，日本海軍陸戰隊遵照日本政府的訓令，沒有進行抗擊，並拒絕參與英美的行動，而負責保衛領事館的海軍少尉荒木，感到未能完成護衛使命而自責，剖腹自殺。此事在日本引起巨大反響，一年後在濟南，盡管國民革命軍已經事先做了防範，要求嚴格約束部下，情況卻變得完全不一樣，日本人突然變得強硬起來，而且非常蠻橫，說幹就幹，直接出兵幹涉。
蔡公時臨危受命，出任國民政府外交部山東交涉員，在剛接手工作的第二天，日軍便持械進入交涉公署，置國際公法於不顧，蓄意撕毀國民政府的青天白日旗及孫中山畫像，強行搜掠文件。為避免事態擴大，蔡公時據理力爭，譴責日軍破壞國際法，結果被捆綁的“各人之頭麵或敲擊，或刺削”。蔡公時耳鼻均被割去，血流滿麵，臨終前怒斥日軍獸行，高呼：“唯此國恥，何時可雪！”從此，這個殉難畫麵被定格，成為濟南五三慘案中最為悲壯的一幕，它徹底顛覆了中日關係，而蔡公時與濟南這個城市再也分不開。
事實上，由於此前簽訂的一係列不平等條約，發生在濟南的中日衝突有其必然性。此次衝突，日方死亡軍人達二百三十名、平民十六人，中國方麵死亡高達三千人以上。十三年前，袁世凱在不得不簽訂賣國的《民四條約》以後，曾將簽訂條約的日期定為“國恥日”，民間老百姓弄不太清楚“民四條約”與“二十一條密約”的關係，隻是一味抱怨不應該簽訂。《民四條約》給了日本人法理上的依據，它埋下了禍根，成為中日衝突不可避免的死結。濟南慘案之後，蔣介石在日記中寫道：“身受之恥，以五三為第一，倭寇與中華民族結不解之仇，亦由此而始也！”據說此後蔣介石的日記中，“雪恥”二字不斷出現。很顯然，濟南慘案後果非常嚴重，甲午以來中國人遭受的恥辱記憶，被立刻喚醒，被迅速放大，中日雙方的極端民族主義情緒，經此事件也變得不可調和，它其實就是此後的“九一八”事變、“一·二八”抗戰、長城抗戰、盧溝橋事變、“八一三”淞滬抗戰的先聲。
蔡公時慘死是野蠻時代的一個見證，對後世有著永遠的警示作用。公理何在！公法何在！是可忍，孰不可忍！在文明社會，很顯然，公理和公法一旦缺失，人就有可能成為野獸。蔡公時本著一種和平意願，以協商的態度，以談判的方式，結果卻是在濟南殉職。他的死不隻是中華民族的恥辱，也是日本民族的恥辱，同時是“正派人難以想象的”全人類的恥辱。蔡公時的慘死給剛成立的南京新政權敲響警鍾，讓國民政府放棄了對日希望，丟掉了與其合作的幻想。與英美相比，日本才是更大的更危險的敵人。曆史地看，小不忍則亂大謀，國民革命軍並沒有因為蔡公時的慘死，就匆匆與日軍在濟南決一死戰，而是主動放棄濟南，犧牲濟南，忍辱負重繞道北上，最終完成了北伐大業。那年頭，還不流行核心利益一詞，然而很顯然，對於當時的國民政府來說，完成北伐統一全國，就是最大的核心利益。