五四運動爆發後，北京大學成為反動勢力集中攻擊的目標。“他們恨蔡元培，是把所有學界的舉動，都歸到北京大學；把大學學生所有的舉動，歸到蔡校長一人身上”。他們放出了種種攻擊北大、威脅蔡元培的謠言，如說要焚燒北大校舎，刺殺北大學生，要以三百萬金收買刺客暗殺蔡元培，還盛傳陸軍次長徐樹錚命令部隊把大炮架在景山上，炮口對準北大示威等等。北京政府誣蔑這次運動是“學閥操縱，學匪幹政”。在五月四日晚召開的閣員緊急會議上，當許多閣員攻擊蔡元培，並竭力主張解散大學，將蔡免職查辦，教育總長傅增湘為蔡解釋時，國務總理錢能訓竟質問傅：“汝謂蔡鶴卿校長地位不可動搖，假如蔡鶴卿死，則又何如？”北京政府還內定以馬其昶取代蔡元培的北大校長職務。開始，蔡元培認為營救被捕學生，是校長的職責，不計個人安危，“態度鎮靜而強硬”。他抱定“現職必辭，而非俟各學生一律安寧無事，決不放手也”。當時有學生勸其離京，他表示學生未全部釋放前，決不逃避責任；有人勸他為安全計改乘汽車，他亦不肯，仍照常坐馬車到校視事。被捕學生釋放後，反動政府並沒有放鬆對學生運動的壓製。5月8日大總統徐世昌竟然命令京師警察廳將已釋放的學生，重新“送交法庭，依法辦理”，並發出整飭學風、查辦北大校長（這個命令發出後又匆忙收回）等命令。在這種殘暴壓力和尖銳政治鬥爭麵前，蔡元培同情學生，憎惡軍閥政府，但他又深恐因自己累及學校，於是采取了離職出走的回避態度。5月8日這一天，他寫了一個給大總統和教育總長的辭呈，稱：“竊元培自任國立北京大學校長以來，奉職無狀，久思引退。適近日本校全體學生又以愛國熱誠，激而為騷擾之舉動，約束無方，本當即行辭職；徒以少數學生被拘警署，其他學生不忍以全體之咎歸諸少數，終日皇皇，不能上課，本校秩序極難維持，不欲輕卸責任，重滋罪戾，今被拘各生業已保釋，全體學生均照常上課。茲事業已告一段落。元培若再屍位本校，不特內疚無窮，亦大有累於大總統暨教育總長知人之明。敬竭誠呈請辭職，並已即日離校。一切校務，暫請溫宗禹學長代行。敬請大總統簡任賢者，刻期接任，實為公便”。晚十一時，他將自己在校中的東西全行搬出。9日清早，潛行乘車離京。出走前，他除委托工科學長溫宗禹代理校務外，還給北大師生留下了這樣一個啟事：
我倦矣！‘殺君馬者道旁兒也’。‘民亦勞止，汔可小休。’我欲小休矣。北京大學校長之職，已正式辭去；其他向有關係之各學校各集會，自五月九日起，一切脫離關係。特此聲明，唯知我者諒之。
蔡元培被迫出走的消息，在青年學生的心中引起軒然大波。北大同學把蔡元培留下的條子油印散發到各校，許多人對條子中引用的典故不解，議論紛紛。有的人望文生義，謂“君者指政府，馬者指曹章，路旁兒指各校學生。”這完全是誤解。若是，則是蔡元培把一切罪過都推委到學生頭上了。這顯然違背蔡的本意。
10日，文科教授程演生回答了學生詢問，指出這個典故的出處和含義：“‘殺君馬者道旁兒。’《風俗通》曰，殺君馬者路旁兒也。言長吏養馬肥而希出，路旁小兒觀之，卻驚致死。按長吏馬月巴，觀者快之，乘者喜其言，馳驅不已，至於死。”認為蔡用此語，大意是自己所處的地位如若不走，“徒循他人之觀快，將恐溺身於害也。”“民亦勞止，汔可小休”句，出自《毛詩·大雅·民勞》。程解釋說：“所謂民者，或自射其名耳（孑民）。言已處此憂勞之餘，庶幾可以小休矣。倘取全章之義，則不徒感歎自身，且議執政者也”。程最後還特別指出，若對蔡的啟事望文生義，造出他倭過於學生的謠言，“若是說去，成何意義？可發一笑。賢者雖明哲保身，抑豈忍重責於學生耶！”
後牽，蔡元培對他引用“殺君馬者路旁兒”一語，解釋為“但取積勞致死一義，別無他意”；引用“民亦勞止，汔可小休”一語，解釋為“但取勞則可休一義，別無他意”。其實，他離京出走的根本原因，是要以個人的引退，來保存學校，保護學生免受迫害。當時北京政府是把他視作這次學生運動的總後台，而集矢於他的。“蔡孑民入長大學，容納新潮，大倡改革，久為政府所妒忌，故前已有改組大學之風說。而此次風潮，又發生於大學校，反對黨借題發揮，知者為蔡氏危，且為教育之前途苦矣。”所以他辭職出走，確是君子用心良苦。這從當時報紙報道他在天津與友人的談話中可以看到：
得天津確實消息，蔡孑民已於十日乘津浦車南下，登車時迨有一素居天津之友人往站送他客，遇蔡君大詫異曰：“君何以亦南行？”蔡對曰：“我已辭職”。友曰：“辭職當然，但何以如此堅決？”蔡曰：“我不得不然。當北京學生示威運動之後，即有人紛紛來告，謂政府方麵之觀察，此舉雖參與者有十三校之學生，而主動者為北京大學學生。北京大學學生之舉動，悉由校長暗中指揮。故四日之舉其責全在蔡某。蔡某不去，難猶未已，於是有焚毀大學、暗殺校長之計劃。我雖聞之，猶不以為意也。八日午後，有一平日甚有交誼而與政府接近之人，又致一警告曰：‘君何以尚不出京？豈不聞焚毀大學、暗殺校長等消息乎？’我曰：‘誠聞之，然我以為此等不過反對黨恫嚇之詞，可置之不理也’。其人曰：不然，君不去將大不利於學生。在政府方麵以為君一去，則學生實無能為，故此時以去君為第一義。君不聞此案已送檢察廳，明日即將傳譏乎？彼等決定，如君不去，則將嚴辦此等學生，以陷君於極痛心之境，終不能不去。如君早去，則彼等料學生當無能為，將表示寬大之意以噢咻之（按：表示撫慰病痛之聲。天津《益世報》報導此消息時，此處三字為‘敷衍之’），或者不複追究也。我聞此語大有理，好在辭呈早已預備，故即於是晚分頭送去，而明晨速即離校以保全此等無辜之學生。”隨後，蔡又告此友人：“八日午後，尚有見告政府已決定更換北京大學校長，繼任者為馬君其昶。我想再不辭職，倘政府邊不及待，先下一令免我職，一人之不體麵而猶為小事，而學生恐不免起一騷動。我之急於提出辭呈，此亦其旁因也。今我既自行辭職而繼任又為年高德劭之馬君，學生又何所歉然而必起騷動乎！我之此去，一麵保全學生，一麵又不令政府為難，如此始可以保全大學。在我可謂心安理得矣。”蔡元培在天津的這個談話，同他留給北大師生啟事的深意，是相符合的。對於今後的行止，他表示：“我將先回故鄉視舍弟，並覓一幽辟之處，杜門謝客，溫習德、法文，並學英語。以一半時力，譯最詳明之西洋美術史一部，最著名之美學若幹部。此即我此後報國之道也”。