蔡元培一生嫉惡如仇，對當時汙濁的軍閥政治深為不滿。1917年7月，當辮師張勳上演複辟醜劇時，他憤然辭職，離京赴律，賃屋居住。五四運動中他遭到反動勢力迫害時，又隻身出走，辭職明誌。他曾多次用辭職辦法表示對軍閥政府的抗議，於是這種不合作主義成了他不向惡勢力妥協的一個武器。
蔡元培以為個人的引退，有助於改變現實的局麵；而且他認為近年來國家政治紛爭的原因，“都是由不知退的小人釀成的”。他曾敘述道：
當民國七年南北和議將開的時候，北京有一個平和期成會，我也充作會員。會員裏麵有好幾位任北方代表的，中有一位某君在會中發言道：“諸君知道辛亥革命，清室何以倒的這樣快？唯一的原因，是清朝末年，大家知道北京政府絕無希望，激烈點的，固然到南方去做革命的運動；就是和平點的，也陸續離去北京。那時候的北京，幾乎沒有一個有知識有能力的人，所以革命軍一起，表項城一進北京，清室就像‘拉枯摧朽’的倒了。現在的政府也到末日了，且看他覺悟了沒有。若是這一次他還是不肯開城布公的與南方協議，那就沒有希望了。我們至少應該相率離京，並家眷也同去。”我那時聽了這一番話，很為感幼。
這裏對辛亥革命曆史事件的解釋顯然是不正確的，但他這種能人引退的看法和蔡元培的不合作主張卻是相吻合的；後來蔡元培曾幾次轉述過這個意見。胡適在他的《蔡元培以辭職為抗議》一文中，曾有這樣的記載：
當民國八年三、四月間，歐美留學生在清華園開了三天的大會。那時正當安福部橫行無忌的時候，一班西洋留學生稍有天良的，都還想有所努力，所以大家推舉了幾個人，組織一個‘政治主張起草委員會’，擬了一個很詳細的政綱，一條一條的報告出來，都通過了。最後有一位先生似乎是張伯苓先生——起來問道：“假使政府不睬我們的主張，仍舊這樣腐敗下去，我們又怎麼辦呢？那時大家麵麵相覷，都沒有話了。蔡先生起來說：‘將來總有一日實在黑暗的太不像樣了，一班稍有人心稍為自愛的人實在忍無可忍了，隻好拋棄各人的官位差使，相率離開北京政府，北京政府也就要倒了。’這句話雖不是正式的議案，卻可以表示蔡先生在安福時代的態度。”
這種不合作的主張，固然是沒有從根本政治製度上著眼，並且片麵強調個人進退的作用，是不恰當的；但是，這畢竟表現了蔡元培剛正不阿的品格，以及他決不附和軍閥黑暗政治的鮮明立場，是難能可貴的。
1922年5月，發表了由蔡元培領銜，有胡適、王寵惠、羅文幹、湯爾和、陶知行等十六人簽名的《我們的政治主張》，提出了“好人政府”的口號，它說：“我們深信中國所以敗壞到這步田地，雖然有種種原因，但‘好人自命清高’確是一個重要的原因。‘好人籠著手，惡人背著走’。因此，我們深信，今日政治改革的第一步，在於好人須要有奮鬥的精神。凡是社會上的優秀分子，應該為自衛計，為社會國家計，出來和惡勢力奮鬥。”以便實行“公開的政治，有計劃的政治，憲政的政治”。認為這樣就能達到改革中國政治的目的。這個主張，企圖在武人政治和革命之間走一條新路，當然，這個宣言是針對北京軍閥政府的黑暗統治，從這點說並非完全消極的。但它這種反對“根本解決”，鼓吹“好人幹政”，客觀上隻能起保護反動統治、麻痹人民革命意誌的消極作用。正如中共中央對它所批評的：“據中外古今革命史上的教訓，你們這種妥協的和平主義，小資產階級的和平主義，正都是‘努力’‘奮鬥’‘向惡勢力作故’的障礙物”。應該說，蔡元培領銜簽名是被動的，這份政治主張是胡適起草的，他是被胡適拉來簽名並借重他名望而領銜的，當時連李大釗也被拉來簽了個名（十六位簽名者中有十一個是北大的）。胡適在3月12日日記中曾記載了發起經過：“7時打電話與蔡先生，借他的家裏開會，討論《我們的政治主張》，其餘各人，也在電話上約定11時相見。11時，在蔡宅開會，到者：梁漱溟、李守常、孟和、孟餘、湯爾和、徐伯軒（未約他，偶相值）、經農等。他們都讚成了，都列做提議人。蔡先生留我們吃飯。飯後他們都散了，我獨與蔡先生閑談。3時，王亮疇、羅君任也來。他們略有討論，修改了幾處，也都列名。連行知、在君、王柏秋、文伯和我，共十五人。下午，孟餘自行取消，加入一涵、慰慈，共十六人。”應當說，這個宣言所體現的反對武人專橫，要求民主政治即“好人政府”的主張，和蔡元培的政治思想則是頗為吻合的。
當然，從基本的方麵說，蔡元培民主主義的反帝反軍閥的立場是明確而堅定的。1922年10月4日，北京四十餘團體召開聯席會議，決定舉行國民裁兵運動大會並組織遊行，北大被列為北隊，並推定蔡元培為指揮；蔡元培、李大釗、林長民等並被推舉為講演員。10月10日，北京各団體約三萬人在天安門舉行國民裁兵運動大會，蔡元培擔任大會主席並發表講演，他提出要使國家富強長安，必須打倒軍閥，而要求裁兵是打倒軍閥的一個重要步驟。他說：“我國今日之窮乏，盡人皆知，而其原因，則歲入之大部分用於軍費，飽軍閥之私囊。想謀治安，必打倒軍閥。想打倒軍閥，必先裁去為軍閥羽翼之兵士”。他強調了國民的意誌和力量在反對軍閥鬥爭中的偉大作用，指出：“不知者，謂國民赤手空拳，焉能與有槍階級奮鬥，其實國民之精神凝結堅固，大足戰勝十萬毛瑟。試觀各國之革命史，無一不由國民發動。就中國言，其成績極為顯著。袁世凱當國，聲勢赫耀，洪憲自為，大拂國民之心，群起反抗，卒乃推翻。張勳複辟，國人非之，不數日張勳鼠竄，其勢力鏟除殆盡。迨後安福部橫行中國，無人不側目相視，不久安福竟成曆史上之一名詞。他如交通係利用軍閥，僭竊國柄，國民不予讚同，鳴鼓相攻，今皆消聲匿跡。凡此數者，皆我國民積極奮鬥嚴重示威之成功”。他號召國人團結奮鬥，“一方麵宣告軍閥之死刑，一方麵喚醒軍閥奴隸之兵士。政府若不履行我（國）民之意思，則為政府背叛國民，國民為驅除公敵計，當毅然下最後之決心，推翻此討好軍閥之政府”。這些觀點無疑是比較正確而深刻，也是相當激烈的。
1923年初，北大和北京學界爆發了一場直接針對軍閥政府的驅逐教育總長彭允彝的鬥爭。在這場鬥爭中，蔡元培再一次辭去北大校長職務，並表示了決不與北京政府合作的決心。
彭允彝是一個“早已見惡於國人”的無恥政客。1922年11月，北京政府由張紹曾組閣，彭任新內閣的教育總長。消息傳出後，引起了廣大師生的強烈不滿和反對。恰在這時，又發生了所謂羅文幹的金佛郎案。原委是這樣的：軍閥政府內部由於派係的鬥爭，11月18日，眾議院議長吳景濂和副議長張伯烈，夤夜向總統黎元洪告密，指控財政總長羅文幹訂立奧國借款展期合同時有納賄行為，要求將其逮捕。於是由黎元洪飭京師地方檢察廳將羅拘押。1923年1月11日，地方檢察廳宣告羅案證據不足免予起訴，羅文幹被釋放出獄。由於新內閣閣員在形式上需經過眾參兩院投票通過，彭允彝為討好吳景濂等政客以換取閣員的同意票，他於國務會議中提出羅案應交由法庭再議，羅文幹被重新收監。羅文幹曾經蔡元培約請兼任北大法本科講師，1921年蔡出國考察時又與他同行，因此蔡元培認為對他的操行是了解的。特別是蔡元培對彭允彝以教育總長幹渉司法獨立，認為是踩躪人權獻媚軍閥的勾當，表示了極大的憤慨。他與湯爾和、邵飄萍、蔣夢麟等人商議，認為有表明自己態度的必要。