原來，這場“府院之爭”的導火線，源於中國是否應該對德國宣戰的爭議。當時正值第一次世界大戰的膠著期。英、法、日本等協約國為擴大對德戰線，曾向段祺瑞暗許，中國若對德宣戰，協約國（特別是日本）將給予北洋集團以資金和軍火援助。這就大大有利於段祺瑞擴充自己的實力為實現獨裁創造條件。因而段祺瑞決心要迎合日本人心願，實行對德宣戰。而黎元洪為了遏製段氏憑借外援擴充實力的野心，偏在這個問題上堅持不與段祺瑞妥協，力主中國保持中立，不與德國絕交宣戰。張勳對這場爭鬥的實質了如指掌。他突然發現在這場混戰中，無論站在誰的一邊，都對自己沒什麼實質性的好處。而且，法國和日本還曾先後逼迫他親自向兩國使者低頭謝罪，這兩次受辱的陰影幾乎永遠無法從他心頭抹去，而比較起來，德國在他的印象中反而要好一點。這一方麵是因為他在小站練兵那些年跟德國教習巴森斯等人交過朋友，彼此建立了一定的信任；另一方麵是因為當年他在兗州圖謀倒袁時，曾通過寓居青島的溥偉等人與德國人洽商過從德國購買軍火的問題，並得到過德國人的暗中允諾和支持。現在段祺瑞要投入日本和法國的懷抱攻擊德國，曆來講義氣的張勳自然感到接受不了。此外，段祺瑞於4月25日召集各省督軍及特區都統到北京開會，儼然又擺出總理的架子，公開出麵，親自布置倒黎運動，使得張勳這位“北洋盟主”頗感受了冷落，堂堂的“老大哥”，怎麼肯甘心給那神氣活現的段總理“小老弟”提靴子當啦啦隊員？正是這一切，使得張勳無論如何再無興趣跟著段祺瑞瞎起哄。他不僅不附和各省督軍擁段絕德，反而公開通電反對段祺瑞的絕德主張。不久，段祺瑞強行宣布與德國斷絕外交關係，德國駐華公使辛慈被迫下旗離華回國時，張勳還特約辛慈的專車在徐州停留了兩個多小時，並親自登車與辛慈進行了親切交談。
張勳的不合作態度，弄得段祺瑞一時大慌，急忙召倪嗣衝和徐樹錚到眼前密商，最後決定無論如何要緊緊拉住這位辮子大帥不放，以免他在北洋內部搗蛋，打破他的整體部署。具體的辦法還是給他灌米湯，極力恭維他為北洋盟主，慫恿他接著召開第四次徐州會議，由他牽頭率領督軍團再次向黎元洪發難。倪嗣衝是一個沒有靈魂的勢利之徒，他曾是袁世凱稱帝的積極擁護者；袁死後，他夥同張勳成了積極的複辟派；現在，他又投入段氏門下當起了老走狗。此番進京開會，他被黎元洪召進總統府斥責了一頓，因而對黎恨之入骨。徐樹錚陰險奸猾，眨眼一個鬼點子，綽號“小扇子”，說明他善於扇陰風點鬼火，是段祺瑞的黑高參。這兩位領了段的旨意，便一前一後圍著張勳吹捧不迭，又勾結張勳的參謀長萬繩木式不停地攛掇張勳趕緊召開第四次徐州會議。
於是，張勳不僅覺得有了麵子，而且又突然發現這還可能給他的複辟事業帶來新的契機。他暗示同意幫助段祺瑞倒黎，但段祺瑞必須讚成他擁護清帝複辟，而且還要勸說馮國璋亦取同一態度，結果，經過倪嗣衝、徐樹錚等人緊張活動，馮國璋果然欣然同意派胡嗣瑗為代表參加會議，而且明確表示“唯大哥馬首是瞻！”
這麼著，到5月22日，第四次徐州會議果然熱熱鬧鬧地開起來了。除了段總理、馮副總統和少數幾個省是派代表參加之外，親臨參加大會的督軍、省長大人即有直隸的曹錕、山東的張懷芝、安徽的倪嗣衝、浙江的楊善德、福建的李厚基、江西的李純、河南的趙倜、湖北的王占元、奉天的張作霖、山西的閻錫山、陝西的陳樹藩等11位，真可謂盛況空前。
會議的公開主題是倒黎。特別是會議的第二天，又傳來黎元洪下令免去段祺瑞內閣總理職務的通電，更激起與會者“義憤填膺”。倪嗣衝甚至拍著桌子連哭帶罵，誓與黎元洪不共戴天。於是，就產生了推倒黎元洪之後，應該接著推舉誰出來當總統的問題。這時，北洋軍閥內部直、皖兩係已經形成。因而皖係的都提名段祺瑞，直係的提名馮國璋，非皖非直係的則提名徐世昌。張勳為非皖非直係者，但他對這三個人都不感興趣。他所念念不忘的是真命天子溥儀。不過，他想讓溥儀當的不是總統，而是皇帝。因此，他對於會議擱淺在一個總統問題上徒然浪費時間頗為不滿。他決定抓住時機立即深化會議主題，把大家的注意力迅速引向他的預定目標。他對與會者說：“各位如果還想辦共和、選總統的話，最好還是先辭了督軍去當議員。因為共和民國的《約法》規定總統隻能由國會選出，並沒有賦予我們各省督軍、省長選舉總統的權力。所以，我看，如果要選總統，我們這會也就不必再開了。”
眾人一聽，立時便明白了張勳的意思。想一想，張勳說的也確有道理；何況眼下看來，無論是推舉段、馮，還是徐，都難取得一致意見，不如順風張帆，就依了張勳，來他個還政於清，誰也別想獨占便宜。
於是，山東督軍張懷芝首先響應說：“少軒說的不錯，媽那個巴子，要是搞雞巴共和，我們的說話權連個狗屁議員都不如。我讚成，還是依了少軒平日的主張，實行複辟。這事兒倒正經適合我們來幹！”
接著，倪嗣衝、趙倜、李厚基、王占元、張作霖、曹輥以及段祺瑞的代表徐樹錚、馮國璋的代表胡嗣瑗等人相繼發言讚成複辟。其他各人雖有心懷疑慮者，但見段、馮代表都一力讚成，也就沒有什麼話說，齊聲應承下來。
接著，研究進行辦法。倪嗣衝主張就此約定日期，請張勳率領大夥一股腦兒打進北京，把黎菩薩和所有民黨議員一個個提溜到菜市口砍掉腦殼，然後請小皇帝登位了事。張勳說：“這麼幹太魯莽。不如大家回去一個個宣布與黎菩薩中央脫離關係，擁兵獨立，並向北做出用兵的姿態，咱張某暫且裝個中立，等黎菩薩見勢嚇得沒辦法時，他就會請咱進京調解。咱進了京就逼迫黎菩薩解散國會，並叫他讚成咱複辟。那樣，廢除民國、複辟大清之事就是總統‘自願’決定的，免得社會上那些多嘴多舌的刁民對咱說三道四，咱就可以實得成功而不擔輿論指責，豈不更好？”眾人聽說一齊鼓掌稱妙！說：“想不到少軒大哥如此足智多謀，不僅曆來用兵如神，戰無不勝，而且熟諳政治，巧於機變，實為我等眾人所不及。”