張勳複辟的消息傳到天津之後，段祺瑞立刻召集他的學生傅良佐及其親信段芝貴等人開會，決定立刻起兵討逆。經過一番謀劃之後，段祺瑞決定聯絡駐馬場的第八師師長李長泰、湖南督軍譚延闓、湖北督軍王占元、直隸總督曹錕等人討逆張勳。
段祺瑞本是支持張勳複辟的，待張勳複辟幾天後又出爾反爾，起兵討伐，這其中的道理並不複雜，其實，這就是一場利用和被利用的智謀博弈。
張勳本想利用黎元洪趕走段祺瑞，然後再解散國會，驅逐黎元洪，使溥儀順利地登位複辟。可是，張勳沒有想到，段祺瑞會來一招“螳螂捕蟬，黃雀在後”。段祺瑞以退為進，先是利用張勳解散國會，逼走黎元洪，然後再起兵討伐張勳。這樣，他既可以名正言順地重掌政府大權，還可以贏得“再造共和”的美譽，可以說是一舉兩得，名利雙收。在複辟一事中，張勳實實在在地被老奸巨猾的段祺瑞玩了一把。
在得知各省督軍反對複辟後，張勳非常生氣，大罵他們不仁義。隨後，各路討逆的軍隊開到了北京，準備討伐張勳。
張勳有50營的“辮子軍”，每營大約有500人，但這次上京隻帶了10營，其餘的都在徐州，由張文生管理。張勳上京前，叮囑張文生：“我如果發電報，上麵寫速運花40盆，就立刻調40營兵力開往北京。”等段祺瑞宣布討逆的時候，張勳慌忙給張文生發電報，暗示張文生速帶40營“辮子軍”北上支援。可張文生呢，卻讓人從徐州帶了40盆花給張勳。
張勳走投無路，隻好自請開缺，憤憤不平地發了一個通電：“民國以來，戰爭迭起，國困人窮，這都是辦共和給鬧的，我隻是順應天命人意，還政大清，欲行君主立憲政體，乃是誠心誠意，不為個人謀利益，所行吾道不孤，凡我同各省督軍，多與其謀，東海徐世昌，河間馮國璋，尤深讚許，信使往還，都有證據證明。”
看到電報後，代理總統馮國璋下令將張勳的職位一概擼掉，打成罪人。段祺瑞的討逆軍更是不依不饒，非要張勳解除武裝，就地投降。
得知消息後，張勳火冒三丈。很多遺老勸張勳不要再做無謂的抵抗，但張勳對於這類勸說沒有任何反應。眾遺老束手無策，隻好紛紛逃離了京城。無奈之下，張勳又發出一紙電報，痛斥北洋係的同僚背信棄義，出賣朋友。但段祺瑞等人並沒有因為張勳的電報停止討逆，而是下令總攻張勳。
戰鬥開始後，大部分的“辮子軍”被擊潰並自願放下武器，割去了辮子，接受改編或者遣散。唯獨張勳私宅一帶的“辮子軍”頑強抵抗，戰鬥進行得非常激烈。討逆軍向段祺瑞請示用炮轟張勳的住宅，段祺瑞表示同意，但要求隻能用一顆實彈攻擊，其他的隻能用虛炮恐嚇。當天晚上，討逆軍一炮擊中張勳的住宅，宅院內頓時火光衝天，哭號四起，“辮子軍”紛紛從宅中逃離或繳械，隻有張勳依然不肯屈服。直到京師警察總監吳炳湘聯係了荷蘭使館派出汽車去接他，張勳才逃離了住宅。討逆隨即宣告結束。
張勳複辟到失敗僅僅12天，輿論幾乎一邊倒地稱其行為是倒行逆施。這時，一位複辟遺老站出來為張勳說了句公道話，這個人就是洪憲帝製的擁護者阮忠樞。這位袁世凱曾經的手下紅人力排眾議，稱張勳此番舉動雖然近於粗率，卻不失為轟轟烈烈之忠直好漢。
張勳的性格中，最突出的特點是傳統、實心眼，有些憨厚，也很暴躁，這些特點集中在一個武人身上，那幾乎就是頑固不化了。因為傳統，張勳的家鄉觀念極強，他對家鄉父老多有照顧。張勳老家江西奉新赤田村的人都沾了他不少光，每家都在張勳的資助下造了大瓦房，生活物資也是缺什麼給什麼。江西人在外地做生意需要建會館的時候，但凡找到張勳，他都會慷慨解囊。
事實上，張勳複辟也算得上是一種忠義的表現，這種中華民族的傳統思想，在反複革命而使得道德淪喪的民國社會中，雖被嘲弄，卻也顯得“彌足珍貴”。因此，對於張勳複辟，隻可笑其愚，卻不可笑其忠。
1918年10月10日，徐世昌就任民國大總統後，下令赦免張勳，並發還了財產。晚年的張勳遠離政治，轉道經商，投資金融界，獲得了豐厚的回報。此時的張勳已是心境淡然、與世無爭的皓首一翁。當有人問起他當年的複辟偉業時，他已不再有當年的誇誇其談，或是淡淡數句，或是沉默不言。畢竟，屬於他的時代已經過去了，而且越去越遠，再也不會回來了。
1923年9月12日，張勳在天津病故，終年70歲，獲前清廢帝溥儀賜諡號“忠武”。次年8月，張勳棺木啟運回鄉，並於當年11月底葬於奉新縣赤田鄉陶仙嶺下。
閣中帝子今何在，欄外長江空際流。袁世凱複辟失敗，張勳複辟也失敗，這說明在民國之後，假皇帝當不得，真皇帝也當不得。這正應了梁啟超的那句話：“帝位如同牆上泥塑木偶的菩薩，一旦被人扔進了豬圈，就是洗幹淨再重新供奉，那也早已失去了其神聖性。”由此看來，張勳之敗，是曆史的必然。