吳佩孚在湖南的節節勝利，瞬間傳遍大江南北，他能征善戰，用兵如神，成了曹錕眼裏的得力幹將。經過湖南一戰，曹錕以為吳佩孚怎麼也能當上個湖南都督，沒想到，段祺瑞卻把自己湖南都督的位子給了沒有任何戰績的張敬堯，吳佩孚還沒表態，曹錕先不服氣了。此後，為了提高吳佩孚的名氣，曹錕逢人就說“子玉是我最大的本錢”，沒想到，憑著曹錕的這句話，吳佩孚的名氣竟然漸漸蓋過了張敬堯，成了國內響當當的善戰將領。
馮國璋下台後，徐世昌被推上大總統之位。1919年初，第一次世界大戰結束，巴黎和會在法國召開。作為戰勝國，中國在巴黎和會上提出了廢除“二十一條”、外國軍隊從中國撤出等合理要求，而其他戰勝國卻無視中國的要求，擬定了有損中國權益的《凡爾賽和約》，引起中國全國上下極大的不滿。徐世昌政府經過反複斟酌，認為在和約上簽字能使中國的損失最小化，遂決定同意簽字。這個消息一經傳出，立即遭到多方麵的抵製，反應最激烈的是當時北京的一些大學生。
5月1日，愛國大學生們召開緊急會議，決定在5月4日這天上街遊行。5月4日這天，幾大高校的學生雲集天安門，高舉“廢除二十一條”、“拒絕在和約上簽字”、“收回山東權利”等口號，要求懲治在和約上簽字的曹汝霖、陸宗輿、章宗祥等人。受到愛國學生感染，吳佩孚也對北洋政府的懦弱妥協深感不滿。他多次通電反對在巴黎和約上簽字，他對徐世昌說：“青島得失，為吾國存亡關頭。如果簽字，直不啻作繭自縛，飲鴆自殺也。”隨後他又表示，維護國家權益是軍人的天職，與其懦弱妥協，在和約上簽字，成為各國的笑柄，不如“背城借一”，和列強較量高下，挽回山東等地的損失。他說，“如國家急難有用，願率部作政府後盾，備效前驅”。
後來，憤怒的學生衝進曹汝霖家中，痛打章宗祥，放火燒了曹家宅院，製造了“火燒趙家樓”事件，主張簽字的“賣國賊”們嚇得不敢作聲，吳佩孚則在一旁稱快，還表揚學生的愛國行為，稱他們的運動是“其心可憫，其誌可嘉，其情更有可原”。因為支持五四運動、反對在和約上簽字，並倡議武力對抗列強，吳佩孚一下子聲望劇增，被讚許為愛國軍人，而另一邊，主張簽字的段祺瑞則遭到唾罵，名聲掃地。
曹吳合力稱霸中原
五四運動前後，正是段祺瑞極力推行武力統一的時候。吳佩孚的軍隊在湖南接連勝利，讓段祺瑞看到了武力統一全國的希望。於是，他抓緊籠絡曹錕和吳佩孚，希望他們能夠繼續隨他向南征戰。1918年4月，段祺瑞授予曹錕、吳佩孚等人榮譽勳章以表嘉獎，還賞給吳佩孚三十萬軍餉，他本來以為，這樣就能讓這兩員大將繼續南下征戰，不料馮國璋卻在這時給曹錕發來電報，警示曹錕“久戎於外，直隸根本之地，未免空虛，倘有疏虞，便無退步”，讓曹錕馬上帶兵回程。於是，戲劇性的一幕出現了：段祺瑞這邊笑臉相迎，給曹、吳二人獎勵，曹錕吳佩孚這邊，卻雙雙稱病告假，要求停戰休息。這下段祺瑞可不幹了，因為這樣一來，統一全國的進程肯定會受阻。於是，段祺瑞決定從南京出發，親自到湖南督戰。
吳佩孚打心底不服段祺瑞，他要向段祺瑞證明，自己不願意打仗，絕不是因為能力不行。他派人打聽到段祺瑞的行程，得知4月20日段祺瑞從南京出發，吳佩孚當晚就向衡山進軍，第二天就把衡山拿下了；4月22日，段祺瑞電報稱已經到達漢口，吳佩孚馬上攻下了衡陽。段祺瑞收到吳佩孚攻下衡陽的消息，大喜過望，剛準備對其進行嘉獎，吳佩孚自己先“得瑟”起來。他還寫了一首詩，表示自己靠“餘威”就能震懾住各地軍閥：