討伐張勳時，段祺瑞部下抓住幾個張勳的辮子軍，部下請求殺幾個以振軍威，段祺瑞說：“罪在張勳一人，這些兵有什麼罪？殺幾個人有什麼用？你們總是好殺人，殺人者人恒殺之，哪個好殺人的有好結果呢？”
1917年7月16日段祺瑞的部下派人刺殺黎元洪。黎元洪在花園散步，忽見有人持刀東張西望，黎元洪躲到花廳，他的衛士衝出捉拿刺客，結果被刺客砍死3人，砍傷兩人，但刺客寡不敵眾，最終被開槍打死。此事與宋教仁案異曲同工，與段祺瑞無關。
同年8月14日段祺瑞通電對德國宣戰，不久段祺瑞向日本借款，副總統馮國璋很憂慮，問今後如何償還，段祺瑞說：“作戰導致入不敷出，不借款怎麼辦，至於還債問題，日本對我們如此，我們對日本也不過利用一時，誰還打算真還他呢？等我國強大之後，賴著不還就是。”雖然段祺瑞沒有使中國強大，然而這筆錢的確終究也沒還給日本。
1918年段祺瑞逼直係軍閥馮國璋下台，擁立徐世昌當總統，這是皖係段祺瑞（段祺瑞是安徽人，故名皖係）與直係軍閥矛盾的開始。
隨後段祺瑞也不再擔任總理，而是去邊防擔任督辦。段祺瑞在邊防當督辦時，一次雪後散步，走到邊防處，衛兵看見一個衣著樸素的老頭入內，便厲聲喝止。段祺瑞的隨從說：“這是段督辦，你怎敢如此無理？”衛兵聽後十分驚愕，隨後把邊防處其他人都叫來，段祺瑞說：“今天下雪，我乘興來此，你們不必管我，繼續辦公。”衛兵連忙給段祺瑞賠不是，段祺瑞說：“今後對老人可要有禮貌呀，放心，我不會處分你的。”由於政治宣傳的原因，在人們眼中，軍閥都是嗜血成性、殘忍好殺的，而事實上，這種情況隻限於那些小軍閥、地頭蛇，真正能做到國家級幹部的軍閥，自有他們的長處。隻靠殺伐是不可能登上高位的，隻有寬仁才能贏得人心。
1919年1月，段祺瑞建立轄有三個師、四個混成旅的軍隊為其嫡係。直係軍閥曹錕、吳佩孚不甘心皖係段祺瑞的擴張，提出“和平混一”，在英美支持下與段對抗。1920年4月，直係曹錕與奉係張作霖兩係結成反段聯盟。
於是，直係軍閥曹錕、吳佩孚與皖係老大段祺瑞爆發戰爭，這就是直皖戰爭。直皖戰爭爆發前，北洋將領薑桂題對段祺瑞說：“芝泉，你不是常說中華民國是你首創的嗎？你打勝了吳佩孚，中華民國還可以靠你，萬一你打敗了呢？你要中華民國靠誰呢？”段祺瑞沒說話。
最終，直皖戰爭爆發，段祺瑞被曹錕的部下吳佩孚擊敗。他說：“吳佩孚學問不錯，兵練得也不錯，學會打老師了。”原來吳佩孚在保定軍校時曾是段祺瑞的學生。戰敗後段祺瑞一切職務都沒了，此後他移居天津，與奉係張作霖及南方孫中山聯合反對直係統治。
1924年第二次直奉戰爭，曹錕戰敗，下野，段祺瑞被奉係軍閥張作霖推為中華民國臨時執政，重新出山。隨後張學良要跟段祺瑞的兒子段宏業結為兄弟，段祺瑞對段宏業說：“張作霖的兵可以拜把子，但張作霖的兒子不能拜把子。”
段祺瑞之所以挨罵是因為“三一八”慘案，那麼這個“慘案”究竟是怎麼回事呢？是這樣的。1926年張作霖率軍入關，軍艦駛入天津大沽口，馮玉祥率軍封鎖大沽口，不準船隻進入。3月12日，日本海軍掩護兩艘奉係戰艦駛入大沽口，炮轟馮玉祥的國民軍，國民軍奮起還擊，3月13日日本人向段祺瑞提出抗議。北平天津人民舉行集會（其中混進去的許多實際上是蘇聯間諜的人），抗議外國侵略，惱羞成怒的日本帝國主義與英國、美國、法國、意大利、荷蘭、比利時、西班牙一起向段祺瑞政府施壓，要求國民軍撤去大沽口防禦，否則要采取必要手段，同時英法日在大沽口海麵集結20艘軍艦，對段祺瑞政府實行武力威脅，然而段祺瑞並沒有妥協。
帝國主義的做法激起了北京人民憤怒，3月18日北京各界2000人組成請願團，去國務院請願，要求駁回外國的條件，且提出驅逐日本等八國公使，如果段祺瑞答應了群眾的要求，將八國公使趕走，那麼中國就有可能遭到第二次八國聯軍的侵略，中華民族就有可能陷入萬劫不複之地，然而與沒有任何政治頭腦的學生們相比，段祺瑞無疑是冷靜的。
此時“群眾”失控，蘇聯間諜（中國人）手持槍械和棍棒要衝進國務院，還有的“學生”向國務院拋擲炸彈，向軍警潑汽油，更有“群眾”用帶鐵釘的棍子毆打軍警，並搶奪軍警的槍支，於是軍警迫不得已開槍，打死了幾個“學生”和“群眾”，之後發生踩踏事故，有幾十人被踩死，共死了47人。（以上內容見蘇聯公布的檔案和當時北京的報紙。）這時段祺瑞才接到報告，他頓足長歎：“一世清名，毀於一旦！”隨即趕到現場，對死者長跪不起，並嚴懲因自衛而開槍的軍警，自己引咎辭職，以從此終生吃素來懺悔。他為此養了幾隻母雞，因為他認為這樣下的蛋才是素雞蛋，才可以吃。
這就是“三一八”慘案真相，這天被魯迅稱為民國以來最黑暗的一天。都說是段祺瑞下令開槍，然而實際上段祺瑞在軍警開槍時正在下圍棋，根本不知道外麵在開槍，而且主流史學家們還把段祺瑞在得知慘案發生後的表現，大多一概避而不談，實在失之偏頗。
段祺瑞是圍棋高手，陳毅說：“段祺瑞……對中國圍棋事業貢獻很大。”一次他與兒子下棋，兒子輸了，他說：“下棋是雕蟲小技，你連這也不行，真沒用！”第二天兒子下棋贏了段祺瑞，段祺瑞說：“你既無大誌，也無大才，隻能在下棋上表現。”他兒子不知道該怎麼辦好了，從此再不跟老爸下棋。