段祺瑞為人一向嚴峻，臉上幾無笑容，連他的家人都不喜歡和他待在一起。不過，段祺瑞在飲食上有個習慣，那就是除了大年三十和正月初一外，他一般都是一個人單吃，不和家人同桌吃飯。
事實上，他不和家人一起吃飯的主要原因是要避開葷腥，發展到後來，幹脆吃齋念佛了。在1920年的直皖戰爭中，段祺瑞與曹錕、吳佩孚惡戰一場，最終以慘敗而告終。戰後老段閑居，有時間去參訪大德高僧，佛學修為大為精進。搬到天津後，他開始正式吃齋，並在家裏辟出一間佛堂，清晨起來焚香念經成為他每天的功課，從未間斷。
段祺瑞信佛，一則與他在袁世凱時期曾在西山休養、接觸佛學有關；二則是他希望借此走出直皖戰爭慘敗的陰影。當然最主要的是他身為軍人，殺戮過多，畏懼果報，因而要每日誦經以超度那些在戰場上喪生的亡魂。
1918年，在反對張勳複辟的戰役中，討逆軍抓了一些“辮子軍”，段祺瑞部下靳雲鵬請求殺幾個戰俘以振軍威。段祺瑞聽後很不高興地說：“罪在張勳一人，這些官兵有什麼罪？殺幾個人有什麼用？你們總是好殺人，‘殺人者人恒殺之’，哪一個好殺人的人有好結果呢？”
段祺瑞被人稱為“北洋之虎”，但很多人說他有虎相而無虎威，宅心仁厚，過於正道。
段祺瑞信佛與當時天津的風氣也有關係。在清末民初，各種社會思潮紛起，其中佛教最興盛，天津的寺廟特別多，幾乎可以用“無人不信神、無處不建廟”來形容。一些出名的寺廟，如海光寺、大悲院等，僧人、居士的數量都很龐大。當時的一些政客、軍人，還有前清的一些遺老遺少，來到天津做寓公，其中有很多人熱衷於宗教活動，尤以曆史久遠的佛教最多。
在皈依佛教後，段祺瑞起了一個法名叫“正道居士”。每到初一、十五，段祺瑞都要親自到廟裏去做法事。
直皖戰爭失敗後，段祺瑞雖說已經吃齋念佛，但他並沒有真正看破紅塵，做到四大皆空。每次有學生、舊部、朋友來拜見他，說起國內戰火紛飛、人民流離失所的時候，段祺瑞總是板著臉，一言不發。唯獨當他們說到“要收拾局麵，非老師東山再起不可”之時，段祺瑞一貫冷若冰霜的臉上，才會多少露出點兒欣慰的笑容。
時隔4年後的1924年，段祺瑞再次出山任中華民國臨時執政，重新回到了政壇。和從前一樣，段祺瑞仍舊是上午辦公，下午下棋或者賦詩，晚上打牌，與之前不同的是，他每天早上必到公館中專門的佛堂去誦經。
一年半後，在執政府門口發生了震驚中外的“三·一八”慘案。段祺瑞聞訊後立即趕到血案現場，長跪不起，為死者超度。不久，被世人誤解的段祺瑞主動再次下野。從此，他徹底遠離了紛繁多變的政治旋渦，隻在家中吃齋念佛、下棋寫字，不再過問世事。
九一八事變後，日本人把侵略的魔爪從東北延伸向華北，並試圖拉攏段祺瑞出來充當代理人。為防止段祺瑞為日本人所用，蔣介石在1933年1月21日派人將段祺瑞從天津接到南京。在浦口乘船過長江的時候，蔣介石率一批高級將領親自前來迎接並執弟子禮。隨後，段祺瑞定居在上海。
1936年11月2日，段祺瑞因胃潰瘍引發大出血而去世，享年71歲。在病危期間，醫生和親友建議他進點兒葷食以增強抵抗力，段祺瑞堅決拒絕並表示：“人可死，但葷絕不可開！”
信佛之後，段祺瑞的食譜中，除了自己養的幾隻母雞下的蛋算得上葷食，其他葷食一概不碰。有趣的是，段祺瑞隻養母雞，不養公雞，因為他認為這樣下的蛋才是“素雞蛋”，是可以吃的。他年老後身體虛弱，仍舊不肯開葷，也足見其性格之倔強，又可見其信仰之堅定。
段祺瑞死後，其長子段宏業堅持要將其靈柩送往北京安葬，但因為日本侵華導致時局變動，以至於十多年都無法找到合適的下葬地，最後隻能草草葬在段祺瑞三弟之前買好的墳地，位置就在人來人往的大道旁邊。對此，段祺瑞的一些生前故舊不禁歎息：“想不到老頭子轟轟烈烈一輩子，死後竟然沒有一塊埋骨的地方！”
直到1963年，在段祺瑞生前好友章士釗、李思浩、曾毓雋等人的努力下，段祺瑞的遺骨才被起出，重新安葬在北京西郊香山附近的萬安公墓中。