一次，太宗令呂蒙正推選出使遼國人選。外交關係重大，呂蒙正思來想去，覺得一個姓陳的官員最合適，就果斷地把名字呈給皇上。太宗看了，有自己的想法，未予采納。第二天，太宗又問出使的人選，呂蒙正又將此人名字呈上，毫未顧及太宗顏麵。太宗一聽不悅，還是表示不能同意。到了第三天，太宗第三次問起，在大臣們錯愕的目光中，呂蒙正仍將此人的名字呈上。太宗接過一看，臉色大變，把呈上的笏板擲到地上，憤憤地衝他說：“固執不化！”
呂蒙正彎腰拾起文書，神態平靜地說：“豈是為臣固執？分明是陛下對此人持有偏見。臣認為，能夠出使遼國完成使命，隻有這人最稱職，其餘沒有人能比得上他。臣焉敢為迎合陛下而耽誤國家大事？”
看到呂蒙正如此頂撞太宗，滿朝大臣皆驚恐失色，無人敢言。
太宗氣衝衝地走下朝堂，稍頓竟又回過頭來，說：“罷罷罷，呂蒙正的氣量，朕不如也，就依你吧！”
陳出使遼國，果然出色地完成了使命。
封建時代科舉取仕，對於有功於朝廷的賢臣良將，皇帝對他們的後人往往封官許願，此已相沿成習，無可厚非。在呂蒙正之前的盧多孫為相時，盧的兒子就當上了水部員外郎，這以後似乎就成為了慣例。
到呂蒙正為相時，他竟上奏說：“臣取進士，剛開始隻是做了九品官員。可現在，我的兒子還是弱冠，卻得到如此恩寵，顯失公允。臣稟請皇上封他做為臣剛剛入仕時秩級足矣。”自此以後，宰相的兒子就隻能從九品秩級官員做起了。
這年元宵節賞燈，皇上大宴群臣。酒過三巡，酒酣耳熱之際，太宗對治下的盛世甚為自得，情不自禁地說道：“五代之際，天下生靈塗炭，死者相藉，周太祖自鄴城歸時，不論是官員還是百姓，無不慘遭擄掠，城野大火蔓延，天上彗星劃過，看者心驚肉跳，以為天下再無太平之日。朕自當政以來，碎念天下百姓，日理萬機，從不懈怠，以至才有今日之昌盛。由此而論，無論是亂世還是太平盛世，其實都是人之所為，哪裏是什麼天意所言？”大臣們聽後，紛紛讚美皇上英明。
這時，呂蒙正卻來到太宗麵前，說：“皇上設宴觀燈，百姓雲集，滿城燈火輝煌，實為一片繁榮。可不久前，臣到城外不遠，見街頭百姓衣著破爛，饑腸轆轆，時有餓殍。由此可見，天下並非處處繁花錦爛。願陛下不僅隻見目下繁華，還要想到遠處正忍饑挨餓的百姓。這才是天下蒼生的幸事啊！”
太宗一聽，黯然失色，麵露尷尬，群臣們也都一時不知所言。過了好一會，宋太宗才轉怒為喜，遂道：“我得蒙正如同唐太宗之得魏征，倘若做臣子的皆能像他一樣，時時提醒於朕，不忘以天下蒼生為懷，國家何愁不富強，百姓何來不幸福？”
宋太宗淳化二年，發生了大臣宋抗上書忤旨事件。宋抗是呂蒙正妻室族人，因累及呂蒙正遭罷相。兩年後，複相。宋太宗至道初年，呂蒙正被二度罷相，降職為右仆射，出判河南府兼西京留守。宋太宗崩殂，呂蒙正追感當年君臣知遇之恩，奉家產資建皇陵，伏哭盡哀，見者無不動心。宋真宗鹹平四年，呂蒙正第三次拜居相位。兩年後，授太子太師，封蔡國公，又改封為許國公。