朝廷對此默不作答，卻降下詔令，貶範仲淹寓京，調趕河中府(今山西省西南部永濟縣一帶)任副長官——通判．秘閣的僚友送他到城外，大家舉酒餞別說；“範君此行，極為光耀嗬！”三年之後，劉太後死去了。仁宗把範仲掩召回京師，派做專門評議朝事的言官——右司諫．有了言官的身份，他上書言事更無所畏懼了。
明道二年（1033年），京東和江淮一帶大旱，又鬧蝗災，為了安定民心，範仲淹奏請仁宗馬上派人前去救災，仁宗不予理會，他便質問仁宗：“如果宮廷之中半日停食，陛下該當如何？”仁宗驚然慚悟，就讓範仲淹前去販災。他歸來時，還帶回幾把災民充饑的野草，送給了仁宗和後苑宮謄。
這時的宰相呂夷筒，當初是靠討好劉太後起家的。太後一死，他又趕忙說太後的壞話．這種狡詐行徑，一度被仁宗的郭皇後揭穿，宰相職務也被罷免．但夷簡在宮廷中的因緣關係，依然根深蒂固．不久，他便通過內侍閻文應等重登相位，又與閻文應沆瀣一氣，想借仁宗的家務糾紛，而廢掉郭後。墮入楊美人、尚美人情網的年輕皇帝，終於決定降詔廢後，並根據呂夷簡的預謀，明令禁止百官參議此事。
範仲淹懂得，這宮廷家務糾紛背後，掩藏著深刻而複雜的政治角逐。他與負責糾察的禦史台官孔道輔等，數人徑趨垂拱殿，求見仁宗麵談。他們伏閣籲請多時，無人理睬：司門官又將殿門砰然掩閉。範仲淹等人手執銅環，叩擊金扉，隔門高呼質問：“皇後被廢，為何不聽台諫入言！”看看無濟於事，大家在鋼虎畔議定一策，準備明日早朝之後，將百官統統留下，當眾與呂相辯論。
次日淩晨，妻子李氏牽著範仲淹的衣服，再三勸戒他勿去招惹禍機。他卻頭也不回地出門而去。剛走到待漏院，等候上朝，忽聽降詔傳呼，貶他遠竄江外，去做睦州(今浙江桐廬縣附近)知州。接著，朝中又派人趕到他家，催促著要押他即刻離京。孔道輔等人，也或貶或罰，無一幸免。
這次至城郊送別的人，已不很多，但仍有人舉酒讚許說：“範君此行，愈覺光耀！”在離開諫職去浙江的路上，範仲淹心中並無悔恨，隻是略覺不平：“重父必重母，正邦先正家。一心回主意，十口向天涯！”有人笑他好似不幸的屈原，他卻認為自己更象孟軻：“分符江外去，人笑似騷人”，“軻意正迂闊，悠然輕萬鍾”！
過了幾年，他由睦州移知蘇州，因為治水有功，又被調回京師，並獲得天章閣待製的榮銜，做了開封知府。前時一同遭貶的孔道輔等人，也重歸朝廷。範仲淹在京城大力整頓官僚機構，剔除弊政，把工作安排得井井有條，僅僅幾個月，號稱繁劇的開封府就“肅然稱治”。
範仲淹看到宰相呂夷簡廣開後門，濫用私人，朝中腐敗不堪。範仲淹根據調查，繪製了一張“百官圖”，在景佑三年(1036年)呈給仁宗。他指著圖中開列的眾官調升情況，對宰相用人製度提出尖銳的批評。呂夷簡不甘示弱，反譏範仲淹迂腐。範仲淹便連上四章，論斥呂夷簡狡詐．呂夷簡更誣蔑範仲淹勾結朋黨，離間君臣。
範、呂之爭的是非曲直，不少人都看得分明．偏偏呂夷簡老謀深算，善於利用君主之勢而最終取勝．仁宗這年二十七歲，尚無子嗣。據說範仲淹曾關心過仁宗的繼承人問題，或許談論過立什麼皇太弟侄之類的事。這事雖出於興旺宋廷的至誠和忠直之心，卻不免有損仁宗的自尊。加以呂夷簡的從旁中傷，範仲淹便被遞奪了待製職銜，貶為饒州知州。後來幾乎又貶死嶺南。
台官韓瀆為迎合宰相意旨，請把範仲淹同黨的人名，寫成一榜，張掛於朝堂。餘靖、尹洙、歐陽修等人，因為替範仲淹鳴不平，也紛紛被流竄邊遠僻地．從此，朝中正臣奪氣，直士咋舌。
這次到都門外送範仲淹的親朋，已寥寥無幾。但正直的王質，卻扶病載酒而來，並稱許“範君此行，尤為光耀！”幾起幾落的範仲淹聽罷大笑道：“仲淹前後巳是三光了，下次如再送我，請備一隻整羊，作為祭吧！”第二天，有人警告王質說，他昨日送範仲淹的一言一動，都被監視者記錄在案，他將作為範黨被審查。王質聽了，毫無畏色，反引以為榮。
饒州在都陽湖畔。從開封走水路到此，至少須經十幾個州。除揚州外，一路之上竟無人出門接待範仲淹，範仲淹對此，也並不介意．他日經習慣於從京師被貶作地方官了。他撚著花白的髭纘，在饒州官舍吟起一詩；“三出青城鬢如絲，齋中蕭灑過撣師”，“世間榮唇何須道，塞上衰翁也自知！”
範仲淹自幼多病，近年又患了肺疾．不久，妻子李氏也病死在饒州。在附近做縣令的詩友梅堯臣，寄了一首《靈烏賦》給他，並告訴他說，他在朝中屢次直言，都被當作烏鴉不祥的叫聲，希日他從此拴緊舌頭，鎖住嘴唇，除了隨意吃喝之外，隻管翱翔高”。範仲淹立即回答了一首《靈烏賦》，稟複說，不管人們怎樣厭惡烏鴉的啞啞之聲，我卻寧鳴而死，不默而生！
五十歲前後，範仲淹先後被調到潤州(今江蘇鎮江一帶)和越州(今浙江紹興一帶)作知州。這時，一樁重大事件震動了全國，也改變了他的命運。