我親愛的同學們，團結起來，
挺起我們的胸膛，
放大我們的眼光，
我們堅決挽留林院長！
林院長是教育界的明燈，
林院長是青年們的保姆，
八個年頭，一貫作風，
探索真理，追求光明。
我親愛的同學們，團結起來！
挺起我們的胸膛，
放大我們的目光，
我們堅決挽留林院長！
麵對這場學潮，國民黨反動派十分恐慌，派去接替林礪儒職務的人也不敢上任。當局便采取高壓政策，逮捕、開除了不少學生。但師生們毫不畏懼，堅持鬥爭達兩個多月。
1941年10月，林礪儒來到桂林，擔任廣西教育研究所導師；次年4月，改任國立桂林師範學院教授兼教務長。他自知已受國民黨特務機關的密切注意，再轟轟烈烈地幹一番事業是不可能了，於是他改變了方式，以著書立說的形式，繼續宣傳教育改革的主張。從1941年到1945年，他相繼發表了一係列文章：《怎樣做中學校長》、《精神剃須論》、《中國民族解放運動與國民教育》、《五四運動的評價》、《八·二七路線》、《兒童保育與人性改造》、《養士》等。在《精神剃須論》中，他指出：指導青年，“一不是靠權威部勒，二不是憑籠絡操縱”，而必須了解青年，和他們做真誠的朋友，共同參加社會實踐。這篇文章在《文化雜誌》刊登後，刺痛了國民黨當局某些人，致使《文化雜誌》被迫停刊。在《八·二七路線》中，他繼續宣揚學術自由，求真理，明是非，認為學生要尊師，但對教師的學說、教義可以懷疑批判。他的這些言論，引起國民黨當局的不滿，特務多次用匿名信對他進行恐嚇，但他置之不理。1944年，他寫成《教育哲學》一書。
抗日戰爭勝利後，國民黨大搞獨裁，發動內戰。林礪儒再也坐不住了，投身到民主運動中去。1946年，他不顧國民黨特務恐嚇，毅然加入民主同盟。國民黨反動派為了控製桂林師範學院，決定將該學院遷往南寧，並撤換了院長，林礪儒憤然辭職。這時，他身患腎炎，便回廣州治病，1947年8月到廈門大學任教授。
1949年4月，林礪儒離開廈門大學，取道香港赴北京參加新政治協商會議籌備工作和第一屆全體會議，當選為政協第一屆全國委員會委員。接著，他又擔任了中央人民政府教育部中等教育司司長兼北京師範大學校長；1952年起任教育部副部長。此外，他還當選為一、二、三屆全國人大代表。麵對著百廢待興的新中國教育事業，他以忘我的精神投入工作，先後主持起草了《中學暫行規程》草案和《師範學校暫行規程》草案，並就少年兒童教育、中學教育、民族教育等問題進行了一係列調查研究，寫下了《中等教育的兩個問題》、《了解少年兒童是教育工作的先決條件》、《教因材施，才也由教成》等論文，提出從中國的實際出發辦好教育的主張。1957年11月，林礪儒代表我國政府，與越南民主共和國政府簽訂了《關於越南在中國設立學校的議定書》。1959年，他率領中國教育代表團赴越南民主共和國參觀訪問。
1961年，年逾古稀的林礪儒患食道癌剛愈，便率領一個工作組奔赴吉林，就師範學校的學製及教學計劃等問題進行調查研究。1963年，他連續參加了天津中小學辦學經驗座談會和雲南民族教育工作會議，會後又深入雲南、廣西等地調查研究。在這段時間，他還撰寫了《師範教育問題隨筆》、《語文教師是經師，也是人師》、《怎樣對待學校考試》等文，提出不少新見解。如在《怎樣對待學校考試》中，他指出：“人生遇事要做，遇問題就要解決，所憑借的隻是自己所有的知識才能。人生正是這樣活到老、學到老、考到老至死方休的過程，原非可怕。怕考試幾乎等於怕生活，從來未聞有人怕生活的，而學校的學生則大多數怕考試，其原因何在，值得深思。躍躍欲試，原是有能者的常情，而學校竟把考試變成學生的畏途，其故安在？為人師者應深自反省。”但由於曆史原因，林礪儒的這些探討未能繼續進行下去。
1977年1月20日，林礪儒因患胃癌，醫治無效，在北京與世長辭，享年88歲。
林礪儒逝世後，家人檢點遺篋，發現了他於1973年10月15日在筆記本上寫下的一副“自擬挽聯”：
服官自笑立仗馬
遺稿尚無封禪詩
他的兒子林穎夫將這副“自挽聯”拿給葉聖陶先生看，葉老感慨地說：“恰如其人！”可見他的人生之偉大。