一、蔡元培的賞識
林語堂到上海時，當年北京大學老校長蔡元培正在籌辦大學院及其下屬機構中央研究院。蔡元培離開北大後，曾赴歐洲考察，曆經三年。南京國民政府成立，他被任命為國民政府教育行政委員會委員。南京政府借鑒法國的教育製度，決定設立大學院，履行教育部的部分職能，同時設立中央研究院，具體從事自然科學和社會科學研究。1927年6月17日，蔡元培被任命為大學院院長，進行籌備。10月1日，大學院正式成立。11月20日中央研究院成立於南京，1928年3月遷往上海。蔡元培兼任代理司法部長。4月，又被正式任命為中央研究院院長。中央研究院是蔡元培全力以赴、苦心經營的一個文化機構，先設立理化實業研究所、社會科學研究所，在兩年的時間裏，先後建立起九個研究所，共聘任、兼任、名譽、特約研究員91人，國內所有最著名的人才和科學家都被邀請其中。林語堂來上海，恰好是蔡元培的用人之時，對林語堂，蔡元培是很了解的，所以林語堂得到了蔡元培的器重和賞識，他被任命為中央研究院的英文主編，兼該院國際出版品交換處處長。所謂英文主編是其名，實際是蔡元培的英文秘書。這是一個沒有具體任務的職務，雖然清閑，但待遇不菲，月薪300元。在林語堂來中央研究院任職期間，魯迅和江紹原也被任命為大學院的特約撰述員，月薪也是300元。一年後，大學院取消，恢複教育部，中央研究院獨立出來，成為科研機構。大學院撤銷後，魯迅仍為特約撰述員，歸中央研究院，直到1931年。
林語堂對蔡元培一向敬重，他在後來寫自傳時曾說：“蔡元培，他是北京大學校長，把北京大學變成了全國的改造中心。我們大家都向他敬稱‘蔡先生’。在國民黨元老當中，他是唯一真正了解西方的。他中了進士，又是翰林院的翰林，這是人所爭羨的，他也是國民黨黨員，在成立興中會時，他和中山先生很密切。在康有為、梁啟超保皇黨瓦解之時，他到法國、德國去求學。他歸國做北京大學校長之時，他把學術自由奉為第一要事，在北京大學裏，教授的新舊派是兼容並包。他聘請舊派名儒劉師培、黃侃、大名鼎鼎的辜鴻銘。……著名的英國小說翻譯家林紓，他仍然稱白話文為‘引車賣漿者之言’。他曾寫過洋洋萬言的長文為文言辯護。另一方麵，蔡元培也為胡適、陳獨秀、沈兼士和新青年那一派敞開了大門。蔡元培平易近人，不僅僅於細節。蔡夫人曾經說：‘米飯煮的好他也吃，煮焦了他也吃。’但是對重要的問題則嚴格認真，絕不妥協。我記得反對凡爾賽和約割讓山東半島給日本時，蔡元培站起來說話，他的聲音很柔和，他說：‘抗議有什麼用？我是要辭職的。’第二天，他神不知鬼不覺的，搭上藍色的京滬快車離開了北京。”
林語堂和蔡元培都住在上海愚園路，每天上班同坐一輛車，一路說著話，不知不覺就到了設在法租界亞爾培路三百三十一號(今陝西南路一百四十七號)的中央研究院。林語堂的辦公室在二樓，雖然房間不大，但由於專放元明善本書，所以給了林語堂一個研習中國古代文化的好機會。他的工作也不是很忙，上午辦公，下午就可以專心讀書了。
由於《語絲》搬到了上海出版，且魯迅答應了李小峰的要求而進行編輯，所以，林語堂寫的一些文章就在《語絲》上不斷發表。《語絲》第四卷共出52期，林語堂就發表了11篇，主要有《薩天師語錄》(之二、三、四、五)、《哈第論死生與上帝》、《論靜思與空談》、《論創作與批評》、《給孔祥熙部長的一封公開信》、《〈翦拂集〉序》等和一些語言學論文。林語堂喜歡對語言學的研究，也喜歡對中文打字機的設計製造研究。他還應上海東吳大學法律學院院長吳經熊的邀請，在東吳大學擔任英文教授一學年，這是他在上海十年中唯一的執教經曆，他利用業餘時間編寫英語教材，也為後來編輯教科書打下了基礎。又由於林語堂和魯迅同在蔡元培主持下的研究院工作的機會，所以兩人的關係也會密切許多，為以後在“中國民權保障同盟”共事創造了客觀條件，這與蔡元培的慧眼識人才分不開的。