不過，南洋公學時期的蔣夢麟還未形成教育救國的思想，更未想到自己以後會成為北大的校長，並順便幫了老同學的忙，但1907年暑假的東京一遊，卻讓他朦朧地產生了這個願望。其時上野公園正舉辦展覽會，這讓他對日本的工業成就羨慕不已，居然一連參觀了好幾十趟。而且，在一個戰爭紀念館裏，他還看見了中日戰爭中被日本俘獲的戰利品，如軍旗，軍服，還有武器等，這讓他羞愧萬分。以至於到了夜晚，在日本人提燈遊行的歡呼聲中獨自站在公園裏的假山頂上泫然涕下。日本明治維新後的強大足以讓每一個中國人羨慕，而與此成為鮮明對照的是中國的愚弱和落後，蔣夢麟這樣的青年，由於身曆這一變局，感受自然深切。如同為紹興老鄉的魯迅，1905年在日本仙台醫專留學期間，因痛感國人的不幸，決定棄醫從文，以致力於用文藝改變國民的精神。而蔣夢麟同樣認為國民需要改造，但他認為著手的應該是教育。因為，“強迫教育使（日本）國民的一般水準遠較中國為高，這或許就是日本成為世界強國的秘密所在”（《西潮.新潮》，第71頁）。這也是他在日本一個月的觀感。
然而1908年夏他考取浙江官費留美到加州伯克利大學讀書時，念的卻是農科，因為他意欲為改進中國的農業作出努力，以使大部分中國人獲得幸福。但在農學院讀了半年後，在朋友的勸說下和思考下，轉到社會科學院，主修教育。之所以這樣做，是因為朋友和他一樣認識到，在中國，如果不能按照西方國家的發展規律來解決政治和社會問題，農業問題終究還是無法解決。1912年，他從加大教育係畢業，入哥倫比亞大學研究院深造，成為提倡實驗主義的哲學家和教育家約翰.杜威的入室弟子。1917年3月，他以《中國教育原理之研究》獲哲學和教育學博士後，不久就回到上海，創辦《新教育》月刊，開始鼓吹教育救國。其宗旨是“養成健全之個人，創造進化之社會”。這一理念，也是他的教育思想的核心，一直到他1919年7月起被聘為北大教育係教授並代理北大校長，直至後來正式擔任北大校長，再也沒有變過。
而他之所以能擔此重任，與他在加州讀書時曾擔任過孫中山所創辦的《大同日報》的主筆，回國後又在上海充當孫中山的秘書有關。而且，還有一個不能不提的因素是，他曾是蔡元培在紹興中西學堂任教時的學生。當然，更重要的是，他的教育思想和蔡元培等人是相一致的。
在寫於1918年2月的《過渡時代之思想與教育》一文中，蔣夢麟指出，一個國家的教育思想一定要和它所處的時代相適應，近代以來的先進的教育思想就是歐美的思想，而“科學的精神”和“社會之自覺”兩端，是其中的“煢煢大者”。科學之精神無庸多言，“社會之自覺”指的是在源自古希臘的個性主義的熏陶下，個人能力得到發展，從而養成“一活潑強健靈敏之個人”，因此，組成社會後也會對社會有責任心，即自覺的責任意識。概而言之，蔣夢麟的教育思想的核心，也就是對科學和人的個性的重視。在《個人價值與教育之關係》中，他更是直言，“一社會之中，各個人之價值愈高，則文明之進步愈速。吾人若視教育為增進文明之法，則當自尊重個人始。”自然，對人的個性的重視和培養，也就成了教育的中心。蔣夢麟進一步指出，近世社會提倡的所謂的“自由”，“平等”，“民權”，“共和”，“言論自由”，“選舉權”，“代議機關”等，其本質就是對人的個性的承認和鼓勵，“皆所以尊重個人之價值也”。
蔣夢麟談個性也好，談健全之個人也好，都不是泛泛而談，他在《和平與教育》一文中對此作出了比較精到的解釋，“欲養成健全之個人，則獨立不移之精神，筋血充實之體格，思考精確之頭腦，皆為至要。三者不具，雖有愛國道德等訓練，終亦歸諸無用而已矣。”這段話，就是蔣夢麟所闡發的個性或健全之個人的具體內涵。而我覺得，這其中的意思也值得今天從事教育的人深思。
對科學的重視，在蔣夢麟來說，一是出於對中國現實的迫切需求的關懷，二是科學的精神也是培養健全個人的不可或缺的養料。1920年9月，蔣夢麟在北京大學開學演說詞裏談了胡適對現今青年不能踏實讀書的批評後，又說，“還有一層，就是物理化學等等物質上的文化也應該同文字方麵的文化並重。比方現在饑民這樣的多，因為交通等等關係，賑濟就這樣的困難；有時傳染病發生，也往往弄得手忙腳亂，死喪無算。這都是物質文化太不發達的弊病。我們不可不注意”（見《北京大學日刊》，第694號。轉引自《蔣夢麟教育論著選》，人民教育出版社，1995年版，第202頁）。從這一角度出發，蔣夢麟在處理有關教育方麵的具體事務時，也常常把科學置於很重要的地位，如在1927年夏他在籌辦浙江大學時，與胡適通信談自己的想法時就說，“我的意思，現在先辦自然科學之關於實用者，如農醫等，社會科學之經濟等項，以備省政府建設各種事業之需，其餘如國學，文學等暫行緩辦”（轉引自《蔣夢麟教育論著選》，第272頁）。科學的實際作用，以及對近代思想文化所產生的根本性的影響，是蔣夢麟一生所關注的重心所在，在1940年3月蔡元培去世後，他著文懷念這位開一代風氣的偉人，認為蔡元培之所以不朽，是因為他在秉持“學術自由之精神”，“寬宏大度之精神”，“安貧樂道之精神”外，更重要的是他還有“科學求真之精神”，蔣夢麟說，“先生嚐言，求學是求真理，惟有重科學方法後始能得真理。故先生之治北京大學也，重學術自由，而尤重科學方法。當中西文化交接之際，而先生應運而生。集兩大文化於一身，其量足以容之，其德足以化之，其學足以當之，其才足以擇之。嗚呼！此先生之所以成一代大師歟”（同上，第285頁）。