蔡元培到校後，對課程的改革和建設極為重視。
辛亥革命後，北京大學在教育製度和教學內容方麵，曾進行過某些資產階級民主性質的改革；在課程設置上增加了資產階級新學的內容。但是這時的改革是很不徹底的。特別是由於袁世凱複辟帝製活動的需要，1915年北京政府教育部又公然把“法孔孟”定為教育宗旨，下令各校在編寫修身、國文教科書時，必須“采取經訓，務以孔子之言為旨歸如有違背斯義或漏未列入者，並妥慎改訂，呈部審查。”這種“尊孔讀經”的複古逆流，使正在興起的資產階級新學又受到了壓抑。雖然袁世凱的帝製複辟活動很快破產了，但文化思想領域的鬥爭仍在繼續。所以在蔡元培出任北大校長時，學校的教學思想仍很陳舊保守，課程設置也很落後，不少教員不學無術，講課陳陳相因，敷衍塞責。
蔡元培在課程改革和建設上的一個重要指導思想，就是反對專己守殘之陋見，對中西文化要兼收並蓄，擇善而從，融彙貫通。他在1922年北大成立二十五周年紀念會的講話中，曾剴切剖析了清末流行的所謂“中學為體，西學為用”的思想對我國學術發展的嚴重束縛。他指出在民元之前，“北京環境多是為頑固派所包圍，辦學的人不敢過違社會上傾向，所以，當時學校的方計叫做‘中學為體，西學為用。’故教者、學者大都偏重舊學一方麵；西學方麵不容易請到好的教習，學的人也不很熱心，很有點看作裝飾品的樣子。”這就嚴重阻礙了科學的發展。而民國建立以後，由於“國體初更，百事務新”，一些人又“大有完全棄舊之概”。他認為這些都是片麵的，不足取的，因而在文化學術和課程建設的取向上，主張“貫通中西”。他在這方麵有一些很好的見解和做法。
首先，積極主張吸收外國先進的科學文化，提出大學教學內容要對“世界的科學取最新的學說”。他在談到中國畫也要吸取西洋畫的優點時說：“今世為中西文化融和時代，西洋之所長，吾國自當采用。抑有人謂西洋昔時已采用中國畫法者，……彼西方美術家能采用我人之長，我人獨不能采用西人之長乎？”他認為各民族間互相師法才能有進步和發展，他舉例說：“希臘民族吸收埃及、腓尼基諸古國之文明而消化之，是以有希臘之文明；高爾日耳曼諸民族吸收希臘、羅馬及阿拉伯之文明而消化之，是以有今日歐洲諸國之文明”。他痛感近世中國由於封閉、隔絕，在學術文化發展上大大落後於西方，“數千年來，中國文明隻在他固有的範圍內、固有的特色上進化，故‘文藝的中興’，在中國今日才開始發展”。他認為要使一個民族，一個社會得到發展，就應該開放，善於吸收外國先進的科學文化，自我封閉是沒有出路的。1916年秋，在他出任北大校長之前，就與汪精衛、李石曾聯名致函國內有關人士，提出：“世運日新，學風丕變，吾國教育不能不兼容歐化，已為有識者所公認。元培等留法較久，考察頗詳，見其教育界思想之自由、主義之正大，與吾國儒先哲理類相契合；而學術明備，足以裨益吾人者尤多。”他從這個思想出發，在課程建設上注意吸收外國科學成果，融合中西文化。他在北大“於英語外，兼提倡法、德、俄、意等國語，及世界語”；“於舊文學外，兼提倡本國近世文學，及世界新文學”；他“力矯偏重英語的舊習，增設法、德、俄諸國文學係，即世界語亦列為選科。”北大原來設有“中國哲學門”，一位學生曾建議改為“哲學係”，不局限於一國哲學，而要包括世界各國的哲學。這個建議和蔡元培的融合中西文化的主張相一致，因而接受了這個青年人的建議，後來就在北大成立了哲學係，講授中國以及世界各國的哲學史和哲學流派。理科的一些課程教材亦多采用各國的科學新成果，如物理係三、四年級的《近代物理》課，內容大部選自居裏夫人在巴黎大學講授的最新材料。
為了更好地吸收外國的先進科學文化，蔡元培是重視學生的外語學習的。以世界語為例，北大是我國提倡世界語較早的一個學校。蔡元培主持北大後，即聘世界語學者孫國璋（字芾仲）來校主講世界語，於文科設立講習班，參加學習的達到五百多人。蔡元培倡立的校役夜班正班也把世界語作為外國語學科之一，與國語算術及理科並重。蔡元培為了利於世界語學者作高深的研究，於1920年創立北大世界語研究會，自兼會長，孫國璋為副。1922年俄國學者、盲詩人愛羅先珂受聘來校講授世界語會話，孫專講文法及讀本，世界語班學生倍增。1922年春由北大發起組織了北京世界語學會。是年全國教育聯合會一致通過北大提出的“以世界語首先加入師範學校課程”的議案。這一年十二月十五日，世界語研究會開展紀念柴門霍甫誕辰的活動，在北大召開了全國世界語聯合大會。參加者達兩千多人。蔡元培出席並發表演說，主張中國應普及世界語，以利於中外文化的交流。會上通過的議案，要求在各級學校增加世界語課程，多方麵推廣世界語，並籌辦世界語專門學校。由北大負責籌辦的世界語專門學校，於1923年在北京西城孟端學校內成立，蔡元培兼任校長，校董有蔡元培、魯迅、張季鸞、愛羅先珂、周作人等。蔡元培提倡世界語，在北大開設世界語課程，是和他吸收外國先進文化的主張相一致的。
其次，認為對外國學術文化應重在消化，反對簡單模仿和全盤歐化的錯誤傾向。他認為“人類之消化作用，不唯在物質界，亦在精神界。一人然，民族亦然。”“消化者，吸收外界適當之食料而製煉之，使物化為本身之分子，以助其發達。”因而消化是以“我”為主體，對於歐美各國的學術文化，“必擇其可以消化者而始吸收之”，切忌“渾淪而吞之，致釀成消化不良之疾。”他引用孔子的話說：“‘三人行，必有我師焉，擇其善者而從之，其不善者而改之’。這就是不守舊，不盲從的態度。現在最要緊的工作，就是擇善。”他既承認我國古代有豐富的文化遺產，值得後人繼承發揚，又反對盲目排外，妄自尊大；既強調學習外國，求得發展，又堅決反對“全盤歐化”，反對簡單的模仿，生吞活剝外國的東西。他殷切地告誡人們，在向外國學習時，要重在為我所用，要吸收而消化之，切忌為他人所同化。他對此作了意深詞懇的剖祈：