在課程設置上，蔡元培十分重視基礎知識和基本理論的教育。
他在解釋學術這一名詞時，認為學為學理，術為應用，而文、理兩科都屬於學的範圍。這裏所說的學理，就是指理論的學習和研究。他對於中小學基礎教育（即普通教育）和大學專業教育（即職業教育），都很重視基礎知識和基本理論的教育。他認為基礎教育有如房屋的地基，專業教育有如地麵上的樓台亭閣；未有地基不牢而能建起高屋的。他不讚同中學實行選科製和文理分科製，就是重視基礎知識教育的表現。他強調中學的主要課程，特別是語文和數學兩科所學的內容，是學生畢業以後無論學文或是學理都必須具備的基礎知識。在大學的專業教育中，他同樣重視基本理論和基礎知識的學習，強調學生必須具備比較全麵的知識。他曾說：“大學宗旨，凡治哲學文學及應用科學者，都要從純粹科學入手，治純粹科學者，都要從數學入手，所以各係次序，列數學為第一係。”他反對那種專己守殘的經院式學風，主張學生要有紮實而寬厚的基礎，那種“治自然科學者，局守一門，而不肯稍涉哲學，而不知哲學即科學之歸宿，其中如自然哲學一門，尤為科學家所需要；治哲學者，以能讀古文為足用，不耐煩於科學之實驗，而不知哲學之基礎不外科學，即最超然之玄學，亦不與科學全無關係。”1920年北大製定過校旗，旗的右邊是橫列的紅、藍、黃三色，左邊是縱列的白色，又於白色中間綴黑色的北大兩篆文，並環一黑色。這是借作科學、哲學、玄學的符號。他對此解釋說，紅藍黃三色，象征現象的科學（指物理、化學等）、發生的科學（指曆史學、生物進化學等）和係統的科學（指植物、動物、生理學等）。“科學的範圍最廣，哲學是窄一點，玄學更窄一點兒。就分門研究說，研究科學的人最多，其次哲學，其次玄學。所以校旗上麵，紅、藍、黃三色所占的麵積最大，白次之，黑又次之”。他以此形象地表明“大學是包容各種學問的機關”。這是他辦學的重要指導思想，也是他對學生所應該具備的比較寬廣的基礎知識的要求。由此可見，加強基礎知識和基本理論的教育，即學理的研究，是蔡元培在北大進行課程改革和建設的一個重要原則。
過去的北大，由於師資力量薄弱，官僚習氣嚴重，因而課程建設和教學質量都很差。蔡元培很了解師資質量對教學的決定作用，正是由於他重視延聘學有專長的教授，使這一時期課程建設和教學質量都有顯著提高。他曾指出：文科除原有的沈尹默、沈兼士、錢玄同等人外，“自陳獨秀君來任學長，胡適之、周豫才（魯迅）、劉半農、周豈明（周作人）諸君來任教員，而文學革命、思想自由的風氣，遂大流行。理科自李仲揆（李四光）、丁巽甫（丁燮林）、王撫五（王星拱）、顏任光、李書華諸君來任教授後，內容始以漸充實。”法科“直到王雪艇（王世傑）、周鯁生（周覽）諸君來任教授後，始組成正式的法科，而學生亦漸去獵官的陋見，引起求學的興會。”這生動地說明了教師的作用。
這一時期的北大由於集中了許多學有專長的知名教授，使各學係的課程設置遠較過去充實，並且提高了學術水平。在文、法科開設的課程中，如李大釗的《唯物史觀》、《史學思想史》，魯迅的《中國小說史》，錢玄同的《文字學》（聲韻），劉複的《語音學》，吳虞的《文學名著選》，馬裕藻的《古籍校讀法》，黃節、沈尹默的《詩》，鄭奠的《中國文學名著選》，陳寅恪的《佛典譯文研究》，林玉堂的《中國比較發音學》，陳翰笙的《歐美通史》，鬱達夫的《英國戲劇》，鋼和泰的《古印度宗教史》，吳梅、許之衡的《戲曲》，馬敘倫的《莊子哲學》，胡適的《中國哲學史》，陳漢章的《中國上古史》，陳啟修的《現代政治》，陳大齊的《認識論》，高仁山的《教育學》，張頤的《康德哲學》，屠孝宴的《宗教哲學》，樊際昌的《普通心理學》，王星拱的《科學概論》，鄧以蟄的《美學》，江紹原的《基督教史》，熊十力的《唯識哲學》，張竟生的《孔德學說》，譚熙鴻的《進化學說》，陶孟和的《教育社會學》，馬衡的《金石學》，周覽的《國際法》，高一涵的《政治學原理》，顧孟餘的《國際公法要論》，馬寅初的《貨幣》、《銀行》等，都具有較高的水平，受到同學的歡迎。有的係還對課程安排進行了一些改革，如史學係為了改造舊史學，把社會科學的經濟學、政治學等作為史學的基本知識課程。政治係的演習課，也是根據專業需要開設的一門選修課。演習分調查和譯書兩種，由學生自由選定一種或兩種，采取教師和學生共同研究、討論的方式進行。調查係由學生就理論、曆史和現狀等方麵任選一題目，經指導教師指定參考書和指導研究方法後，自行調查研究，並於一定期間內寫出報告，輪流在規定的演習時間上堂解說，再由教師和同學提出質問或批評，最後由教師評定分數。選修學生每學期至少報告一次。譯書係由學生一人或兩人與教員選譯書目，請教師指導譯書方法和參考資料，自行翻譯，於兩個月後輪流上堂報告譯作的內容大略，批評其書的長短處，並述翻譯中的疑難問題，然後由教師和同學提出質問或批評，最後由教師評定分數。選修學生至少每兩月作一次報告。規定調查或譯書的成果須交存本係教授會，備演習員和本校師生參考。演習課對培養學生實際工作能力有一定的作用，李大釗、周鯁生、陶孟和、高一涵、王世傑等都擔任過這門課的指導教師。政治係還開設《現代政治》課，注意對當前國際國內重大政治問題的研究，講題由任課教授確定後隨時在北大日刊上公布。當時講授的題目有李大釗的《人種問題》、楊棟林的《現代英國殖民地與其母國之關係》、王世傑的《現代之出版自由》、高一涵的《蘇維埃聯合的根本組織法》、燕樹棠的《中俄交涉問題》、周覽的《民族主義與國際主義》、《俄羅斯的政治》等。