在健全學校領導體製的同時，蔡元培還對北大學科的設置進行了改革。
蔡元培從大學是研究高深學問的宗旨出發，十分推重理論科學的獨特作用。他認為：“所謂大學者，非僅為多數學生按時授課，造成一畢業生之資格而已也，實以為是為共同研究學術之機關。”因此在對學與術的關係問題上，提出“學與術可分為二個名詞，學為學理，術為應用。各國大學中所有科目：如工商，如法律，如醫學，非但研究學理，並且講求適用，都是術。純粹的科學與哲學，就是學。學必借術以應用，術必以學為基本，兩者並進始可。”又說：“文、理，學也。雖亦有間接之應用，而治此者以研究真理為的，終身以之。所兼營者，不過教授著述之業，不出學理範圍。法、商、醫、工，術也。直接應用，治此者雖亦可有永久研究之興趣，而及一程度，不可不服務於社會；轉以服務時之所經驗，促其術之進步。與治學者之極深研究，不相侔也。”他主張“以學為基本，術為支幹”，認為二者之間是相互相成、密切關聯的，因而“不可不求其相應”；同時，他又強調“學”重於“術”，在基礎理論和應用科學之間，他是重“純粹的科學”研究的。因此他主張在學校的設置上應有所分工，不必各科兼備。“治學者可謂之‘大學’，治術者可謂之‘高等專門學校’。兩者有性質之別，而不必有年限與程度之差。”這些主張，對於扭轉當時存在的重術輕學、重工輕理的偏向，加強大學基礎知識和基本理論的教育，都具有積極的意義。民國初年頒行的、由蔡元培主持起草的《大學令》規定：“大學以文理二科為主。須合於左列各款之一，方得名為大學。一，文理二科並設者。二，文科兼法商二科者。三，理科兼醫農工三科，或二科一科者。”就是他上述主張的具體化。對於北京大學，蔡元培則致力於把它辦成文理科的綜合性大學，成為研究學理的中心。從上述觀點出發，他對北大的學科設置進行了調整和改革。
原來，北大是文、理、法、商、工五科並立，沒有重點，“而每科所設，少者或止一門，多者亦不過三門。欲以有限之經費，博多科之體麵，其流弊必至如此。”對當時辦學條件和學術環境的惡劣，諸如經費困難、官僚陋習嚴重和封建軍閥政治的不民主等對學科建設的嚴重影響，蔡元培曾發出這樣的慨歎：“我國現正在輸入歐化時代，而各學校之設備既簡陋，環境尤不適宜。即如北京大學，恒有人以‘最高學府’目之，而圖書、標本、儀器之缺乏，非特畢業生留校研究，無深造之希望，即未畢業諸生，所資以參考若實驗者，亦多未備。其重要講座，懸格以求相當之教員而累年未得者，尚多有之。蓋內容若是其簡陋也。而一言環境，則有舊籍較多之京師圖書館而外，並無閱借新書之所。其他若美術館、博物館、專門學會、特別研究所等，凡是為研究學術之助者，無一焉。所日日刺激神經者，言論、出版、集會之不自由，官僚、軍閥、政客及其他不正當營業之誘惑而已。嗚呼！以如是內容、如是環境，而侈談學術，事倍功半，複何待言。”所以蔡元培對學科改革的措施，也是在辦學條件極為困難條件下要重在實效出發的。經過蔡元培的籌劃，北大的科係進行了如下幾個方麵的改革：
一、擴充文、理兩科。這是學科改革的重點。其時，文本科僅設有中國哲學門、中國文學門、英國文學門，十分薄弱。1917年暑假後，增設了中國史學門，這是由中國文學門教員和國史編纂處編纂員中分出一部分組成的。外國文學除原有的英文門外，1918年增設了法國文學和德國文學兩門。1920年，預科俄文班畢業，於是又增設俄國文學係。理科除原有的數學、物理、化學三門外，1917年增設了地質學門。經過擴充後，文、理兩科比過去加強了。
二、法科的調整。北大原有的法科較為完備，設有法律、經濟、政治三門，學生人數也是全校最多的一個科。蔡元培認為以北大的經費和校舍，沒有兼辦應用科學的可能，而北大法科又具有獨立的條件。因而他計劃將法科分出去，與法專合並，組成專授法律的法科大學。這樣就可以把騰出的校舍和經費，用來擴充文理科。1917年暑假後，將法科移設於原預科校舍（在今北河沿即後來的第三院），就是作為法科獨立出去的準備。後來因為法科方麵的反對，這個計劃沒有實現。後北洋大學的法科並入北大。
三、商科和工科的歸並。北大商科1917年始設立，按教育部規定，原擬分設銀行學、保險學等門，終因經費不敷無法設置，僅講授普通商業學，與商科實名不副實，因此仿照美日等國大學法科兼設商業學之先例，將商科改為商業學而隸屬於法科，並決定俟現有的商業學學生畢業後即予廢止（1919年即終止）。北大工科僅有土木工及采礦冶金兩門，門類不全，設備亦簡陋，而與北洋大學的工科設置重複，且兩校的工科學生合計不及千人。因此蔡元培認為無此重複的必要。經與有關方麵商議決定，北大預科畢業生中願入工科者，轉送入北洋大學，本校工科俟原有的學生畢業後即行停辦（土木工學門於1922年，采礦冶金門於1923年最後一期學生畢業）。這樣，就實際取消了工、商兩科，將用於工、商科的經費、設備及校舍用於擴充理科，而北洋大學之法科歸入北大後，也使其能集中力量發展工科。