中國作為一個早已著名於世的文明古國，自漢代就設有太學，其後又有國子監相沿襲，直到京師大學堂設立後始廢止。太學與國子監實際上是我國古代的國立大學，這和後來的北京大學是一脈相承的。但是，由於曆史發展的種種原因，我國近代大學的創辦，是比較晚的。
十九世紀四、五十年代，封建營壘中的一些開明人士，鑒於鴉片戰爭失敗後外國侵略日益加深，提出了“師夷之長技以製夷”的口號，主張學習西方的科學技術，以抵禦外來侵略。1862年，清政府為了便於對外交渉，下令在總理各國事務衙門下開設京師同文館，從八旗子弟中逸出十人攻讀英語，聘請西人教席，培養翻譯人才。同文館的設立是我國創辦新式學校的開始，可算是我國最早成立的專門學校。它後來並入京師大學堂，是京師大學堂最早的一個組成部分。
1895年（清光緒二十一年），天津海關道盛宣懷鑒於開辦學堂、學習西學為當務之急，經北洋大臣王文韶的準許，在天津創設了北洋西學堂。這個學堂分頭等學堂和二等學堂兩種，均為四年卒業。頭等學堂的學生除學習普通課程外，並選學工程、電學、礦務、機器和律例等專門課程中的一種，具有專業的性質。1896年6月，刑部左侍郎李端芬在給清廷的《請推廣學校折》中，建議設立府州學、省學和京師大學堂等三級製學校，各以三年為期；這是第一次提出設立京師大學堂的建議。翌年，盛宣懷又根據李氏的三段製提議，奏請清廷在上海設立了南洋公學。南洋公學先設師範院培養師資，後又分設外院、中院和上院。外院和中院相當於小學、中學，上院具專門學堂的性質。蔡元培曾任教的特班，為1901年增設的，學生畢業後保送入經濟特科。上院開始主要培養政治方麵的人材，以後又增加培養商務和實業方麵的人材。北洋西學堂和南洋公學，比北京大學的前身京師大學堂略早二、三年；它們的頭等學堂和上院，可算是我國近代大學教育的雛形。而1898年開辦的京師大學堂，則是我國近代大學之發軔。
京師大學堂的創設，是戊戌維新運動的產物。中日甲午戰爭後，帝國主義列強在我國掀起了一個割地狂潮，中國麵臨亡國滅種的危機，救亡圖存成為當時最緊迫的任務。這時，以康有為、梁啟超、譚嗣同、嚴複等為代表的資產階級改良派，發動了一場變法圖強的維新運動。他們設學會，辦報館，著書譯文，大量介紹西方資本主義的文化科學知識。他們決心效法日本明治維新，對中國的政治、經濟以及文化教育製度實行革新。他們認為，要救亡圖存，隻有學習外國，實現維新變法；而維新變法必須從廢科舉、立學校做起。因此興辦新式學校，成為施行新政的重要措施。1898年初，康有為在《應詔統籌全局折》中，明確提出：“自京師立大學，各省立高等中學，各府縣立中小學及專門學”。他並上奏光緒說：“京師議立大學數年矣，宜督促早成之，以建首善而觀萬國。夫養人材猶種樹也。築室可不月而就，種樹非數年不蔭。今變法百事可急就，而興學養材，不可以一日致也，故臣請立學亟亟也”。在康有為等人的推動下，1898年6月11日，光緒下了《明定國是詔》，正式宣布開始變法。他在詔書中強調：“京師大學堂為各行省之倡，尤應首先舉辦。著軍機大臣、總理各國事務衙門王大臣，會同妥速議奏。所有翰林編檢、各部院司員、大門侍衛、候補候選道、府州縣以下官、大員子弟、八旗世職、各省武職後裔，其願入學堂者，均準入學肄習，以期人才輩出，共濟時艱。”隨後維新派又衝破頑固派的阻撓，於7月4日，促成光緒正式下令批準設立京師大學堂，命令稱：“京師大學堂為各行省之倡，必須規模宏遠，始足以隆觀聽而育人才。”並派吏部尚書孫家鼐為管理大學堂事務大臣。
由梁啟超起草的京師大學堂章程，規定大學堂的辦學方針有兩條：“一曰中西並用，觀其會通，無得偏廢；二曰以西文為學堂之一門，不以西文為學堂之全體。以西文為西學發凡，不以西文為西學究竟。”並提出：“本學堂以實事求是為主，固不得如各省書院之虛應故事，亦非如前者學堂之僅襲皮毛。所定功課必當嚴密切實，乃能收效。”據此，課程分為普通學科和專門學科兩類。以經學、理學、掌故學、諸子學和初等算學、格致學、地理學、文學以及體操等為普通學科，為全體學生所必修；以高等的算學、格致學、政治學、地理學、農學、礦學、工程學、商學、兵學和衛生學等為專門學科，由學生任選一門或兩門。另設英、法、俄、德、日五種外語，由學生選學一種（三十歲以上者可免修）。章程還規定京師大學堂設管學大臣一員，統率全學；設總教習一名，總管大學堂教學工作。並規定“各省學堂皆歸大學堂統轄”。這樣，京師大學堂既是當時全國的最高學府，又是全國的最高教育行政機關。這個章程綱要基本上反映了維新派學習西方，發展我國近代教育的要求，因而它成為我國近代大學教育的最早的一個章程。
京師大學堂的第一任管學大臣為孫家鼐。孫家鼐（1827—1909），安徽壽州人，曾曆任工部、禮部、吏部尚書，政治上傾向維新，接近帝黨，但與頑固派亦有聯係。他受命後，向光緒提出辦學的具體計劃，對大學堂章程內容作了某些增刪，主要有：一、為舉人、進士出身的京官，設立仕學院；二、精簡學科門類，專門學科中取消兵學課程；三、編譯局主要編譯西學各書，舊有經書不得任意刪節，編纂各書由管學大臣呈上欽定後頒行，提出“悖謬之書，嚴行禁止”；四、總教習可設二人，分管中學和西學；五、凡畢業生均由管學大臣出具考語，各依所長錄用，“俾所學與所用相符，冀收實效”。
經孫家鼐推薦，清廷任命許景澄、丁韙良為中學和西學總教習。許景澄（1845—1900），浙江嘉興人，清季外交官，出使法、德、意、奧、荷、俄等國，曾任總理各國事務衙門大臣，頗長於經世之學。丁題良（1827—1916，William Alexander Parsons Martin）美國傳教士，1850年來華，在寧波、北京等地傳教及著述，曾任同文館總教習，兼授國際公法。孫家鼐還舉薦刑部主事張元濟（與蔡元培同科進士）任大學堂總辦，因張堅辭，後由黃紹箕、餘誠格相繼擔任。
大學堂臨時校址設在京城地安門內馬神廟和嘉公主舊第。修複原房三百四十餘間，並新建一百三十餘間。這就是後來的北大第二院。此外，還在北河沿購置房舍一所，開設譯學館，此即後來的北大第三院。當時規定大學堂開辦經費為白銀三十五萬兩，常年用款為二十萬零六百三十兩。清廷指定以華俄道勝銀行的中國政府存款的利息支付，不敷之數由戶部補足。
當京師大學堂正在積極籌辦的時候，9月21日，以西太後為首的頑固派突然發動了政變。光緒被囚禁，康有為、梁啟超逃亡國外，譚嗣同等六人殉難。政變後，西太後下令恢複八股取士的科舉製度，維新派的改革措施幾乎全被取消，僅京師大學堂“以萌芽早，得不廢”。但這一年十二月開學時，學生還不滿百人，到第二年，也隻有近二百人。課程也僅設詩、書、易、禮四堂，春秋二堂。到第二年，才另立史學、地理、政治三堂，上午讀經史，下午學科學。講授經史課程的大多是翰林院的腐儒，隻是講些八股文的作法。大學堂學生這時也隻有參加科舉考試取得舉人、進士頭銜後，才獲得做官的資格，因此每到考期，大學堂學生便紛紛請假趕考。這就完全改變了原來維新派辦學的宗旨，實際上仍然是一所舊式書院。
1900年夏，義和團起義軍進入北京。8月3日，西太後以大學堂經費無著下令停辦。這時，原管學大臣孫家鼐因不滿西太後貶廢光緒已憤而辭職，中學總教習許景澄也因在八國聯軍進攻時以“主和”獲罪被殺。8月14日，八國聯軍侵占了北京。京師大學堂校舍先後被俄、德侵略軍盤踞，房屋、圖書和儀器設備大部被毀。這是北大曆史上第一次直接遭受帝國主義的摧殘。京師大學堂因此停辦了兩年多。後來人們把1898至1900年的京師大學堂，稱為“戊戌大學”。這一時期沒有畢業生。