在中世紀初期，西歐的文化教育非常落後。普通老百姓通常是不識字的，就是貴族大臣們也都很無知。政府文告、外交書信都是用拉丁文寫的，這種文字當時隻有少數教士才能掌握。文化教育全被教會所壟斷。後來，隨著城市的發展和工商業的日益繁榮，逐漸出現了城市的學校。這些學校，就是後來中世紀大學的基礎。
西方現代大學多是從中世紀大學發展而來的。最初的大學不是由教育部門批準建立的，而是自發形成的。中古初期，教會、修道院學校掌握著教育，具有明顯的宗教色彩。中世紀的世俗大學是市民階級的產物，它們在城市與行會組織獲得發展的條件下形成。
“大學”一詞來源於拉丁文“UniverSitas”，指綜合性的研究場所，或指有權決定學校事務的學生或教師會（聯合會）。就是說，教師和學生為保障自己的權益，組織一種特殊的行會，負責訓練教師，準許教師授課頒發文憑。
在西歐古老的大學中，最著名而又典型的，要數法國的巴黎大學了。早在12世紀前半期，巴黎大學就開始形成。1200年，法蘭西國王腓力二世頒發詔書，批準了這個大學製定的法規，於是巴黎大學正式誕生。巴黎大學很快成為歐洲各地前來求學學生的集中地。據說有個時期，巴黎大學的學生達5萬人之多。大學吸引著這麼多青年，是因為他們結業後，總是被歸入神職人員一類，可以享受許多特權：不受國家約束，不納稅，隻在教會法庭上受審等。巴黎大學和西方其他大學一樣，一律使用拉丁語進行教學，所以它能接納歐洲各國通曉拉丁語的學生。
巴黎大學是學生和教師聯合組成的。此外，為它服務的人，如書販、信差、藥商、抄寫人甚至旅店老板等，都算是大學的成員。教師們按照他們自己的才能，也就是能教某種學科的能力，分別結合成不同的團體。現代大學中的“係”，就是從拉丁語的“才能”這個詞轉化而來的；而從中選出的“首席”或“執事”，就是後來所稱的“係主任”。
當時全校共設有四個學科：文藝、醫學、法律和神學。文藝學科屬於普通科，學習“七藝”：語法（包括拉丁語和文學），辯證法（即邏輯學），修辭（包括散文、詩的習作和法律知識），幾何（包括地理和自然曆史），算術，音樂，以及天文學（包括物理學和化學）。這個學科的人數最多，修完後可以得到學士學位。其他三個學科是高級科，隻有普通科畢業的學生才能升入，修完後可以獲得碩士學位。取得了學位後，才有在大學當教師的權利。不過能取得學位的人並不多：獲學士學位的不過1/3，而獲碩士學位的僅占1/16.