漢代出現的設在京師的全國最高教育機構。西漢早期，黃老之學盛行，隻有私家教學，沒有出現傳授學術的學校。漢武帝罷黜百家定儒一尊之後，采納董仲舒的建議，始在長安建立太學。最初太學中隻設五經博士，置博士弟子五十名。從武帝到新莽，太學中科目及人數逐漸加多，開設了講解《易經》、《詩經》、《尚書》、《禮記》、《公羊傳》、《穀梁傳》、《左傳》、《周官》、《爾雅》等的課程。元帝時博士弟子達千人，成帝時增至三千人。王莽秉政，為了樹立自己的聲望，並籠絡廣大的儒生，在長安城南興建辟雍、明堂，又為學者築舍萬區。博士弟子達一萬餘人，太學規模之大，實前所未有。武帝到王莽，還歲課博士弟子，入選的可補官。
東漢建武五年(公元29)，漢光武帝劉秀在洛陽城東南的開陽門外興建太學。後來漢明帝劉莊還到太學行禮講經。順帝永建元年(126)，對太學進行了重修和擴建，費一年時間，用工徒十一萬二千人，建成兩百四十房，一千八百五十室。所招學生稱之為太學生。其後，太學生人數多至三萬人。靈帝熹平四年(175)，為了刊正經書文字，刻成有名的熹平石經，樹立於太學門外，全國各地來觀看和抄錄經文者，絡繹於途。兩漢時太學在培養人才和促進文化發展等方麵都起到一定的作用。但隨著政治的腐敗，太學生開始參與政治。西漢哀帝時，博士弟子王鹹曾聚集太學生千餘，以圖解救執法不阿的司隸校尉鮑宣。東漢晚期陳蕃、李膺等人反對宦官的黑暗統治，得到太學生的支持和響應，於是太學生也成為宦官打擊的對象，不少與黨人有牽連的人遭到禁錮。熹平元年，太學生被宦官逮捕和囚禁的達一千餘人。
魏文帝曹丕黃初中恢複了洛陽的太學，有博士十九人。太學生在魏明帝時增至千餘。時依漢製設五經策試之法，通過考試的可補掌故、太子舍人、郎中等。西晉武帝時太學生三千人(一說七千餘人)，依《晉令》規定，試經及格者可拜郎中。西晉時教育體製的重大變化，是為五品以上官僚子弟專設了國子學，形成了貴族與下層士人分途教育，國子學、太學並立的雙軌製。東晉學校教育相當衰微，南朝則有所複興，國子生多為士族高官子弟，稱之“國胄”或“世胄”，可以經明經策試入仕，而太學則往往僅存博士而無生員。
十六國時期，一些少數族政權亦曾設立太學以及四門學、郡國學、律學，生員身分有所限定，一般限公卿大臣子弟充當。然各政權興廢不定，學校也時設時罷。至北魏道武帝，設立學校，稱國子太學。後又別立太學。國子學一度改稱中書學，後又改回。郡學也稱太學。孝文帝、宣武帝時，又增設了四門小學，形成了國子學、太學、四門小學三學並立之製。南北朝後期至隋，又逐漸形成了律學(習法令)、書學(習文字)、算學(習計數)三學。
唐代國子監，有國子學、太學、四門學、律學、書學、算學。學校的差別，與學生資蔭(即父祖官爵)身份有關。國子學、太學、四門學分別麵向三品、五品、七品以上官僚子弟，律學、書學、算學則麵向八品以下子弟及庶人。此外，國子生、太學生、四門生學習儒家經典，律學、書學、算學學生則學習專門技術。國子學生員三百人，太學五百人，四門學一千三百人，律學五十人，書學、算學三十人。入學年齡為十四歲至十九歲，律學則為十八歲至二十五歲。高宗龍朔二年(662)，又在東都洛陽設立了一個國子監，與長安國子監合稱“兩監”。