北方西晉滅亡後，各民族又陸續建立了許多國家，曆史上把北方少數民族建立的15個國家連同西南的成國，統稱為“十六國”。羯族人石勒建立的後趙就是其中之一。
石勒是上黨武鄉（今山西榆社）人，他家世代都是羯族的小頭目。石勒年輕的時候，家鄉鬧饑荒，他和部落失散，四處流浪。後來，石勒被亂兵抓了去，賣給人家當奴隸。石勒智勇雙全，他趁當時北方局勢混亂，就逃了出來，招集了一些流亡在外的農民，組成了一支武裝隊伍。劉淵起兵後，石勒帶著他的隊伍投靠了劉淵，成為劉淵手下的一名大將。
敦煌莫高窟石勒雖然沒受過什麼教育，但他經過了幾次帶兵作戰，逐漸地懂得了光靠武力不能成就事業。於是，他十分注重收羅人才，招納賢士。
有個叫張賓的漢族人是個難得的人才，讀過很多書，並且胸懷大誌。石勒聽說後，就把他招了來，讓他幫助自己出謀劃策，鞏固自己的地位。後來，石勒又收留了一批在戰爭中流亡的漢族讀書人，組成了一個“君子營”，幫助自己運籌帷幄。在這些人的幫助下，石勒的力量一天天壯大起來。
劉淵死後，石勒與劉淵的侄子劉曜各霸一方。公元319年，劉曜建都長安，改國號為趙。公元328年，石勒滅掉劉曜，自稱皇帝。曆史上把劉氏建立的趙國稱為“前趙”，把石勒建立的趙國稱為“後趙”。
後趙建立後，石勒為了加強自己的統治，采取了許多措施。他積極學習漢族的先進文化，以改變羯族落後的習慣和風俗。他首先在後趙都城設立太學，請漢族讀書人做教師，選拔羯族官員子弟300人入太學讀書，培養統治人才。他還建立了保舉和考試製度，凡是各地保舉上來的人，經過評定合格，就選用他們做官。
石勒非常重視讀書人。他命令部下，今後凡捉到讀書人，一律不許殺死，一定要送交他親自處理。他還虛心聽取讀書人意見。有一次，石勒要建築宮殿，大興土木，以供自己享樂。朝中的一位大臣知道了連忙上書，為石勒講述這樣做的危害。石勒看了果然就不建了，還給這個上書的大臣很重的獎賞。朝中官員知道以後，都紛紛向石勒直言勸諫。後趙的國力更加強大了。