1、唐代山西的書院
山西書院在漫長而悠久的發展過程中，屢建屢廢，就有關地方誌統計，山西曆史上共有書院約286所，其中宋建4所，遼建1所，金建4所，元建18所，明建85所，清建174所。書院的發展曆史大致可劃分為四個時期：宋、遼、金、元的濫觴時期；明代的成長時期；清代的繁榮時期；近代的衰敗時期。而每一階段又都經曆了曲折的興衰時期。由此可以看出，山西書院的發展沿革與山西的地域文化及中國古代社會的政治體製、文化觀念、經濟發展息息相關。
唐代有一些以個人名義命名的書院，它們大多是一些退避、隱居的儒家士大夫個人讀書治學的場所。他們建造房屋，收藏書籍，並在此讀書治學，把自己的讀書之所稱為“書院”。在《全唐詩》中就可見以書院為題的詩十一首，其中有一首是楊巨源的《題五老峰下費君書院》。據《虞鄉縣誌·書院》記載：“費君書院，在永濟縣中條山太乙峰下，邑人費冠卿讀書處。”費君書院是山西最早見於記載的書院。費冠卿其人未詳，所建書院年代與具體情況已無可考證。還有唐憲宗時（806—820）介休綿山的靜林書院，相傳為唐令狐楚讀書處。這兩所稱之為“書院”的地方，並不具有作為正式教育機構的書院的性質。也就是說有書院之名，而無書院之實。
2、宋、遼、金時期的山西書院
宋代中國書院開始普遍興起，確立了書院製度。各地書院相繼而起。山西書院的創建從無到有，開始起步。宋、遼、金時期山西所建書院，見於文獻記載的有以下幾所，其中較為著名的是遼代翰林學士邢抱樸在家鄉應州所建的龍首書院和建於北宋靖康年間的雄山書院。
應州龍首書院山西曆史上有明確記載的第一所書院是龍首書院，為遼翰林學士邢抱樸在山西應州所建，開啟了山西創建書院的先河。具體時間已無考（可能在統和年間）邢抱樸，應州人，生卒年不詳，主要活動於遼代景宗和聖宗時期（969—1031）相當於北宋太祖到仁宗時期。保寧初年，邢抱樸在遼朝任政事舍人、知製誥，後遷翰林學士，加禮部侍郎。統和四年（986）宋、遼雁北大戰後，宋軍撤退，遼聖宗命邢抱樸赴應州鎮撫之……回朝後升任戶部尚書，遷翰林學士，纂修《實錄》。統和九年（991）奉命到南京（今北京）處理積案，回朝拜參知政事。樞密使韓德讓推薦他巡視全國各地，考察民情，對地方官可全權升遷罷免。後因母喪辭官，屢經朝廷召用，又回朝任職，改任南京樞密使。死後追贈為侍中。邢抱樸的弟弟邢抱質亦在遼朝做官至侍中。兄弟二人皆為當時碩學之士，他們之所以才名卓著，是與其母親的教導分不開的。邢抱樸母陳氏，少時即通經義，能吟詩作賦，人稱“女秀才”。陳氏有六子，她親自教子讀書，後來“抱樸與弟抱質受經於母陳氏，皆以儒術顯”。陳氏統和十二年（994）卒，死後贈魯國夫人。應縣城西南曾有“一經樓”，就是陳氏教子讀書處。邢抱樸不忘母親的教誨之恩，為追念母親的功德，在家鄉創建了一所書院，以應州境內最主要的山峰龍首山命名。龍首書院的創建，當在公元994—996年間，時間正值遼聖宗之際，即宋太宗朝。值得注意的是，此書院雖為漢族大臣所建，但開了少數民族政權建立書院之先河。
夏縣溫公書院宋治平二年（1065）在京都知諫院為官的司馬光歸鄉省親，歸京後仍牽掛家鄉，特派人送回一筆銀子建起書院，供家鄉子弟就讀求知。
晉城古書院宋治平三年（1066）程顥為晉城令時建社學，親教士民子弟句讀，後人稱為書院，地址在城北，此地今仍名書院村。
平定冠山精舍北宋宣和年間（1119—1125）在平定西南8裏風光秀麗的冠山，私人創辦一所書院，名冠山精舍，延至金代。元初中書左丞呂思誠父祖數世讀書於此。
長治雄山書院宋靖康年間（1125—1127）長治建立了雄山書院（此時正是宋金交戰時期，北宋徽欽二帝被金人俘往北方，高宗南渡建立南宋）雄山書院在今長治縣蔭城鎮雄山之麓，至今遺跡尚存，這也是現在惟一留有遺跡的宋代山西書院。