我國是世界上文化發達最早的國家之一。我們的祖先創造了光輝燦爛的古代文化，積累了極其豐富的文獻典籍。
早在遠古時代，傳說就有所謂《三墳》、《五典》、《八索》、《九丘》之類的著作。周代，據《周禮》記載，有”邦之六典”、”邦之六典”、邦國之誌，以及三皇五帝之書。諸侯亦各有國史。由於眾多圖籍的出現，所以周王室收藏了大量文獻圖書。
春秋、戰國時期，諸侯分立，周王室的部分藏書流散於各國。古已有”國可滅，史不可滅”的傳統，各戰敗諸侯國的圖籍，流入戰勝的諸侯國被接收保存起來。孔子整理刪訂”六藝”，就是收集和利用了魯、周、宋、杞等國的文獻。
先秦時期，除了官藏之外，出現了私人藏書風氣。《莊子?天下篇》稱：”惠施多方，其書五車”。
秦滅六國以後，分散於各諸侯國的圖書資料薈聚於秦都。秦始皇於公元前213年下焚書令後，大量圖書文獻被焚毀，損失自不待言；但民間也有不怕殺頭者，把書堅壁隱藏起來，而博士官所典藏的各種書籍，也沒有受到損失。
漢興之後，注意收集遺書。高祖、孝惠、文景之時，大收篇籍，廣開獻書之路。孝武之世，”建藏書之策，置寫書之官”。成帝時，又使謁者陳農求遺書於天下。整個西漢時期，由於廣泛地收集圖書典籍，聚書工作取得很大成績。至於地方藏書，最著名者為河間獻王劉德和淮南王劉安二人。《漢書》說獻王德”書多與漢朝等”，又說”是時淮南王安亦好書”。《史記》也說獻王好古；而淮南聚書。尤為人所共知。但西漢時，重要籍典大都聚於官府，私人藏書之業，並未發達。可惜的是，西漢二百載聚集起來的”大凡三萬三千九十卷”圖書，毀於王莽之禍和漢末兵燹之中。
東漢建立以後，接連幾代皇帝都崇儒尚文，重視圖書。光武帝、安帝、順帝各朝廣泛搜求圖書，所以宮廷藏書很多，超過了西漢。此時在官藏的影響之下，私人藏書也發展起來。光武帝時，曹曾積石為倉以藏書，號稱”曹氏書倉”。但東漢末年，董卓興起，縱兵燒掠，皇家藏書損失慘重，幾乎喪失殆盡。
西晉初年，經過采綴遺亡，加上此時紙的使用又促進了書籍的傳抄，遂使典籍大增。據荀勖主持整理秘府圖書時統計，西晉皇家藏書為2．9945萬卷。但經”八王之亂”，北方遊牧民族大舉南下。西晉王朝滅亡，洛陽皇家的圖書”靡有孑遺”。
東晉建都之初，宮中隻剩下圖書3014卷。南北朝時，南朝宋謝靈運編《四部目錄》，積聚圖書達6．4582萬卷。梁武帝時，宮內文德殿藏書有2．3106萬卷，後經”侯景之亂99 9被焚一空。梁元帝時又聚書14萬卷，但亦付之一炬。
綜觀魏晉南北朝時期，由於社會分裂動亂，戰火頻繁，文獻典籍屢遭浩劫。此時官藏衰落，仰賴私人藏書，文獻典籍又得以保存流傳。據《晉書?範平傳》載，西晉時，藏書家範平，祖孫累世收藏典籍。其孫範蔚”家世好學，有書七千餘卷，遠近來讀者常百餘人，蔚為辦衣食”。張華亦為晉時著名的藏書家，史稱”天下奇秘，世所希存者，悉在華所”。張華”嚐徙居，載書三十乘，秘書監摯虞撰定官書，皆資華本，以取正焉”。他”身死之日，家無餘財，惟有文書，溢於兒篋”(見《晉書?張華傳》)。晉人褚陶，亦喜好藏書，”以墳典自娛”。又《梁書?任肪傳》載：任肪”家雖貧，聚書至萬餘卷，卒多異本”。卒後，凡官家不藏之書，皆”就其家取之”。梁人虞穌，少好學，亦收藏不少圖書，但居貧屋漏，恐漏書籍，乃舒被覆書，可謂愛書甚於己身。