中國古代算書最早出現於何時，需要經考古不斷明確。現經發現的最早算書是1983年12月在湖北江陵張家山出土的一本抄於西漢初年約公元前2世紀的竹簡算書——《算數書》。既然是抄本，原本的成書時間應該更早，大約在戰國時期。這是一部比較完整的數學專著，全書采用問題集形式，共有60多個小標題，90多個題目，包括整數和分數的四則運算、比例問題、麵積和體積問題等。將算題歸類並注以標題的做法，反映了著述者對數學知識進行係統整理的嚐試，也可以說是理論建設的開始。
這一理論建設的實際進程後來受到數學教育的影響。前麵談到中國數學教育素有傳統，早在西周時期，數學就作為“六藝”（禮、樂、射、禦、書、數）之一被列入教育的內容。據《禮記·內則》篇記載，按周朝的製度是“六年（即6歲）教之數與方名……九年教之數目，十年出就外傅（教師），居宿於外，學書計”。《漢書·食貨誌》也說：“八歲入小學，學六甲、五方、書計之事。”說明數學在當時教育中已經受到相當的重視。為了加強對貴族子弟的教育，國家還設有專門官員“保氏”，“以養國子（官家子弟）以道”。顯然，這樣的教育不是隨隨便便進行的，它不僅要求有教材，還要求教材具有針對性和可接受性。因此，所教的“六藝”，即六門功課都製訂了細目。其中數學的細目有九個，稱為九數。九數具體包括些什麼內容，《周禮》沒有記載，但據東漢末經學家們注解，九數包括：方田、粟米、差分、少廣、商功、均輸、方程、贏不足、旁要等。這些細目與後來《九章算術》的要目相差無幾，這說明《九章算術》與早期數學教育的內容存在著源流關係。事實上，後來劉徽為《九章算術》作序時，特意強調了“周公製禮而有九數，九數之流則《九章》是矣。”九章既是周禮九數的演變，自然也就證明了數學教育對中國數學理論建設的重要影響。從“九數”到《九章算術》期間還曾出現過一些算書，隻是書缺有間，史料不多，有關的情況很難詳考。據《漢書·藝文誌》術數類著錄，有《許商算術》26卷和《杜忠算術》16卷。這兩部書約成書於公元前1世紀後半期，可惜書均已失傳，難詳其情。但從“算術”這一專門名稱的出現，說明關於推算之術已受關注，並被列入教育計劃。
公元前成書的算書還有《周髀算經》。這部書寫成大約是公元前100年前後，或在更晚的年代。它原是宣傳蓋天說的天文學書，但天文學離不開數學，所以書中涉及不少數學內容。其中包括複雜分數運算和勾股定理的應用。唐朝選定數學課本時，也把它作為算書列入“算經十書”之一，另署名為《周髀算經》。
總之，從數學知識的早期積累到中國數學係統理論的奠定，期間經過一個逐步完善的過程。促使這一過程發展的因素，除了數學知識的進一步充實之外，數學教育的需要起了很大作用。數學是當時唯一被列入教育內容的自然科學。盡管從整個社會來說，數學教育的普及麵是不廣的，但作為中國人所擅長的科目，受到曆代的重視也是事實。
數學被作為六藝之一列入教育內容，說明當時把數學看作一門技藝，這種技藝主要體現在算法上，因此中國數學在進行理論建設的時候，把算法作為考慮問題的基本出發點，力圖建立以題解為中心的算法體係。