公元前3000年左右，古巴比倫開始有了較成體係的數學了。現在考古發現的古巴比倫泥版文書對研究數學史提供了有力的證據。這些泥版書是在膠泥軟時刻上字然後曬幹而成的，而那些尚未毀壞的就保存了下來。這些泥版書大抵製作於兩段時期：有些製作於公元前2000年左右；而大部分是公元前600年到公元300年製作的。較早的泥版是用斷麵呈三角形的筆斜刻的，刻痕呈楔形，因此這種文字叫楔形文字。在楔形文字中，已經出現了從1到60的整數泥版和泥版上的楔形文字寫法和記號。其中1和60的記號樣子差不多，因為巴比倫人采用60為基底的進位記號。但這些記號組合在一起時還是可能引起誤解，因為沒有數的空位“零”是沒有記號的。所以要弄清整個數字的確切數值，我們還得參考其他內容才行。
古巴比倫人也會表示分數，但一組記號所表示的分數也可以作多種理解，這是一種混淆不清的表示法。在古巴比倫，10 進位也是有的，還有的使用 12 進位，這同我們現在的小時用 12 進位，分、秒用 60 進位，英時用 12 進位，而普通計數用 10 進位是一樣的。其中 60進位製的分數用60乘冪的形式表示，這種寫法一直沿用到16世紀歐洲文藝複興時，才為10進製的小數所代替。
古巴比倫人也有表示平方、平方根、立方和立方根的數表。當方根是整數時，給出的是準確值。對於非整數的方根，相應的60進製數值隻是近似的。不過，現在我們還沒有根據證明巴比倫人已經有了無理數的概念。
在古巴比倫時代，求給定寬和高的一扇門對角線問題時出現了平方根。他們還給出了求平方根問題的其他近似解答。
古巴比倫神廟早期巴比倫有一個代數基本問題，是求出一個數，使它與它的倒數之和等於已給定的數。這個問題的解答是要解一個二次方程。這說明巴比倫人已經知道二次方程求根的方法。由於巴比倫人不用負數，所以二次方程的負數根我們是看不到的。我們現在知道，巴比倫人可以解出含有五個未知量的五元一次方程來，包含十個未知量的問題是在校正天文觀測數據中出現的。他們用一種特殊的方法結合各個方程，最後也算出了所有未知量。
在古巴比倫，經濟對數學發展的影響是十分顯著的，盡管人們的數學知識十分有限，但數學在他們生活中的作用卻是不可忽視的。巴比倫位於古代貿易通道上，他們商業活動範圍很廣。巴比倫人就用他們的算術和簡單代數知識來表示長度和重量，來兌換錢幣和交換商品，來計算利息和稅額，來給農民、教會和國家之間分配收獲的糧食。現在發現的牽涉到數學的大多數楔形文字著作是關於經濟問題的。可見，在巴比倫早期曆史中，經濟對數學發展的影響。其次，在工程建設上，需要用到計算。如挖運河，修堤壩，以及其他水利工程都要用到計算，關於磚的需要量問題就引起了許多數字計算和幾何問題。房屋和穀倉的容積也需要計算。如果挖一條運河，橫斷麵的長、寬、深是已知的，每人每天挖土量是已知的，那麼就可以計算出所需要人數或工作天數來。這是巴比倫數學實際應用的一個例子。第三，巴比倫時期已經有了天文學的記錄。在公元前700年左右，天文學中已經有了對現象的數學描述，並有了係統的觀測數據記錄。後來，數學在天文學上的應用多起來，特別是用於計算月球和行星的運動。從對月日觀察數據所作的算術，可以看出巴比倫人計算了相繼數據之間的一次和二次差分，並對數據進行了比較複雜的處理，使他們能預測各行星在每一天的位置。他們頗為準備地知道了一些行星的運動周期，並利用月亮的虧蝕現象來作為計算的基礎。然而，在巴比倫人的天文學裏，並沒有對行星運動或月球運動給出幾何模型，這說明古巴比倫的幾何學發展遠不如代數學。