由於畜牧業和農業生產的需要，我國古代勞動人民經過長時間的觀察，發現了日月運行的基本規律。他們將第一次月圓或月缺到第二次月圓或月缺之間的一段時間規定為一個月，每個月為29天多一點，將12個月稱為一年。這種計年的方法叫做陰曆。
同時人們又觀察到：從第一個冬至到下一個冬至(實際上就是地球圍繞太陽運行一周的時間)共需要365天又四分之一天，於是將這一段時間稱做一年。按照這種辦法推算出來的曆法，通常稱為陽曆。
然而，陰曆一年和陽曆一年的天數並不恰好相等。按照陰曆計算，一年共有354天；而按照陽曆來計算，一年應為365天5小時48分46秒。也就是說，陰曆的一年比陽曆的一年要少11天多。
為了使這兩種曆法的天數一致起來，就必須調整陰曆。而對於這個問題，我們的祖先很早就找到了解決的辦法，就是采用“閏月”的辦法，即在若幹年內安排一個閏年，在每個閏年中再加入一個閏月。每逢閏年，一年就有13個月。采用了這種方法後，陰曆年和陽曆年就比較符合了。
在古代，我國曆法家一向都將19年定為計算閏年的單位，稱為“一章”。在每一章裏，共有7個閏年。也就是說，在19個年中，要有7年是13個月。
這種閏法一直采用了1000多年，直到412年北涼趙歐創作《元始曆》，才打破了歲章的限製，規定在600年中間插入221個閏月。可惜，趙歐的改革在當時並未引起人們的重視。
後來，祖衝之汲取了趙歐的先進理論，加上自己的觀察，認為19年7閏的閏數過多，每200年就要差一天。因此，他提出於391年內144閏的新閏法。這個閏法在當時算得上是最精密的了。
除了改革閏法外，祖衝之在曆法研究上還有一項重大成就，就是破天荒第一次應用了“歲差”。
根據物理學原理，球體在旋轉運動時，如果絲毫不受外力的影響，旋轉的方向和速度應該是一致的；如果受了外力的影響，其旋轉速度就要發生周期性變化。我們所居住的地球就是一個表麵凹凸不平、形狀不規則的剛體，在運行時經常受到其他星球吸引力的影響，因而旋轉的速度總要發生一些周期性的變化，不可能是絕對均勻一致的。因此，每年太陽運行一周(實際上是地球繞太陽運行一周)後，都不可能完全回到上一年的冬至點上，總要相差一個微小距離。按照現在天文學家的精確計算，大約每年要相差50.2秒，每71年8個月向後移一度。這種現象稱為歲差。
祖衝之在曆法研究方麵的第三個巨大貢獻，就是能夠求出曆法中通常稱為“交點月”的日數。
所謂交點月，就是月亮連續兩次經過“黃道”和“白道”的交叉點前後所相隔的時間。黃道指的就是地球上的人看到的太陽運行的軌道，白道則是在地球上的人看到的月亮運行的軌道。交點月的日數是可以推算得出來的。當時祖衝之測得的交點月的日數是27.21223日，比以前天文學家測得的要精密得多，同近代天文學家所測得的交點月的日數27.21222日已經極為近似。在當時的天文學水平下，祖衝之能夠得出這樣精密的數字，可謂實在了不起。
由於日食和月食都是在黃道和白道交點的附近發生，所以推算出交點月的日數以後，就更能準確地推算出日食或月食發生的時間。祖衝之在他製訂的《大明曆》中，應用交點月推算出來的日、月食時間比過去準確，和實際出現日、月食的時間都很接近。
祖衝之根據上述的研究成果，終於製成了當時最科學、最進步的曆法——《大明曆》。這是祖衝之科學研究的天才結晶，也是他在天文曆法上最卓越的貢獻。
祖衝之不但精通天文、曆法，在數學方麵也取得了基礎的成就，尤其是對“圓周率”的研究，更是超越前代。
在推算圓周率時，祖衝之付出了無數的心血。如果要從正六邊形算起，算到24576邊時，就要把同一個運算程序反複進行十二次，而且每一運算程序又包括加減乘除和開方等十多個步驟。當時，祖衝之進行這樣繁難的計算，隻能用算籌(小竹棍)來逐步推演。如果頭腦不是十分的冷靜精細，缺乏堅忍不拔的毅力，是根本不會成功的。
祖衝之去世後，他的兒子祖暅之繼續進行著父親的研究，進一步發現了計算圓球體積的方法。
祖衝之還曾寫過《綴術》五卷，是一部內容極為精彩豐富的數學書，很受人們重視。唐朝官辦學校的算學科中規定：學員要學《綴術》四年；朝廷舉行數學考試時，也多從《綴術》中出題。後來，這部書曾經傳到朝鮮和日本等地。可惜到了北宋中期，這部有價值的著作便失傳了。