為了提高測量精度，需要采用盡可能小的讀數單位。古人對此做了不倦的努力。以衡器為例，考古發掘證明，早在戰國時期，中國衡器的製作已經相當精密。湖南長沙出土的戰國銅環權，具有可靠重量的小砝碼僅重0.6克，即為例證。再以長度為例，《漢書·律曆誌》記述的最小長度單位為分，但在實際測算過程中，古人采用了比分更小的單位，如厘、毫、秒等，在最小單位下，還增加了強、半、太、少等估讀數字。這些，顯然是長度測量日趨精密的表現。
另一方麵，還要盡量注意避免誤差的積累，這就要求根據被測物的大小，選擇合適的測具。若測具不當，單位過大，就會導致測量無法進行；單位過小，則勢必增加測量次數，使得累計誤差增大。《淮南子·泰族訓》說：“寸而度之，至丈必差；銖而稱之，至石必過。石稱丈量，徑而寡失。”這段話意思是說：要測量一丈長的物體，而所用測具長度卻是寸，這樣一寸一寸量下去，量夠一丈時，其結果必然是不正確的。要測量一石重的物體，卻用銖這樣的重量單位一銖一銖去稱，最後結果，也要出錯。直接用石去稱、用丈去量，就會減少偏差。《淮南子》這段話得出了一個重要結論：徑而寡失。這一結論反映了測量工作應該遵循的一條基本原則，具有重要的指導價值。
測量需要有一定的數學和物理依據，這些依據本身有時也會成為產生誤差的根源。古人對此多有涉及。例如，三國時王著在討論天球大小時，對前人陸績的結果表示不滿。他認為陸績在測算天球周徑時依據的圓周率是周三徑一，這一數據不準確，因而導致計算結果有誤。梁朝祖唯對張衡也有過類似的批評。祖眶的父親祖衝之在考校劉歆設計製作的新莽嘉量時，也明確指出劉歆依據的圓周率值不夠精確。所有這些，都是通過對產生最後測算結果所依據的數學關係的分析，指出了產生誤差的原因。
古人進行天文測量的物理依據之一是光行直線，這一依據遭到了明末方以智的否定。方以智曾提出過一個十分重要的概念，叫做“光肥影瘦”，其中心意思是說光不走直線，光在傳播過程中常向幾何投影的陰影處侵入。方以智認為，既然光不走直線，那麼運用建立在光行直線基礎上的幾何測算方法進行測量是“測不準”的。方以智的這些討論，集中表現在其《物理小識》一書。這一論述的具體內容是否正確，可以姑且置之不論，但至少它反映了古人對測量所依據的物理原理的重視。就計量史而言，這是有深遠意義的，它標誌著古人對計量誤差產生原因認識的深化。
在中國計量史上，古人對測量的精確度和準確度概念的區分及探討，是傳統誤差學說取得的重要成就之一。這一區分的進程，早在先秦時代已經開始。先秦著作《韓非子·外儲說左上》有一段話，就涉及到了這一區分。那段話的意思是說：剛剛磨。畢的弩箭，箭端鋒利，以之射物，每次射中的地方都小到一個點，這是否意味著射箭本領高強呢？《韓非子》的回答是：“莫能複其處，不可謂善射。”即如果不能重複射中該處，不管射點多小，也不能叫做射箭技術高超。如果從測量的角度來解釋《韓非子》的這些話，我們就會得到很有意義的發現：箭端鋒利，射中點小，這意味著精確度高。射箭本領高強，每次都射中同一個地方，這意味著準確度高。精確度高未必準確度也高。要判斷準確度的高低，要看測量結果能否重複，如果不能重複，不管讀數精度多高，都不能說準確度高。《韓非子》隱含的這些思想，無疑是正確的。
在中國曆史上，真正從理論上探討精確度和準確度概念的，當推宋代沈括，他是在討論用渾儀進行天文測量時涉及到此內容的。當時有種觀點，認為渾儀放置於高台之上，觀測日月出沒時不與地乎相當，因而增加了測量誤差。沈括對此說不以為然，他在上奏皇帝的《渾儀議》中指出：“天地之廣大，不為一台之高下有所推遷。蓋渾儀考天地之體，有實數，有準數。所謂實者，此數即彼數也，此移赤彼亦移赤之謂也。所謂準者，以此準彼，此之一分，則準彼之幾千裏之謂也。今台之高下乃所謂實數，一台之高不過數丈，彼之所差者亦不過此；天地之大，豈數丈足累其高下？若衡之低昂，則所謂準數者也，衡移一分，則彼不知其幾千裏，則衡之低昂當審，而台之高下非所當血也。”(《宋史·天文誌》)這段話中有“此移赤彼亦移赤”之語，據科學史家李誌超教授判斷，這裏的“赤”當為“十分”之誤。因為古書都是豎排，“十分”二字的豎寫，很容易與“赤”字相混。沈括在這裏提出了測量的“實數”和“準數”概念。所謂“實數”，與測量的精確度有關，它所反映的是測算結果的絕對值，相應的誤差是絕對誤差。“準數”，是測量的相對值，是用渾儀觀測天體時直接反映在儀器上的讀數，由此產生的誤差直接影響到最後測算結果的準確度。在沈括所舉的例子中，台子高下是“實數”，在此基礎上進行測量導致的絕對誤差雖可達“數丈”之巨，但它與天地之高大相比，可謂微乎其微，即對相對誤差的作用近似於零，影響不到測量的準確度，所以沈括說：“天地之大，豈數丈足累其高下？”另一方麵，窺管在渾儀上的讀數是“準數”，它在測量中的讀數誤差也許不大，但因其反映的是相對測量數據，“衡移一分，則彼不知其幾千裏”，對最後結果的影響是相當大的。因此，台子的高低可以不去考慮，但窺管的指向卻要十分精確。沈括的分析表明，在判斷誤差對測量結果的影響方麵，他已經有了清晰而正確的認識。