度量衡大小製的產生始自西晉。荀勖考校樂律而求得古尺，與當時日常用尺已有區別，這表明他所用的樂律尺與民用尺已經不一致。後來，祖衝之考校前代尺度，認為苟勖律尺符合古製，於是以之測日影、定曆法，這是南北朝時量天尺與日常用尺不一致的典型例子。實際上，自西晉始，每逢改朝換代，校樂律、定曆法必求古器，說明人們已經充分意識到了度量衡應該有大小製的區別。到了隋朝，隋文帝統一度量衡，明文規定測日影用南朝小尺，官民日常用尺則采用北方大尺，從而進一步肯定了度量衡大小製的使用。唐朝訂製，把度量衡大小製載入《六典》，確立了其法律地位。從此，度量衡大小製作為一種法定製度，正式登上了中國曆史舞台。
唐宋以後度量衡的演變
隋朝存在時間很短。經過隋末農民戰爭的衝擊，新興的唐王朝重新統一了中國。
唐代在度量衡製度方麵基本繼承了隋製。綜合各種資料來看，唐朝1尺約合今30厘米左右，1升約合今600毫升，1斤約合今661克。另一方麵，度量衡製度在唐代也有所演變，這主要表現在重量的進製方麵。秦漢以來，長度和容量基本都是十進製，而重量單位卻是非十進製，而且進率不一。這種局麵，由唐初鑄“開元通寶”錢為契機而得以改善。所謂“開元通寶”，是開辟新紀元及通行寶貨的意思，與唐玄宗的開元年號(713-741年)無關。“開元通寶”錢始鑄於唐武德四年(621年)，錢的直徑為8分，重2銖4累。根據傳統兩與銖之進率規定，1兩重24銖，2銖4累恰為1兩的1／10，即10枚“開元通寶”錢正好重1兩。因為由10枚錢為1兩比24銖為1兩更便於計算，而且以錢為重量單位，其標準隨處可得，於是，隨著“開元通寶”，的流行，唐代約定俗成地出現了一個新的重量單位——錢。錢這一單位的出現，使得重量單位出現了十進製，而且更趨於實用。
唐代度量衡建設最值得稱道之處是其管理製度。唐代製訂了嚴厲的度量衡法律條文，規定對度量衡每年要定期校驗印署，然後方可使用。如果執行校驗的人員所校不平、私作者不合標準而仍然使用、或雖經校驗平準而未鈐官印者，均予治罪。監督校驗的官員未察覺或知情者，分別治罪。度量衡的主管機構在中央為主管財貨、貿易的太府寺，在地方則為州縣政府。度量衡檢校時間規定為每年八月，在京者送太府寺平校，不在京者送所在州縣官府平校。總而言之，唐朝對於度量衡管理的各項規定，是相當完善的。因此，後世的宋、明、清各代，多以唐律為參照而製訂自己的度量衡律令。唐製的重要性，由此可見一斑。
五代十國時期，天下混亂。度量衡的管理和製作，自然也無暇顧及，一切製度，均沿襲唐製，聽其自然。其中比較重要的一件事是後周王樸以累黍造尺的方法定音律。王樸律準尺比新莽尺長2分有奇，屬於度量衡製的小製。在當時動蕩的社會背景下，王樸能夠用累黍的方法考尺定律，這是值得在度量衡史上記上一筆的。