1950年年初中央人民政府財政經濟委員會（以下簡稱“中財委”）技術管理局設立度量衡處，負責全國度量衡管理工作。處長吳承洛，副處長蘇化農，工作人員十幾名。辦公地點在北京市燈市口71號。
5月度量衡處受理1949年前留在重慶的有關度量衡卷宗、器具和設備，其中有經國際權度局（今譯國際計量局）檢定合格的營造尺原器和庫平兩原器（今存中國計量科學研究院）。1952年2月度量衡處處長吳承洛離任，由蘇化農繼任處長；
4月蘇化農調衛生部後，由中財委技術管理局國防工業處副處長呂持平兼管度量衡處工作。
5月中財委技術管理局撤消，度量衡處劃歸中央工商行政管理局管轄，工作人員20名。辦公地點遷至北京市東四馬大人胡同27號。
1953年2月於壽康任度量衡處處長，呂持平為副處長。
3月第一機械工業部成立計量檢定所籌備處，負責人鍾林。籌備處設在東單頂銀胡同20號，人員約30名，並開始著手在北京安定門外小黃莊（即中國計量科學研究院現址）建所。8月全國已有124個度量衡檢定所、工作人員840名。1954年2月第二機械工業部第四研究所設立第六研究組，統管國防工業係統的計量工作。
11月25日，全國人大常委會委員長劉少奇、秘書長彭真簽署了《關於批準國務院設立直屬機構的通知》，通知內容為：“周恩來總理：1954年11月8日全國人大常務委員會第二次會議批準國務院設立國家統計局、國家計量局等二十個直屬機構，特此通知。”1955年1月25日，國家計量局成立，直屬國務院領導。局址設在北京東四馬大人胡同27號。
4月國務院第七次會議通過任命：鍾林為第一機械工業部計量檢定所所長，何伯靖為副所長。
國務院第九次會議通過任命：李承幹任國家計量局局長，嚴希純、於壽康為副局長。6月波蘭人民共和國贈予中國一套度量衡檢定試驗室設備共33件，8月李承幹局長發函致謝。7月在第一屆全國人大第二次會議上，許多代表提出提案，要求迅速統一中國度量衡，確定中國計量製度。
11月國務院常務會議批準《國家計量局組織簡則》，確定國家計量局在國務院領導下，負責推行計量單位製；計量器具國家檢定；建立國家計量基準器；監督指導計量器具的製造、修理、銷售和進出口檢驗；審核企業計量標準器的設置；草擬有關國家計量製度和計量法規文件等項任務。12月國家計量局副局長嚴希純和中國科學院研究員王大珩等組成“計量基準技術考察組”到蘇聯進行考察。年2月第一機械工業部頒發第一批計量規程，包括：計量器具集中監督規程，計量檢定所及區域計量室規程，計量檢查和檢定工作規程，工廠計量室（機構）規程，統稱“四大規程”。3月原第一機械工業部計量檢定所擴建為工具科學研究院，鍾林任院長。
6月國務院科學規劃委員會製定《1956—1967年國家最重要科學技術規劃》草案，將計量列入其中的第55項，即“統一的計量係統、計量技術和國家標準的建立”。10月國家計量局發文，規定從1957年起，檢定印章要統一規格、統一製造，並為各省、市計量機構規定了圖案式樣和代號。
中蘇技術合作協議中，計量被列為蘇聯援助中國的122項技術援助項目之一。中方向蘇聯提出了訂購計量基準器、標準器的申請。蘇聯專家阿列辛到國家計量局當顧問。11月國務院批準將國家計量局改稱為“中華人民共和國國家計量局”。國務院發出《關於核定各省、市計量機構和人員編製問題的通知》，要求各省、市、自治區人民委員會健全本地區的計量機構。國家計量局於1956年11月在南京舉辦的首次計量幹部訓練班學員結業，學員共286名。國務院批準國家技術委員會報告，同意將一機部工具科學研究皖的計量部分並入國家計量局，確定局長為李承幹。
國家計量局局址由北京三裏河遷至北京安定門外小黃莊原工具科學研究院內。
經全國人大常委會第6次會議批準，將國務院直屬的國家計量局改為國家科學技術委員會的委屬局，對外仍可用“國家計量局”名義。國家科委計量局頒發第一批計量檢定規程20種（試行）中共中央工業工作部給國家科委黨組的通知：經中央批準，任命鞠抗捷為國家科委計量局局長25日，國務院發布《關於統一計量製度的命令》，確定國際公製為中國基本計量製度；並要求迅速建立和健全國家的各種計量基準器和各級計量標準器以及地區的和企業的計量機構，構成全國計量網。同日，國務院還發出了《關於統一我國計量製度和進一步開展計量工作的補充通知》，指出：國家計量局負責建立長度、重量（質量）、容量、力學、溫度、電學等國家計量基準器。《通知》要求每個經濟協作區應建立一個一級計量檢定機構，並且設置該地區的最高計量標準器。
據統計，至1959年底，全國已建計量機構606個，工作人員約2779名，初步形成了全國計量網。國家科委計量局局長鞠抗捷率中國計量技術與儀器製造學會代表團赴匈牙利出席了國際計量技術聯合會第二次會議。國家科委計量局在北京開辦計量專科學校，設長度、熱工、力學、電磁等四個計量專業課，首期學員有200多名。國家科委計量局新成立第五處，負責籌建時間頻率、光學、放射性、聲學等計量專業的實驗室和建立計量基準、標準任務。國家科委任命高戈伍為國家科委計量局第一副局長。國家科委發出《關於建立東北、華北、華東、西北、西南、中南六個大區一級計量機構的函》，要求積極籌建。
國家科委計量局在北京召開全國計量工作會議。會上確定省、市、自治區計量部門以建立長度、熱工、力學、電磁四大類計量地方標準為主，專區、縣計量部門以開展度量衡檢定、管理為主。國家科委計量局提出：北京、上海、沈陽、武漢、成都、西安六個城市的計量機構調整為大區計量中心，負責所在省市和所在城市的計量工作以及大區和省計量標準的量值傳遞工作，其它省的計量機構和省會市的計量機構合並成為省的計量中心。國家科委在北京召開規劃會議，製定了《1963—1972年科學技術發展規劃》，將計量列為“第32項”，屬國家重點項目之一。規劃中，國家計量基準、標準定為10大類76項214種，要求前五年建成126種，並且要達到當時的國際水平。國務院批準國家科委《關於調整無線電計量工作領導關係問題的報告》，同意將國防科委十院無線電計量部分劃歸國家科委計量局。建成氪光波波長長度國家基準。國家科委決定調整計量局的組織機構和領導班子，成立並獨立設置中國計量科學研究院，計量局和中國計量科學研究院直屬國家科委領導；計量局代管計量院業務工作；李樂山任院黨委書記和院長兼計量局局長。建成質量國家基準。
12月國家科委計量局在北京召開全國計量工作會議傳達了黨中央、聶榮臻副總理的指示：力爭在1968年把國家基本的急需的計量基準、標準建立起來，並將量值傳遞下去，以適應備戰，發展工農業生產和趕超世界先進科學技術水平的需要。1969年10月國防工辦、三機部提出了調整計量體製的報告，主張軍民結合，以地區為主形成計量測試網點，就地、就近解決計量測試問題的原則。1970年9月國家科委與中國科學院合並。國家科委計量局、中國計量科學研究院，均劃歸中國科學院領導。1971年12月中國科學院發出通知，將國家科委計量局和中國計量科學研究院合並為中國計量科學研究院，由科學院代管。1972年5月“全國軍民計量工作座談會”在北京召開。9月中國科學院任命張從周為中國計量科學研究院黨委書記。11月中國科學院向國務院報送《關於設立國家標準計量局的請求報告》。