隨著國防工業的迅速發展，借助樣板和夾具等手段來實現軍工產品量值的統一逐漸不適應了，客觀上要求盡快結束分散狀態，建立集中的計量機構，以適應國防工業發展的需要。1961年3月7日，國防工委和部領導決定建立計量檢定所和精密機械研究所，對內設立一套機構，對外是兩塊牌子。計量檢定所由葛庭之和任子珍負責籌建工作，他們將分散在各研究所中的長度、化學、質量、溫度和應力等計量工作集中起來，於1961年4月30日完成了計量檢定所的組建工作。
計量檢定所成立後，首先碰到的難題是生產、試驗、辦公、生活用房非常緊張。葛庭之帶領大家克服困難，辦公室、財務和計劃擠在一間房裏辦公；單身宿舍在不到20米2 的房間內，架起上下鋪，住十多個人，不少雙職工老少三輩同住在一間房內；把山坡上的一座羊圈整修、擴大、消毒，因陋就簡改造成食堂，一直使用到1970年。職工新婚夫婦不斷增加，家屬住房一年比一年緊張，就將12間馬棚進行翻修，解決了12戶職工家屬住房的困難。
條件雖然艱苦，但在葛庭之和領導成員的帶領下，全所職工意氣風發，精神振奮，工作、學習勁頭很高。一到晚上，辦公室燈光明亮，很多人經常工作、學習到深夜。有的職工進所時隻有小學程度，經過刻苦自學，達到大專水平。青年工人自覺利用業餘時間苦練基本功，青年技術人員練試驗技能。這批技術人員和工人，後來大都成了計量檢定所的技術骨幹。
在計量檢定所創建初期，葛庭之作為主要負責人對工作認真負責，對技術精益求精，作風嚴謹、時刻想著基層。他雖然身患高血壓病，但在處理關鍵測試數據時，仍連續幾天不離開現場，直到寫完分析報告後才去休息。每當基層加班加點工作時，他總要下去巡視，送飯送藥到崗。由於他對國防計量事業做出的貢獻，1964年當選為中華人民共和國第三屆全國人大代表。
葛庭之在“文化大革命”中受迫害致殘，生活不能自理。1978年平反昭雪，任所顧問。1984年7月去世。