1949年1月，華北野戰軍第3縱隊改稱為中國人民解放軍第63軍，隸屬華北軍區第19兵團建製，轄187師、188師、189師。
1949年6月初，63軍從山西太原出發，隨19兵團劃歸第一野戰軍建製。
1949年8月，在彭德懷指揮下，63軍投入蘭州戰役。8月26日蘭州解放。
1950年1月至11月，63軍在陝西三原、耀縣、蒲城地區整訓、開荒生產，並抽調部分部隊協同修建天（水）—寶（雞）鐵路。
1950年6月25日，朝鮮戰爭爆發。63軍進入戰備狀態。
1951年2月10日，63軍所轄三個師開進遼寧丹東鳳凰城地區集結待命。
2月15日，軍長傅崇碧、政委龍道權、參謀長杜瑜華帶領全軍入朝作戰。
5月28日至6月12日，63軍在鐵原與“聯合國軍”激烈鏖戰14天。史稱“鐵原阻擊戰”。此役戰況慘烈，敵我雙方均損失慘重。188師完成阻擊任務撤出陣地後，原有2700人的563團僅存266人。
1953年9月，抗美援朝戰爭勝利後，63軍僅有2500餘名官兵返回祖國。軍部駐紮石家莊，所屬部隊駐防河北省和北京、天津部分地區。188師師部駐紮北京高碑店。
1968年，第188師改編為北京衛戍區警衛第4師。
1969年，63軍再次移防山西太原。
1985年，63軍改編為陸軍第63集團軍；警衛第4師改編為步兵第188師重新歸建。同時編入坦克旅、炮兵旅和高炮旅。
1996年，第63集團軍步兵第187師改編為武警總部直屬機動師。
1998年，步兵第188師改編為摩托化步兵旅，坦克旅改編為裝甲旅。
2003年，第63軍番號撤銷，完成了其曆史使命。