5月14日，誌願軍黨委常委會研究決定，誌願軍後方勤務司令部在原東北軍區前方勤務指揮所的基礎上成立，彭總則提議由洪學智同誌兼任誌願軍後勤司令，得到了各位領導的一致認可。會後洪學智同誌就開始著手有關人選，並挑選了劉洪洲與趙南起同誌隨其一同前往實施組建工作。
1951年5月19日，中央軍委正式作出《加強誌願軍後方勤務工作的決定》：成立誌願軍司令部首長直接領導的後方勤務司令部（以下簡稱誌後司），明確由誌後司統一管轄朝鮮境內的一切後勤組織與設施，統一負責誌願軍的後勤保障活動；並將過去配屬誌願軍的工兵、炮兵、公安、通信、運輸、鐵道兵、工程部隊和醫院等全部納入誌後司統一管轄。
誌後司在朝鮮遂安附近的上朝陽裏成立。開始人員和機構都不健全，經過洪學智同誌不斷調整充實，到7月以後陸續組建了司令部、政治部、軍械部、運輸部、供給部和衛生部。司令部下設參謀、通信、機要、直供4個處；政治部下設秘書處和組織、宣傳、保衛3個部；機關加上直屬3個電話營、2個警衛連、1個汽車隊、1個醫療隊，共有官兵3400餘人。從此，在朝鮮戰場上開始形成國內後勤與戰區後勤合理區分、有機銜接的後勤體係，標誌著後勤由單一軍種向諸軍兵種合成發生了重大轉變，體現出後勤指揮必須與作戰指揮相適應，亦為提高誌願軍後勤指揮與保障的及時有效性奠定了基礎。
緊接著，在中央軍委和誌願軍黨委的大力支持下，迅速為誌後司充實了運輸、裝卸、警衛、工兵和通信部隊。到1951年10月，誌後司直屬部隊發展到6個分部、28個大站、4個警衛團另9個營、13個汽車團、27個輜重團、3個公路工程大隊、39個兵站醫院、3個通信營、8個運輸營以及3萬多民工，達18萬2千餘人。另為誌後司配屬公安第18師、步兵第149師、6個工兵團和11個高炮營共4萬餘人。使誌後司指揮的力量不僅數量多達22萬餘人，而且成為一支多兵種合成能夠適應現代戰爭後勤保障的大部隊。
三、主持誌願軍後勤供應體製改革
洪學智同誌兼任誌願軍後方勤務司令後，針對誌願軍前期作戰後勤保障主要繼承國內解放戰爭的經驗，由各分部按照作戰方向部署兵站，通過兵站延伸對部隊實施跟進保障存在的各種問題，尤其是針對朝鮮戰場上誌願軍作戰部隊陸續增加到17個軍、6個炮兵師、4個高炮師、1個坦克師，另有6萬多匹騾馬，後勤保障任務大大加重、各類矛盾非常突出的實際情況，深入軍、師、團後勤機關與前沿陣地調研，提出了建立一種“分區供應與建製供應相結合”的後勤供應體製改革方案，並親自向彭總彙報。彭總認為這種改革很好，並命令立即執行。
這種“分區供應與建製供應相結合”的新型後勤供應體製，主要有兩大特點。一是把整個戰區後方地域劃分為戰役的與戰術的兩個層次（亦稱為兩個區域）。明確從鴨綠江邊至一線各軍後勤之間為戰役後方，構成誌願軍後方地域；從軍後勤至前沿陣地之間為戰術後方，構成部隊後方地域。尤其是明確軍後勤為戰術後勤，改變了以往戰役後勤與戰術後勤交叉重疊的混亂局麵。戰役後方實行劃區供應，由誌後司根據作戰方針、部隊部署、道路條件與戰役後勤力量等劃分供應區，每個供應區部署1個後勤分部，各後勤分部分為一線和二線對區域內的部隊實施供應，各供應區之間相互提供必要的支援。戰術後方以軍後勤為主體，仍按軍、師、團係統實施建製供應，軍、師、團後勤部（處）長均由各級部隊軍事副職首長兼任，原後勤部（處）長改任副職。二是精簡後勤組織機構使後勤指揮與保障更加靈活、高效。主要是撤消了兵團後勤，減少了保障環節，建立了科學的運行機製，在科學劃分戰役後勤與戰術後勤的基礎上，在戰役後方形成了誌後司——後勤分部——軍後勤部“三級”後勤體製，由分部直接供應到軍後勤，當部隊急需且條件許可時分部將物資直接配送到師或團後勤，相比過去減少了東北軍區後勤部、兵團後勤與東後前指，而且分部可在關鍵時刻實施越級直達供應，以滿足部隊作戰需要。
與此同時，洪學智同誌對後勤進行了整編，將原來的6個分部調整為5個分部，並將戰役後方劃分為5大供應區。第1、第2、第3分部為一線分部，負責供應承擔正麵東、中、西線3個區域防禦任務的作戰部隊。第4、第5分部為二線分部，負責囤積物資，支援一線分部，並供應防禦東西海岸的部隊及管區內的其他部隊。在戰術後方地域內，由軍後勤按軍、師、團建製係統對所屬和配屬部隊實施供應。
為使劃區供應與建製供應相結合的新型體製順利運轉，洪學智同誌針對朝鮮暴發40年來罕見特大洪水與敵人對誌願軍後方運輸線實施“絞殺戰”給物資運輸造成的極大困難，以及僅靠工兵部隊搶修被破壞的鐵路、公路時間太慢等實際問題，提出了二線作戰部隊一起動手修路，將整個戰役後方建成一個洪水衝不垮、敵人炸不斷的兵站運輸網，得到了彭總和其他領導的讚同。在洪學智同誌的統一領導下，誌願軍二線部隊11個軍、9個工兵團和誌後司的3個工程大隊共數十萬人，在朝鮮人民軍和群眾的支援下，冒著敵機轟炸掃射，分段包幹搶修公路、新辟道路，先後修複和新建了3條鐵路幹線、8條主要縱橫路幹線和28條支線，使整個後方地域逐漸形成了網狀的道路布局。同時，根據需要在誌後司成立了中朝前方鐵路司令部統一指揮軍管局、鐵道兵團與掩護鐵路交通的高炮部隊；為保障交通運輸線安全暢通，誌後司抽調了一批有軍事指揮能力的幹部，到後勤崗位任職。還統一調整後勤力量，強化後方建設：將不同類型的兵站，分散、梯次、縱深地配置在交通道路網上將運輸部隊相應地配置在兵站附近，以兵站為依托實施接力運輸在重要的點和線上加強了高炮、搶修部隊，以及為運輸服務的加油、維修、招待等服務性機構沿線普遍設置了防空哨、防炮哨和對空監視哨修建了大量的防空工事和不同形式的地下倉庫、醫院以及人、馬、車輛掩體初步建立了獨立的後勤通信網。從而在整個後方地域形成了一個既能打、能防，又能運、能儲、能供、能修、能醫的一體化對敵鬥爭體係和後勤保障體係，使劃區供應得到有效實施。