當蔣介石派遣胡宗南進攻延安時，直到已經可以聽到敵人的槍聲，毛澤東才離開延安，這一天是1947年3月18日。3月25日到了棗林溝，在這裏，中共中央決定將中央領導機關分為三個部分，以劉少奇為首的中央工作委員會前往西柏坡，領導全國的土地改革、根據地建設和國統區的群眾運動；以葉劍英為首的後方委員會率大多數中央機關工作人員前往山西臨縣三交鎮，負責陝北戰場的後勤保障和中央與全國各地的通信聯絡。而以毛澤東、周恩來、任弼時為首的前方委員會則留在陝北代表中共中央指揮全國的戰爭（這時周恩來正在三交鎮，４月10日才趕回陝北的青陽岔和前委會合）。前委雖然肩負指揮全局的重任，但是人員非常精練，整個前委機關和少量的警衛部隊總稱為中央縱隊，對外代號是三支隊，任弼時任司令員，陸定一任政委。為了保密，毛澤東化名為李得勝，周恩來化名為胡必成，任弼時化名為史林，陸定一化名為鄭位。
中央縱隊於6月17日至8月1日駐於小河村，對外代號改為九支隊。由於任弼時身體不好，改為周恩來任司令員兼政委。中央縱隊一直在陝北山溝中和胡宗南的幾十萬大軍周旋，住得最長的是米脂的楊家溝，有四個月又兩天。在這裏，中央縱隊的代號又改為“亞洲部”，並在這裏召開了著名的“十二月會議”，毛澤東在這裏寫下了21篇重要文件。1948年3月23日，毛澤東率領中央縱隊離開了生活、工作、戰鬥了13年的陝北，離開了自撤離延安以後轉戰了一年又五天的陝北，在吳堡縣川口村的渡口東渡黃河，進入山西，經後方委員會所在地三交鎮雙塔村、晉綏軍區司令部所在地蔡家崖，再經神池、寧武、代縣、繁峙，過五台山進入河北。先到晉察冀軍區司令部所在地阜平縣的城南莊，在這裏得到了我西北解放軍收複延安的喜訊。5月27日，到達了西柏坡。從此，原來分為三個臨時工作班子的中共中央領導機關全部到了一處，成為領導中國革命的堅強指揮中心。當然，這時最重要的領導與指揮是戰爭，是即將開始的大決戰。
在1945年4月至6月召開的中國共產黨第七次代表大會上，確立了毛澤東在中國共產黨的領導地位，形成了在全黨享有崇高威望的以毛澤東為首的中共中央領導核心。這個領導核心是由毛澤東、朱德、劉少奇、周恩來、任弼時五人組成的中央書記處，當時在黨內一般都通稱為“五大書記”。
中共中央對於全國軍事工作的領導，對於作戰的指揮，則由中共中央軍事委員會（簡稱“中央軍委”）負責。中央軍委和中國人民解放軍總部是一個機構兩個牌子，平時都是用中央軍委的名義，隻有在少數對外的場合，才用中國人民解放軍總部的名義，如對外公布戰績公報，1947年10月頒布《解放軍口號》和重新頒布《三大紀律八項注意》等。
中央軍委原名中共中央革命軍事委員會，在1945年8月23日的中共中央政治局擴大會議上，改稱為中共中央軍事委員會。委員共12人：毛澤東、朱德、劉少奇、周恩來、彭德懷、陳毅、聶榮臻、賀龍、徐向前、劉伯承、林彪、葉劍英。毛澤東任主席，朱德、劉少奇、周恩來、彭德懷任副主席。中國人民解放軍總司令朱德，副總司令彭德懷，他們平時都是以中央軍委副主席的身份進行工作的。
中央軍委總參謀長原來是由彭德懷副主席兼任，在保衛延安的戰鬥中，由於彭德懷離開總部兼任了西北野戰兵團的司令員，長期在前線指揮作戰，總參謀長的工作實際上由周恩來擔任。1947年8月1日，中共中央正式任命周恩來為總參謀長，成為毛澤東主席指揮全國解放戰爭的第一助手。葉劍英本是中央軍委的副總參謀長，但他長期未能在位。解放戰爭初期，他在外擔任北平軍調處執行部的我方首席代表，回延安後很快又擔任了中共中央後方委員會的負責人，一直到了西柏坡以後，他才真正參加總部的領導工作。
中央軍委總政治部主任由軍委副主席劉少奇兼任，由於當時各解放區和各地區部隊是分散的，總政治部並不具體管理各軍區、各野戰軍的政治工作，所以總政治部的工作不是很重，隻是由副主任傅鍾帶領不多的工作人員負責。
中央軍委總後勤部部長是楊立三，當時總後的工作和總政的工作有點相似，對於各野戰軍的後勤工作也是不做具體領導的，主要是負責中央機關和軍委總部直屬機關的後勤保障。
中央軍委秘書長一直由楊尚昆擔任。
中央軍委總部人員十分精幹，主要職能部門就是一個作戰部，作戰部實際上起了總參謀部的作用。作戰部部長李濤，副部長王諍，其下分為三個局，一局管作戰，二局管情報，三局管通信。
在1945年8月新的中央軍委成立時，除了軍委的三大部之外，所指揮的革命軍隊是當時的八路軍、新四軍、陝甘寧晉綏聯防軍、華南抗日遊擊隊、東北抗日聯軍。