為了適應東北革命形勢發展的需要，加強黨對各項工作的集中統一領導，實行黨政軍明確分工，經中共中央同意，東北局在5月下旬對東北的領導機構做了如下調整：
（一）將東北局委員由原來的20人（即在東北的中共中央委員和候補委員20人）擴大為26人，以林彪、羅榮桓、高崗、陳雲、李富春、張聞天、林楓7人為常委；以林彪為書記，羅榮桓、高崗、陳雲為副書記，高崗兼秘書長。
（二）為加強黨對軍事工作的領導，成立中央軍委東北分會，以林彪為主席，羅榮桓為副主席，高崗、譚政、劉亞樓、蕭勁光、程子華為委員。
（三）為加強黨對政權機關的領導，成立東北行政委員會黨委會，東北行政委員會主任由林楓擔任，副主席由張學思、高崇民擔任，行政委員會黨委由陳雲兼任書記。
為了全力準備大反攻，東北軍民做了大量而艱苦卓絕的工作。
二、建炮兵
要打大仗，要攻堅，必須要有遠距離摧毀敵軍工事和集群的強大火力，必須要有自己的炮兵。
我軍從關內進入東北時，不說沒有炮兵，連輕武器都沒有多少。因為聽說日偽軍留下了大量武器可以接收，所以我們不少隊伍為了趕快進入東北，都是輕裝前進。可是，才過了一年多時間，在“三下江南”的時候，我們就有以團為建製的炮兵參戰了。
我軍進入東北後，曾經接收過少部分輕武器，在作戰中也繳獲了大量的輕武器，但重型武器繳獲不多。曾經有一種誤解，認為蘇軍在撤出東北時把若幹武器留給了我們。對於這種說法，曾經擔任過第四野戰軍參謀長的劉亞樓上將在1962年12月13日就編寫第四野戰軍戰史問題的一次講話中，說過一段很重要的話：
一般人總認為蘇軍留給了四野不少武器，這是誤解。這個戰史既然是存檔用的，可以把這個問題講清楚。當時不僅不給我們武器，還吃掉了我們不少部隊。也可以寫一下當時斯大林是為了照顧與國民黨的關係。還有個重要問題：當時我們曾向中央建議，以中央的名義向蘇軍要些武器。毛主席當即電示，中國革命主要靠中國自己的力量，禁止用中央的名義向他們要東西。這個電報我親自看過，要查一下。後來以四野的名義用糧食和他們換了一些武器，用紅軍票子到大連買黃金，購買了一些武器。朝鮮同誌不錯，賣給我們一些武器。當時我曾兩次去朝鮮談判，朱瑞同誌曾同我去過一次。
我東北民主聯軍的炮兵隊伍是靠自己白手起家、艱苦奮鬥創立起來的。為了準備大反攻，剛建立起來的炮兵部隊擔負了更為艱巨而繁重的任務。
談到東北的炮兵，就不能不讓我們深切緬懷我軍炮兵事業的奠基人和領導者朱瑞。
朱瑞和他的同誌們白手起家創建炮兵是非常不易的。當他們進入沈陽，當他用熟練的俄語與蘇軍統帥馬林諾夫斯基談判接收日軍留下的火炮時，竟然遭到拒絕。在這種情況下，朱瑞帶領炮校全體同誌分散到山林雪野中各處去找，進行零星收集，無論是完整的、不完整的，破爛的、裝配不上的，凡是可能有用的東西都要。在各部隊的支持下，終於找到不少東西，全部集中到南滿的通化，炮校也在通化正式開學，以後又遷移到北滿的牡丹江，開始了東北炮兵的艱苦創業。當時炮校的辦校方針就是“分散幹部，搜集物資，建立家業”，其主要任務仍然是千方百計尋找火炮。隻要有點線索，哪怕是零下四十攝氏度的林海雪原，也要去碰碰運氣。例如，在鏡泊湖的冰層下邊，就曾刨出了三門大炮。
為了加快東北的炮兵建設，林彪讓朱瑞起草了《炮字第一號命令》，在1946年7月9日以林彪、高崗、彭真、朱瑞、邱創成（炮兵學校政委）五人的名義下達到東北的所有部隊。命令傳達了毛澤東所說的“沒有炮兵便沒有勝利”和朱德所說的“炮兵為建軍骨幹”的重要論述，然後著重指出：
我黨的建軍與作戰指導，現正處於走向正規化與正規戰的過渡。標誌這一轉變之基本的與最重要的設施之一，便是炮兵。編成一定數量的炮兵，並使之與步兵及其他兵種正確協同作戰，不但將改變我軍的組織機構，也將改變我軍的作戰和戰術形式，因而也會根本改變我軍作戰的指導方針（從遊擊戰、運動戰到正規戰、陣地戰）。堅定明確地把握住這一轉變，是我軍在建軍途徑上獲得成功的關鍵。