用自己的特殊身份，一次又一次地幫助大連市委解決了困難。大連微妙的一台戲，直叫劉亞樓和韓光他們唱得有聲有色。
1946年五六月間，中蘇雙方的聯絡官王鬆少校被中國共產黨任命為東北的統一武裝——東北民主聯軍的參謀長，要打鋪蓋卷兒走人了。王鬆少校“提拔”之快，直讓蘇軍同行瞠目結舌：“王少校怎麼一下就蹦到這麼高的位置，當了將軍?”至此，劉亞樓不得不把自己的經曆簡要地告訴蘇聯夥伴們。於是，馬上招來一通埋怨：原來薩莎(劉亞樓的蘇聯名字)10多年前就擔任過中國紅軍的主力師長、政委，率部立下過很多戰功，怎麼不早點告訴我們呢?劉亞樓笑道：“過去的已成為曆史，不值得津津樂道，重要的是明天!”
“橫空出世”的參謀長
1946年2月，東北局副書記、東北民主聯軍副政委羅榮桓因腎病發作，轉到大連休養時，接見了還在蘇軍工作的劉亞樓。他對這位老部下的軍事才能是相當了解的，認為現在開辟東北需要能人，劉亞樓有國內革命戰爭的經驗，又喝過“洋墨水”,是個難得的將才，應回到我軍工作。
當時，韓光等旅大地委領導還不願意劉亞樓離開呢!因為，旅大的戰略地位重要，旅順是軍港，大連是很好的商港，中國共產黨管理這樣的城市還是大姑娘上花轎——頭一回。有劉亞樓這種具有雙重身份的能人相助，自是可以左右逢源、如虎添翼。經東北局與遠東蘇軍當局交涉，蘇方同意放回劉亞樓。1946年五六月間，中央軍委任命劉亞樓為東北民主聯軍參謀長。
劉亞樓趕赴哈爾濱上任，林彪打破不出門迎人的常規，親自屈駕相迎，握著劉亞樓的手，那平時難得一笑的臉上竟漾起了笑意。
劉亞樓就任東總參謀長一職，當年的東總老人說起這事，都喜歡用“橫空出世”這字眼兒。這4個字頗有意趣，至少能說明兩點：一是劉亞樓在國內戰場消失了8年之久；二是一回來就躋身於東北民主聯軍的最高層。這4個字當然包含了擁護、讚賞之意。劉亞樓就任東總參謀長是羅榮桓推薦、林彪首肯、中共中央和毛澤東批準的。
在劉亞樓受命時，國共兩黨闖關東後的第一次大會戰——四平戰役已經結束。四平血戰，從1946年4月中旬開始，曆時一個月，所謂“殺敵一萬，自損八千\",在給國民黨軍重大打擊時，東北民主聯軍也傷亡不小，其中大部分是抗戰幸存的老骨幹。
聯軍主動撤出四平後，又遭敵機械化部隊追擊，沿途不斷有逃亡、叛變現象，部隊大量減員，根據地僅剩北滿和南滿臨江等少數幾個地區。戰後，林彪病了，“空前絕後”地拿部下出氣——在舒蘭掀了參謀處處長李作鵬的酒席，還隨手抓過炕上的東西砸向李作鵬等人。
四平戰役未打響前，東北局將之定格為“決定我黨在東北地位最後一戰”,因此，四平的失守，在聯軍中引起的震動是空前、巨大的，不少人因此動搖了意誌。鑒於東北形勢嚴峻，6月16日，中共中央決定林彪任東北局書記、東北民主聯軍總司令兼政治委員，在東北實行黨政軍一元化領導。此時，林彪隻是中央委員，而彭真、高崗、陳雲三人都是中央政治局委員，林彪黨政軍一肩挑，對強調“黨指揮槍”原則的中國共產黨來說，實在是個不同尋常的重大組織措施。從某種意義上說，毛澤東將共產黨在東北的前途和命運托付給了林彪。
帶著疲憊之師一路退卻在哈爾濱安營紮寨的林彪，此時非常需要有一個得力的、能跟他很好共事的參謀長。從運動戰轉向陣地戰、大兵團作戰後的東北戰場，也需要一位絕對內行的參謀長。自中央蘇區共事以來，劉亞樓一直是林彪欣賞、信賴、滿意的一員戰將。蘇聯治病期間共同探討蘇德戰爭問題，更使他認定劉亞樓既可當軍政主官，也可當參謀長。
在羅榮桓遠赴蘇聯治病的情況下，劉亞樓的到任，可謂“受命於危難之際”。此時的東北，共產黨精英雲集，政治局委員、中央委員、候補委員有20來位，民主聯軍陣營戰將林立，除司令、政委外，光副司令員、副政委就有五六位之多。但軍事上，連中央候補委員都不是的劉亞樓，很快就力壓群雄，成為響當當的第三號核心人物，和林彪、羅榮桓並稱“林羅劉”。1946年5月下旬後的東北，暫時的風平浪靜中醞釀著驚濤駭浪的凶險。國共兩黨在經曆為期一個月、死傷沉重的四平大血戰後，都在喘息、休整，以圖再戰，一決雌雄，爭奪天下。劉亞樓知道形勢的嚴峻，工作上隻爭朝夕，協助林彪利用這段寶貴的停戰時間養精蓄銳，擴軍備戰，以期早見成效。
作為統帥戰局的軍事機構，當時司令部缺乏基本建設，參謀人員不僅奇缺，而且在職者大多缺乏參謀業務的基本常識，部隊就連一張完整的作戰地圖也找不到，因而沒能發揮司令部機關應有的效能。調往東北戰區的八路軍、新四軍各部隊，不熟悉東北的道路地形，前方司令部和後方司令部都苦於要不到五萬分之一和十萬分之一的軍用作戰地圖，貽誤戰機的事件時有發生。因為沒有地圖，曾發生過兩個縱隊同走一條路、兩個師同宿一個村，以及行軍作戰中兵找不到官、官找不到兵等現象。1945年年底，林彪給中央的電報就這般訴苦：“……自總部起各級缺乏地圖，對地理形勢常不了解；通訊聯絡至今混亂，未能暢通……”林彪發急後，司令部好不容易招來幾名初中生，刻蠟版印製道路村莊圖救急。
司令部的各項建設跟不上，仗自然難打，接連的失利讓林彪心情無比鬱悶。劉亞樓走馬上任後，抓緊熟悉情況，由近及遠，把日本投降、八路軍進入東北、四平會戰以前的中央及東總的電報全都看了個遍，基本摸清了東北戰局的變化和現狀。他決心從整頓司令部入手，把司令部建設成高效率的領導機關和首長的得力助手。劉亞樓召來東總參謀處地圖科長蒲錫文，嚴肅指出：軍用地圖是十萬火急的事，一天也不能耽誤，一定要千方百計，想盡辦法解決，以供行軍作戰之急需。蒲錫文彙報了印圖迫切需要解決的幾個困難：第一，需要三五百名初中以上文化程度的人學習繪圖；第二，需要大量印圖用紙、製版的化學藥品，但就連製版用的玻璃也無處可買，印圖器材有錢無市；第三，難以找到懂測繪的幹部。劉亞樓掌握情況後，立即著手成立一所測繪學校，訓練繪製軍用地圖的專門人才，並起草電報，從軍政大學、部隊和地方選調300多名有初中以上文化程度的指戰員和地方初高中學生來測繪學校培訓。測繪學校開學時，他親臨講話，指出軍用地圖的重要性，不懂測繪工作，就要在幹中學、學中幹，發揚紅軍優良傳統，一定會學有所成，徹底解決軍用地圖之需。
沒有原版軍用地圖，劉亞樓采取多種辦法，一麵令部隊各處尋找，一麵委托地方大力幫助。為解決器材困難，他指示由後勤部撥300兩黃金，派蒲錫文帶人去大連采購。遵照劉亞樓要求，測繪學校學員24小時輪班，開足馬力繪製地圖。劉亞樓每月都要聽取地圖出版的進展情況彙報，並做出重要指示，特別要求地圖科在1948年前必須繪製出全部東北地區軍用地圖。
劉亞樓到職僅三四個月，東總及下屬各級司令部就從他那雷厲風行且卓有成效的作風中得到了實惠：由於加強了地圖科，辦起了印刷廠，印出了第一批軍用地圖，解決了他們的燃眉之急，逐漸滿足了部隊的急需。為了加強參謀隊伍的組織建設，提高參謀人員的業務修養，劉亞樓從各部隊抽調數百名文化程度較高的幹部，開辦參謀訓練隊，主要課程，如“參謀業務”、“戰役戰術”等，他親自授課，並翻譯出版《蘇軍司令部工作條例》《紅軍參謀業務條令》,結合部隊實際親自講解。在講授“參謀道德”時，劉亞樓說：“當一個好參謀，不僅要有熟練的業務，還要有高尚的道德。要做到功不自居，過不推諉，鞠躬盡瘁，死而後已；要和首長心心相印，想到一起，不能搞‘兩張皮’。”參謀訓練隊既學軍事又學政治，學期6個月，考試合格後，充實到各級司令部機關。實踐證明，經過培訓的參謀人員在機關建設中發揮了較好的作用。第一期結業後，又連續辦了兩期，3個月一期，共培訓學員300多人，為東北民主聯軍各級司令部機關參謀隊伍的建設，打下了厚實的基礎。
在東北，劉亞樓先後兩次主持召開參謀工作會議，不僅解決了過去司令部參謀工作中的問題，而且根據形勢發展，大膽提出司令部工作的建設方向，並從政治上、組織上、製度上解決了存在的諸多重大問題。他還主張師以上指揮部建立直屬政治機關(目前仍為我軍沿用),以加強對參謀人員的思想領導。經劉亞樓雷厲風行的整頓，參謀人員很快做了調整、充實，各種製度也很快建立健全起來，參謀隊伍穩定了，積極性空前提高，司令部工作呈現一派新氣象。林彪對此頗為滿意，稱：我們有了一個得力的司令部。