二 激動人心的宣誓
三灣改編為建設新型的人民軍隊奠定了初步基礎，在我軍建軍史上具有重大意義。三灣改編後，毛澤東準備率部向井岡山進發，他在文昌宮裏主持召開了前敵委員會擴大會議，羅榮桓出席了這次會議。毛澤東指出，現在黨在部隊裏還沒有紮根，為了把支部建到連上，各單位要積極吸收先進分子入黨，不斷壯大黨的力量。
1927年10月7日，經過改編後的紅軍部隊從古城出發。出發前毛澤東在隊前發表講話說，我們快要到井岡山了，這兒地形很好，是湘、贛交界的地方，又是大山，交通不便，兩省軍閥都不大管。同時，毛澤東還特別指出，今天將要進駐友軍袁文才的防區，大家特別注意遵守紀律，老百姓的東西連一根禾草也不能動。
袁文才出生於江西省寧岡縣茅坪馬沅村一個客籍農民家庭，小的時候學過一點私塾，因懷著對土豪劣紳的刻骨仇恨而進山當綠林好漢，參加了當地的一支武裝“刀馬隊”，頗有軍事指揮才能，在北伐軍的啟發誘導下參加了革命，“馬日事變”後，率部撤到了井岡山，並牢固地占據著茅坪一帶。
當天下午，部隊到達茅坪地界，這裏已是井岡山腳下了。羅榮桓率領部隊駐下後，要求部隊立即展開宣傳工作，揭穿國民黨胡說共產黨已被消滅的謊言，擴大工農革命軍的影響，戰士們到處貼布告，刷標語。羅榮桓在行軍中親自提著石灰桶子、拿著用筍殼和棕毛纏起的筆，和戰士們一道在牆上書寫“打倒蔣介石！”“打倒新軍閥！”“打倒土豪劣紳！”“打倒帝國主義！”等標語。
第二天晚上，羅榮桓和各連的黨代表都到團部駐地葉家祠堂樓上，參加由毛澤東親自主持的全團第一批新黨員的入黨宣誓儀式。儀式結束後，毛澤東要求各連黨代表都要積極培養發展新黨員，並照這個樣子給新黨員舉行入黨宣誓。
根據毛澤東的指示，在向井岡山進軍途中，羅榮桓除做宣傳工作外，把更多的精力放在連隊建黨上麵。當時，特務連除羅榮桓等3人外，都是非黨員。為了迅速在連隊建立黨支部，羅榮桓行軍時一麵幫助戰士們背槍，一麵同他們拉家常，了解情況，物色和培養發展對象。很快，羅榮桓熟悉了全連每一個戰士的經曆、家庭和思想狀況，並從中選擇了8名發展對象，讓他們填寫了入黨誌願書。
夜幕已經降臨。羅榮桓點起了油燈。在紅紙上麵壓著一盞小煤油燈，在方桌前麵放了一張破舊的條凳。那油燈的火舌緩緩地跳動，映著桌上的紅紙，泛著紅光，使人感到十分溫暖。在會場的一側放了一張方桌，桌子上鋪了一張紅紙，紅紙一直垂到地下，恰似一幅桌圍，上麵用毛筆寫了“C．C．P．”3個代表中國共產黨的英文字母和入黨誓詞：犧牲個人，嚴守秘密，階級鬥爭，努力革命，服從黨紀，永不叛黨。
羅榮桓招呼參加入黨宣誓的新黨員在條凳上就座。不一會兒，毛澤東等人也來到了會場。
羅榮桓看人都到齊了，就問毛澤東，儀式是否可以開始。毛澤東點點頭。莊嚴的入黨宣誓儀式開始了，羅榮桓站到桌前宣布入黨宣誓儀式開始，他首先解釋了C.C.P.這3個英文字母的含義，講解了6句誓詞的意義。接著，他請新黨員逐個談了自己的經曆和入黨動機。然後，他請毛澤東帶領大家宣誓。同誌們都站起來，舉起右手，隨著毛澤東逐句誦讀誓詞。聲音粗獷而又堅定，把小小的閣樓震得發顫，這簡單樸素的入黨宣誓儀式顯得更為莊嚴。
宣誓儀式結束後，羅榮桓請毛澤東講話。毛澤東聽到同誌們對黨的認識和入黨動機都談得比較好，很高興。他點點頭，對大家說：“從現在開始，你們就是共產黨員了。共產黨員現在要為推翻地主豪紳統治，建立民主共和國，將來要為實現社會主義、共產主義而奮鬥。你們在群眾中要發揮模範作用、先鋒作用和骨幹作用，要緊密地團結群眾，及時向組織反映部隊情況……”
羅榮桓在毛澤東的領導下，發展了我軍最早的一批士兵黨員，有了這批黨員，“支部建在連上”才開始真正落到實處。
三 把毛委員請回來
1929年春，紅4軍在閩西建立革命根據地。為了迷惑敵人，將部隊番號作了改變，團改稱縱隊，營改稱支隊，連改稱大隊，羅榮桓任第3縱隊9支隊（即原31團3營）黨代表。6月中旬又組建了紅4軍第4縱隊。
6月下旬，紅4軍在龍岩召開黨的第7次代表大會。在會上圍繞領導工作的方式方法問題發生了爭論，主要是關於黨對軍隊領導的問題。有些同誌對“一切要經過支部，一切權力歸於黨”的提法表示不滿。會議就紅4軍黨內長期存在的關於建立鞏固的根據地和建軍原則的不同認識進行了討論，但由於領導者的認識不一致，未能得到正確的解決。
羅榮桓堅決貫徹執行毛澤東的正確主張，支部建在連上、實行黨代表製、三大紀律六項注意、部隊要做群眾工作、要建立根據地等主張都是非常正確的。在紅4軍黨的第7次代表大會上，羅榮桓堅決擁護毛澤東的路線方針正策。但是，有一些人不讚成。會後，毛澤東被迫離開了紅4軍的主要領導崗位。
到了7月底，蔣介石發動閩、粵、贛3省的第1次“會剿”，紅4軍決定分兵幾路，除第1縱隊和第4縱隊留在閩西堅持鬥爭外，2縱和3縱在朱德率領下，出擊閩中。與此同時，陳毅赴上海向中央彙報紅4軍的狀況和黨的第7次代表大會中的分歧意見。
紅4軍黨內在建軍原則問題上長期存在的分歧，一直沒有得到解決。在紅4軍黨的“七大”以後，實行了“由下而上的民主製”，實際上是極端民主化。一切問題，不管政治分析也好，行動計劃也好，都拿來討論，並且都是毫無準備地到會場上爭，往往爭論數日而最終沒有結論。針對這種情況，在紅4軍黨的“八大”上，羅榮桓堅持要求將毛澤東請回來領導紅4軍，與會同誌對羅榮桓的意見都表示讚同，會後，前委派人去請毛澤東，毛澤東說：“現在我不好出來”。毛澤東仍然留在閩西，一麵養病，一麵指導地方工作。
1929年10月22日，陳毅從上海返回部隊，帶來了他根據周恩來多次談話和中央軍事會議精神所寫、經周恩來審定的指示信（即9月來信）。指示信肯定了紅4軍的鬥爭經驗，肯定了毛澤東關於建設無產階級革命軍隊的一係列正確主張，要求前委維護朱德、毛澤東的領導，明確指出，毛澤東應仍為前委書記。陳毅回部隊後立即將9月來信轉給在閩西養病的毛澤東，並寫信請他回紅4軍主持工作。
在10月份紅4軍進攻梅縣的戰鬥中，羅榮桓率領9支隊進攻梅縣的北門，腰部右肋骨被子彈打穿，負了重傷。譚政、孫開楚兩人冒著彈雨，將他救下了火線。羅榮桓住進醫院後，毛澤東雖然沒有能親自前來探望，卻寫了信給醫院院長，囑咐醫院要給羅榮桓加強營養，精心護理。在羅榮桓養病期間，陳毅又寫信請毛澤東回來，11月26日，毛澤東回到紅4軍前委，接著，前委根據黨中央9月來信的精神，召開了擴大會議，決定部隊整訓，同時準備召開紅4軍黨的第9次代表大會。
12月28日，具有偉大曆史意義的古田會議在上杭的古田廖氏宗祠召開，會場上方懸掛著“中國共產黨紅軍第4軍第9次代表大會”的橫幅，毛澤東在會上作了政治報告，朱德作了軍事報告，陳毅傳達了中央9月來信。會議最後通過了《中國共產黨紅軍第4軍第9次代表大會決議案》，即“古田會議決議”。大會改選了紅4軍前委，提出前委候選人必須具備“政治觀點正確、工作積極、有鬥爭曆史”3個基本條件。會議經過充分醞釀，選舉了毛澤東、朱德、陳毅、羅榮桓等11人為正式委員。在前委向中央的報告中指出：“羅榮桓等5位同誌皆係作下層工作，以觀念正確，鬥爭積極，經前委介紹而當選。”至此，在羅榮桓的積極努力下，毛澤東又正式回到紅4軍負責領導工作。
四 當上縱隊政委
古田會議後，毛澤東在紅4軍2縱隊進行調查研究，了解到這個縱隊有一位姓張的政委，是在毛澤東離開紅4軍期間從上海調來的，還沒有經過實際戰鬥的鍛煉。一天晚上，正趕上打土豪殺豬，這位政委親自提了燈籠去照明，嘴裏還不斷地吆喝：“豬肝歸我，豬肝歸我”。新來乍到，一殺豬就要留豬肝，這個黨代表在群眾中造成很不好的影響。不久，部隊去打梅縣，編進隊伍裏的一些俘虜兵，天天有開小差的，這位政委不是設法加強政治工作去鞏固隊伍，而是依靠槍斃逃兵。但這股逃跑風仍然刹不住，這位政委在2縱隊工作數月，可以說越弄越糟。毛澤東認為，要把2縱隊整頓好，關鍵是選擇一位得力的政委。毛澤東建議時任紅4軍前委委員的羅榮桓任2縱隊政委，他的建議得到前委的一致讚同。