1928年6月，中共中央指示湖南省委注重湘鄂贛邊的武裝鬥爭，以造成割據的局麵。湖南省委為貫徹中共中央的指示派滕代遠到平江，尋找黨組織，並擔任特委書記，以開展邊界地區的工作。滕代遠到達平江縣城後，接到中共湖南省委關於南華安特委被敵人破壞、獨立第5師黨組織要提高警惕的指示後，與鄧萍接上關係，轉告了省委的指示。
彭德懷從所部第2營營長陳鵬飛處獲悉，住在長沙的師長周磐，已經發覺黃公略是共產黨員。彭德懷立即返回平江城，在電報局截獲了周磐命令隨部隊住在平江的副師長捕殺黃公略、賀國中、黃純一的電報。黃公略等人身份的暴露，牽連到整個黨組織的安全，情況十分嚴重。
當日晚，彭德懷與滕代遠召開黨委擴大會研究對策，經反複討論，決定以鬧餉的名義率部起義，建立紅軍第5軍，在湘鄂贛邊實行武裝割據。接著，黨委作了分工：彭德懷、李燦、黃純一負責率部起義，改編為紅軍；滕代遠和鄧萍負責與地方黨取得聯係，組織革命政權，起草與發布告示。此外，還研究了起義的具體細節，並派人通知黃公略以鬧餉名義率部到平江城參加起義，賀國中將隨營學校全體人員帶到平江。
會議還決定：起義時間為7月22日13時。
20日清晨，彭德懷假副師長名義，電告師長周磐已將黃公略等3人扣押，並告已令隨營學校開赴平江以防事變。
7月22日上午，彭德懷召集除第2營以外的全團軍官會議，當場扣押第3營營長以下反動軍官10餘人，宣布起義。繼而第l、第3營官兵在東門外天嶽書院召開起義誓師大會，彭德懷在會上曆數國民黨叛變革命殺害工農群眾的罪行，指出部隊的光明前途在於脫離國民黨投人紅軍，跟著共產黨幹革命，解放受苦受難的工農群眾。次日清晨，賀國中按黨委決定率隨營學校官兵趕到平江城，參加起義。下午，黃公略率第3營兩個連也到達平江縣城。
平江起義成功後，部隊改編為紅軍第5軍第13師，彭德懷任軍長兼師長，下轄3個團，黃公略任第4團黨代表。7月25日，紅5軍與中共平江縣委召開聯席會議，決定成立平江縣蘇維埃政府，發動平江全縣農民暴動，以造成武裝割據局麵。
平江起義是在革命處於低潮、國民黨在南方的反動統治相對穩定的情況下舉行的，是繼南昌起義、湘贛邊界秋收起義、廣州起義後又一次著名的武裝起義。這次起義，打擊了國民黨的反動統治，給正處在艱苦鬥爭中的革命人民以有力鼓舞。起義後建立的紅5軍，壯大了紅軍力量，推動了湘鄂贛邊區人民革命鬥爭的發展。從此，平江縣的城頭到處飄揚著紅色的旗幟。紅5軍的成立，標誌著又一支紅色勁旅誕生了！
1928年10月，平江起義之後，紅5軍軍委和湘鄂贛特委決定，將紅5軍和工農遊擊隊混編為3個縱隊。黃公賂為第2縱隊縱隊長；紅5軍一分為二，2縱隊由黃公略指揮，在當地堅持遊擊戰爭，保衛湘鄂贛蘇區，1、3縱隊和軍直屬隊由彭德懷、滕代遠率領上井崗山，設法與朱毛紅軍取得聯係。黃公略就是從這時起開始了率部與敵進行遊擊戰爭的親身實踐。
彭德懷、滕代遠率紅5軍主力轉移之後，黃公略帶著5軍一部留守平江、瀏陽一帶，就地發動群眾，開展遊擊戰爭。當時形勢嚴峻，鬥爭艱險。特別是紅5軍主力上井岡山後，氣勢洶洶的國民黨軍四麵圍攻黃公路所屬的紅軍部隊，妄圖一口吞掉黃公略部。黃公略在平瀏地區麵對國民黨軍的包圍、進攻，麵對優勢敵軍的不斷追剿，以堅韌不拔的毅力和卓越的指揮才能，領導紅5軍2縱隊在敵強我弱，給養補充極端困難的條件下與敵軍周旋，緊緊依靠邊區的黨組織和廣大人民群眾，采取機動靈活的遊擊戰術，依據敵情的變化，時而指揮部隊化整為零、晝伏夜出、敵合我散、避實就虛、聲東擊西1時而化零為整，集中優勢兵力，消滅敵軍一部或給敵人以重創。1929年4月，第2縱隊發展為第1、2、3縱隊。到1929年10月，先後取得了毛四、魯家灣、老烏渡暴動的勝利，消滅了反動的當地駐軍和挨戶團，繳獲了敵人的部分槍支彈藥，改善了紅軍的裝備，擴大了革命力量，鞏固了根據地，保衛和擴大了湘鄂贛邊區。
黃公略率部在山林中反複周旋，雪中行走時要靠倒穿鞋子留下相反方向的腳印，才能擺脫敵人。通過鬥爭實踐，他創造了化整為零、晝伏夜出、避實就虛、聲東擊西等遊擊作戰方式，並在理論升華的基礎上寫成了《遊擊戰術》的小冊子。這是紅軍第一本遊擊戰術理論專著，開創了遊擊戰爭及人民戰爭理論的先河。紅軍遊擊戰爭的戰略戰術作為共產黨人集體智慧的結晶，這其中也凝聚著黃公略的貢獻。
從1928年9月到1929年8月，在主力外出的一年時間內，黃公略成為湘鄂贛根據地最高軍事首長。他根據形勢和任務的變化，主動開展遊擊戰爭，幫助群眾開展以“抗租、抗債、抗糧、抗捐、抗稅”為內容的五抗運動，當敵人由攻轉守或軍閥發生混戰時，則將部隊集中起來，利用有利時機，大舉向外擴張。一年後，黃公略同轉戰回來的彭德懷、滕代遠會合，黃公略升任紅5軍副軍長，並被選為中共湘鄂贛邊區特委書記。1930年1月，以江西紅軍獨立第2、3、4、5團為主力，與贛西工農遊擊第2大隊和湘贛蘇區部分地方武裝合編成工農紅軍第6軍。黃公略調任紅6軍軍長，陳毅和毛澤覃曾先後任政委。
建立紅6軍之初，黃公略兼任軍委書記，在政委陳毅、政治部主任毛澤覃都未到職的情況下，獨自一人把全軍的軍政工作都抓了起來，被稱讚為軍政全才。黃公略既是軍長，又是軍委書記；既抓軍事，又抓政治。在他的帶領下，部隊的軍政素質進步很快，不到一年，紅6軍就成了一支強有力的戰鬥部隊。當時，黃公略的部隊中有些是平江起義後當了紅軍的舊軍隊人員，剛剛參加了紅軍，生活比舊軍閥部隊還苦，一些舊軍官借機煽動叛逃，黃公略學習朱毛紅軍的經驗，靠打土豪、分田地的暴動農民補充部隊，同時實行官兵一致。在湘鄂贛邊區山中打遊擊時，下雪天部隊還穿不上棉衣，黃公略自己也同大家一樣穿單衣，並帶頭以紅薯絲、草根充饑，舊軍官出身和起義過來的官兵都非常佩服，從而凝聚了原舊軍隊人員及新入伍的戰士。
率部在贛西南地區深入開展土地革命，建設紅色政權。在他的領導下，贛西南地區發展成大塊紅色根據地，為建立中央蘇區奠定了基礎。
紅6軍成立不久，就攻占了吉水縣城。1930年2月初，朱德、毛澤東率領紅4軍由閩西來到贛西南。6日至9日，毛澤東主持召開紅4軍前委、贛西特委和紅5、6軍軍委聯席會議，這就是曆史上有名的“二七”會議。會議通過了《土地法》，決定通過開展分田運動掀起土地革命的狂瀾，以此鞏固和擴大蘇區。為實行統一領導，會議決定組成紅4、5、6軍和贛西、贛南、閩西、東江地區的總前委，以毛澤東為書記，朱德、曾三等為常委，彭德懷、黃公略為候補常委。黃公略率部在吉安的富田、東固一帶與由閩返贛的紅4軍會合。2月24日，黃公略率部配合紅4軍一舉全殲號稱“鐵軍”的國民黨軍唐雲山獨立15旅1600餘人．繳槍2000餘支。這一仗，是擺脫敵人圍剿、重創敵人囂張氣焰的一仗，是穩定軍心，變被動為主動的一仗，為擴大紅軍的影響和以後的遊擊戰爭發動群眾，打擊敵人奠定了基礎。
毛澤東的雄才大略和獨特見解令黃公略非常欽佩。黃公略從曆次鬥爭中雖然認識到紅軍與根據地的密切關係，在實踐中也做到了在鞏固的基礎上逐步向外擴張，但從來沒有提升到工作路線和戰略策略的高度去考慮，經毛澤東一點撥，思想豁然開朗。
在遊擊戰爭中，黃公略的遊擊戰爭理論和軍事指揮才能得到充分的發揮。他從自己的親身經曆中，深深地懂得，紅軍麵對人數多、裝備好的強大敵人，之所以能打勝仗，一是靠廣大指戰員的高度覺悟和犧牲精神；二是靠人民群眾的擁護和支持。因此，他十分重視部隊的政治思想建設和群眾工作。注重用無產階級思想教育部隊，堅決反對為打仗而打仗的單純軍事觀點。嚴格要求部隊認真執行黨的政策，遵守群眾紀律，積極做好宣傳、發動、組織和武裝群眾的工作。為了讓群眾了解紅軍的宗旨、政策和號召群眾起來鬥爭，他親自起草了署名為軍長黃公略、政治委員陳毅的《紅軍第6軍司令部布告》，鮮明提出：“實行武裝遊擊，肅清地主豪紳，推翻反動統治，實現工農專政”的目標。
1930年7月，紅6軍改稱紅3軍，黃公略任紅3軍軍長。隨後，黃公略率紅3軍同紅4軍、紅12軍合編為紅1軍團，在毛澤東、朱德指揮下參加中央蘇區反“圍剿”戰鬥。當時擔任這三個軍軍長的分別是黃公略、林彪和伍中豪。這三個人都有就讀黃埔軍校的經曆，都非常年輕，都是才華橫溢，黨內稱他們為朱毛麾下的“軍中三驍將”。黃公略在毛澤東與朱德的指揮下屢建奇功，他的聲望不斷提高，與朱德，毛澤東，彭德懷等中央蘇區軍事首領的名字連在一起，國民黨、蔣介石常以“朱毛彭黃”指代紅軍。
黃公略率紅3軍分布在贛西南的廣大地區開展遊擊戰爭，分兵發動群眾，深入開展土地革命，建立紅色政權，擴大紅軍和地方武裝。紅3軍在分路遊擊中，在贛酉南打出了一個清一色的紅色局麵，贛西南革命根據地有組織的群眾由150萬人增加到400餘萬人，加入赤衛隊的群眾近百萬人。
到1930年10月，贛西南地區已由原來零星的紅色割據區域，發展成有統一領導的、連成一片的大塊紅色革命根據地，黃公略為此作出了艱苦卓絕的貢獻。毛澤東在《蝶戀花·從汀州到長沙》一詞中，用“贛水那邊紅一角，偏師借重黃公略”兩句，高度評價了黃公略這段曆史。
黃公略很重視思想政治工作，號召黨員發揮先鋒模範作用，教育部隊團結友愛，他還以自己的言行為部隊作出表率。寒冬臘月，大雪封山，他仍穿著單衣單褲和自己打的布草鞋，沒穿襪子的腳常常龜裂。褲子破了，就把褲腿撕下來補上去，還戲稱這是“靈活機動的戰略”。黃公略指揮部隊常常給敵軍沉重的打擊，使敵軍坐立不安。有一次，敵軍司令部貼出了一紙告示：“若有捉拿共軍頭子黃公略者，賞大洋5萬元；若有擊斃黃公略拿頭來見者賞大洋2萬元。”有人在後麵加了一句：“若拔到黃公略一根汗毛者，賞黃金萬兩。”可見黃公略的影響之大。
1930年11月上旬，國民黨軍發動的第一次“圍剿”開始，蔣介石任命江西省主席兼九路軍總指揮魯滌平為總司令，18師中將師長張輝瓚為前線總指揮，采取“分進合擊”的戰術，以10萬兵力對根據地進行大規模“圍剿”，如此大規模的“圍剿”與反“圍剿”，對國共雙方都是第一次。紅軍第3軍團被迫從贛江西渡到贛江東。
紅3軍團在峽江、樟樹之間東波贛江之後，毛澤東審時度勢，提出了“放開兩手，誘敵深入，粉碎10萬敵軍取得第一次反圍攻勝利”的軍事方針，建議把敵人引到蘇區根據地內來打。這是一個深謀遠慮、穩當可靠的戰略方針，在沒有大規模作戰的經驗以前，第一次對付這樣大的敵人的進攻，需要取得一定的作戰經驗。
但是，由於李立三“左”傾冒險主義的影響，江西省委行動委員會堅持“左”傾冒險主義路線，對毛澤東的戰略方針提出異議，不顧敵情我情，力主放棄根據地、攻打南昌。紅3軍團逐步向永豐以南的黃陂、小布地區收縮，但是，越轉向蘇區中心地帶，越見不到群眾，甚至連帶路的向導也找不到。部隊普遍懷疑這是什麼根據地，還不如白區。原來是江西省委行動委員會對“放開兩手，誘敵深入，大量消滅敵人”的方針提出異議，說這是右傾機會主義，是退卻路線，而不是進攻路線。他們的方針是“打到南昌去”，與總前委的決定是針鋒相對的。他們始則對紅軍進行封鎖、欺騙，控製群眾，不要群眾和紅軍見麵；繼而散發傳單，寫出大字標語：“擁護朱（德）彭（德懷）黃（公略），打倒x x x”，把矛頭直接指向了毛澤東。就在這時，對不久前富田肅反問題有意見的個別人，不顧大局，借機偽造毛澤東的親筆信，挑撥毛澤東與朱、彭、黃的關係，提出“打倒毛澤東，擁護朱彭黃”的錯誤口號，使毛澤東真假難辨、處境異常被動，他的正確主張一時難以付諸實施，形勢變得非常嚴峻。
黃公略看到，這就不是簡單的黨內路線鬥爭了，而是分裂黨、分裂紅軍的問題了。大敵當前，如不打破這種危險局麵，就不易戰勝敵人，甚至會被敵人鑽了空子。這時，紅3軍團駐在東山壩，總前委駐在黃陂，相距30餘公裏，敵軍已分路進入蘇區邊境，紅3軍團處在一個關鍵地位。
黃公略認為，蔣介石、魯滌平以10萬大軍來進攻，為粉碎它，就必須謹慎而又有把握地打敗它。誘敵深入，利用山地，依靠群眾，增加紅軍戰勝敵人的有利條件，這是完全正確的，他完全擁護這一戰略方針。
在這大敵當前，黨和紅軍麵臨分裂的危急關頭，為了維護紅軍的團結和毛澤東的領導地位，黃公略與朱德、彭德懷於12月18日寫了一封致20軍軍政委曾炳青，江西省行委王懷、段啟鳳等人的公開信，黃公略等明確提出“誘敵深入”的戰略，是“整個紅一方麵軍總前委的策略，已不是毛澤東同誌個人的意見，所謂反對毛澤東同誌的右傾等於無的放矢。”並鄭重宣告：“目前決戰在即，凡是革命的布爾什維克同誌，應站在共產黨總軍委領導之下，一致團結，堅決消滅敵人，誰不執行這一任務，誰破壞這一任務，誰就是革命的罪人。朱德、彭德懷、黃公略對於同誌之去就，隻有革命與反革命之分，沒有私人擁護與否之別。”黃公略等還在信中明確表示：“朱、毛、彭、黃團結到底！”
這封信公開後，在黨和紅軍中產生了重大影響。曾炳青原來是紅3軍第2縱隊政委，是黃公略的部下，他比較信服和尊重黃公略。他看了朱、彭、黃的聯名信後，消除了一些誤會，逐步轉變了思想，這封信對維護以毛澤東為首的總前委的領導和紅一方麵軍的團結，統一全黨、全軍思想起了很大的作用。
由於黃公略等人的堅決態度和說服教育，終於克服了富田事變造成的嚴重危機，紅20軍也從贛江東岸拉過江來，重新回到革命隊伍中。黃公略用毛澤東的主張統一了全軍將士的思想，維護了以毛澤東為首的總前委的領導和紅一方麵軍的團結。
黃公略這個在中共黨史上沒有引起足夠重視但卻意義非常的主張，是在他求索救國救民的道路、投筆從戎十餘載所經曆的辛酸苦辣與經驗教訓中得出的。
黃公略是出現在毛澤東詩詞中的第一位我軍將領。毛澤東當然知道黃公略在他和紅軍處於危難之時給予他的支持的分量，但他感慨更深的是黃公賂的光明磊落、政治修養和軍事才華。麵對強敵，在我還不強的情況下，如何戰勝強敵，黃公略和毛澤東等都想到了依靠人民群眾的力量開展遊擊戰爭，想到了避其銳氣、集中兵力運動中殲敵的良策。與其說黃公略擁護和支持毛澤東的正確主張，不如說黃公略對毛澤東的戰略戰術有著更深的理解和信任。
此時，張輝瓚“圍剿”紅軍的行動步步緊逼，朱德專門趕到紅3軍，對黃公略說：“譚道源跑了，張輝瓚來了。總前委決定，由你們紅3軍擔任正麵攻擊。”而黃公略手上隻有紅7師一個團的兵力，要死死地頂住敵人6個團的進攻，任務非常艱巨。
為了徹底置紅軍於死地，蔣介石親自指揮這次“圍剿”行動，國民黨軍兵力的總態勢是：最西麵是羅霖的77師，位於贛江以西的吉安；最東麵是劉和鼎的56師，位於福建的建寧，中間相距400公裏。在這400公裏之內，敵軍兵分兩路；右路軍是張輝瓚的18師，譚道源的50師和公秉藩的28師共3個師；左路軍是毛煩文第8師和許克樣的24師兩個師，另有19路軍的60師進至萬安，61師進至泰和。這樣，在紅軍集結地黃陂中心區的北麵，敵軍隻有3個師且分居三處，西邊張師占領東固、南壟，公師位於張師其後的富田，中間的譚師則進至源頭。敵軍分散疲憊，士氣低落。
12月29日，為轉移目標，調動敵人，紅軍主力秘密轉移到黃陂西麵的君埠、漢下、上下固一帶隱蔽集結。當日黃昏，毛澤東、朱德得到情報，張輝瓚的18師先頭部隊已於上午10時到達龍岡，其後續部隊正在跟進，預料次日可能從龍岡繼續東進。毛澤東、朱德非常高興，立即擬定了布下天羅地網，全殲張輝瓚第18師的作戰計劃。
戰鬥打響後，黃公略率領所部在著名的龍岡戰鬥中擔任正麵攻擊任務。根據毛澤東、朱德的命令，黃公略領紅3軍埋伏在龍岡萬功山一帶，正麵迎擊，誘敵深入，拂曉前搶占黃竹嶺前麵、木坑以北地區和亭子蛤的主要陣地。
龍岡，東鄰君埠，北靠上固，南與興國縣相連，西與吉安縣相接，四麵峭壁高峰，地勢險峻，山路嶇。熱鬧的龍岡街就座落在中間的盆地裏。街上周圍有二三百戶人家，街的西側有條龍岡河，河的上遊，離街不到四五公裏的地方有個較大的村子叫城攻村，村子四麵是海拔350米的萬功山。這裏土地肥沃，蒼鬆紅楓和滿山的油茶樹常年青蔥，素有“油米之鄉”之稱。
1930年12月30日，天氣異常寒冷。國民黨軍第18師中將師長張輝瓚，率領他自以為裝備精良能征善戰的所謂“鐵軍師”18師，氣勢洶洶地向龍岡挺進。張輝瓚早年畢業於日本士官學校，後又到德國考察過軍事，在原湘軍中是一員名將，鎮壓江西革命力量老手。他的18師人員滿編，裝備精良，是總司令魯滌平手下最能打仗的部隊，號稱“鐵軍師”。這一次他奉蔣介石、魯滌平之命，負責前線指揮之後，驕橫跋扈，自覺不可一世。他既看不起國民黨的其他部隊，又根本不把紅軍放在眼裏。侵入根據地以後，紅軍采取節節阻擊與佯攻相結合的辦法引誘張輝瓚，張便更覺得紅軍不堪一擊。
趾高氣揚的張輝瓚，這位昔日的“剿共名將”，做夢也沒想到紅軍的鐵榔頭會敲在他的頭上，黃公略率領紅3軍已經嚴陣以待，“甕中捉鱉”的序幕已經拉開，龍岡將成為他反革命生涯的最後一站。