1922年夏,湖南創設陸軍講武堂。六團團長袁植想到少年英武、胸有大誌並在戰場上兩次救過自己性命的彭得華。要他改名應考,以便重返六團。經黃公略等救貧會友相邀,8月,彭得華改名彭德懷,與黃公略、張榮生一起考入講武堂,編在第一教授班。講武堂教授的課程有四大教程(戰術、地形、築城、兵器)、四小教程(操典、野外條令、射擊教範、內務條令)、軍製學、馬術、山炮戰術等。這使得已有豐富作戰經驗的彭德懷又有了相當的軍事理論素養。
1923年8月,彭德懷從講武堂畢業,回到六團一營一連任連長。1926年7月,湘軍第二師改編為國民革命軍獨立第一師,原三旅六團改編為第一團。彭德懷升任一團一營營長。隨即參加了北伐戰爭。進攻武昌時,一團奉命配合北伐軍先遣隊葉挺獨立團行動,團長因懼戰而告假,一團由彭德懷指揮,顯示出了超群的指揮才能。1927年6月,一師被湖南省主席魯滌平收編為國民革命軍獨立第五師,10月,彭德懷任獨立五師一團團長。
北伐期間,彭德懷結識了一師政治部秘書長、共產黨員段德昌。在段德昌的引導和幫助下,彭德懷開始用共產主義理論武裝自己,閱讀了《新青年》、《共產主義ABC》、《通俗資本論》等大量進步書刊。這對於苦苦求索中的彭德懷來說,如同茫茫黑夜中見到了曙光。多少年來,他向往太平軍,想做易參政,立誌打富濟貧,富國強兵,但他的理想被嚴酷的社會現實撞擊得粉碎。現在他才認識到,隻有跟著共產黨走無產階級革命道路,才能使受苦受難的勞苦大眾得到解放。於是,時任營長的彭德懷在本營組織士兵會,宣傳革命思想,開始了改造舊軍隊的曆程。
1927年,蔣介石背叛革命,對中國共產黨和中國人民實行了極端殘酷的屠殺政策,革命力量受到極大摧殘。中國共產黨決定以革命武裝反對反革命的武裝,先後發動了南昌、秋收、廣州等武裝起義。就在這考驗革命者的緊要關頭,中共湖南省委於1928年2月批準了彭德懷加入中國共產黨的申請。從此,他把畢生的精力獻給了中國共產黨領導的革命事業。入黨後他就開始考慮率部起義,但黨組織指示其進一步在五師全師範圍擴大革命力量,等待時機,爭取全師起義。
彭德懷為培養革命骨幹,任團長後就打算辦一個學兵連。獨五師師長周磐為培植和擴大自己的勢力,也想辦一所隨營學校。彭德懷認為可利用支持周辦隨營學校的機會,在學員中秘密發展吸收士兵會員,以此準備起義。因此積極支持周的主張,並建議周自任校長,推薦共產黨員黃公略擔任副校長,賀國中、黃純一分別擔任教育長和大隊長,使隨營學校實際上控製在共產黨的手中。
1928年6月,何健命獨立五師開赴平江接防,以加強對平江農民運動的鎮壓。平江地處湘東北,東接江西修水,北與湖北通城毗連,當湘鄂贛三省要衝,為兵家矚目之地。1928年春,平江農民在中共平江縣委的領導下,先後爆發了三次圍攻平江城的"撲城"運動,3月發動的第二次"撲城"運動,參加的群眾達10萬餘人,在反動派血腥鎮壓下而告失敗。整個平江地區成了屠殺革命者的刑場,同時蓄積著新的革命風暴。彭德懷義憤填膺,一方麵采取各種辦法製止反動派的屠殺,一方麵利用敵人的暴行喚起士兵對革命群眾的同情和對反動派的仇恨。
7月18日,彭德懷得知黨的南華安特委組織遭破壞,周磐認出特委人員所持的通行證是黃公略親筆簽發的。並在電報局截得周磐令江副師長立即逮捕黃公略、黃純一、賀國中三人的電報。情況緊迫,彭德懷決心立即舉行起義。此時湖南省委特派員滕代遠從長沙來平江視察工作,彭德懷即與他取得聯係。當日晚,彭德懷召開一團黨員緊急會議,討論決定22日舉行起義,以鬧餉為發動士兵的手段。由彭德懷負責起義的部署指揮,滕代遠負責政治工作。
7月22日上午,一團在平江城東門外天嶽書院操場舉行起義誓師大會,彭德懷宣布起義的目的是:打倒國民黨反動政府,打倒土豪劣紳,解除反動武裝;建立工農政權,成立工農紅軍。彭德懷號召全體士兵勇敢地投身革命,得到了士兵們的熱烈響應。下午1時起義部隊以迅雷不及掩耳之勢,占領了平江縣城,僅用1個多小時就解除了全城2000餘名反動軍、警、民團的武裝,活捉了縣長和清鄉督察員等反動分子,釋放了被關押的革命群眾。23日,獨立五師隨營學校在賀國中、黃純一的領導下到達平江參加起義。此時任獨立五師三團三營營長的黃公略於22日在平江嘉義鎮舉行起義,並於23日到平江城彙合。起義後宣布成立工農紅軍第五軍和平江縣蘇維埃政府。推選彭德懷為紅五軍軍長,滕代遠為黨代表。