東征結束後，程武因為擔任了部隊的向導殲滅陳炯明殘部有功，回惠州時由司務長提拔為連副。雖是下級軍官，但一掛上斜皮帶，戴上大蓋帽，更顯得威武精神。
連長在攻打三河壩時受了傷被送往醫院治療，實際上在攻打過程中，程武代理連長指揮作戰。東征勝利後，部隊進駐惠州，正式改編為國民革命軍第六軍。程潛任軍長，林伯渠任黨代表兼政治部主任。當時的第六軍，師、團的黨代表都是共產黨員，許多營連指導員也是共產黨員。程武麵對這些共產黨員，隻覺得他們為人好，不爭功諉過，吃苦在前，名利在後，而他們的任務時常是彈性很強的政治思想工作，打仗的指揮權還是營、團、師的軍職人員。
軍人的天職是服從。他隻知道不折不扣執行上級的命令。在惠州駐軍後，他經常把隊伍拉出來操練，利用山形地貌做掩護體，進行模擬攻守，學習實戰本領。除此之外，他還親自任教員，教士兵認字，也邀請軍隊裏的黃埔軍校的學生，編寫簡易教材，為訓練所用。他非常重視連隊的夥食，親自審閱菜單，規定每天每人吃多少肉，吃多少油和多少豆腐，每星期加一次小菜，每逢節日加一大菜。此眾多的舉措，大受軍部表揚，成為全軍學習文化苦練本領的尖子連。就像所有的軍人一樣，程武喜歡軍號，喜歡閃亮的刺刀，喜歡脆亮的槍炮聲。所以，一聽到部隊要出師北伐，程武和全體士兵都摩拳擦掌，等候上級出征的命令。
在他一生中，莊嚴的北伐誓師大會最令他震撼，刻骨銘心。
北伐是孫中山的遺願，他在世時曾有兩次督師北伐，但都沒有結果。廣東統一後，在中國共產黨和全國人民的強烈要求和推動下，國民黨中央的開明人士接受了這一要求，決定出師北伐。
一九二六年七月六日，國民黨中央執行委員會臨時會議通過了《國民革命出師北伐宣言》；九日，國民革命軍誓師北伐，誓師大會在廣州東較場舉行。程武等駐惠州部隊，派出了自己的代表前去參加。
參加大會的有黨政軍等重要人物和工、農、兵、學、商各界群眾三十萬人，會場紅旗飄揚，肅穆莊嚴，國民黨重要人物何香凝、林伯渠、吳稚暉、張靜江、甘乃光、楊匏安、鄧穎超、彭澤民、陳公博、譚延闓、孫科、宋子文、鄧澤如、古應芬、陳樹人等出席了大會。
大會開始，由國民黨中央委員會和國民政府代表向蔣介石授旗授印，北伐軍總司令蔣介石宣誓就職。接著，國民革命軍舉行集體宣誓：
我謹以至誠實行三民主義，服從長官命令，捍衛國家，愛護人民，恪盡軍人天職。謹誓。
這位年輕的總司令可謂出盡風頭，三十萬人集中在東較場誓師，場麵何等莊嚴熱烈，但三十萬人都把眼光集中在一個人身上，其自豪，其榮譽，其激動，都是不言而喻的。問題是這位年輕的總司令，一身戎裝，腰佩寶劍，神情如此肅穆與安寧，雖有幾分笑容，但一副不卑不亢，甚至滿不在乎的樣子，這令程武傾慕不已。
程武為能有此機會一睹蔣總司令的風采而深感自豪，雙目炯炯地注視著台上，不願意放過每一個細節。據說，年輕的總司令頭上不長毛。不長毛怎麼啦？嫖婊子太多，患了淋病的人會患禿頭症。但程武卻認為：持這種說法的人也患紅眼症，其實禿發是一種智慧者的形象，遁入空門的人，連帝王公卿都要削發。但他很遺憾，大會從開頭到結束，總司令都一直頭戴大蓋帽。在授旗授印時，總司令大蓋帽一戴，高靴一穿，文武帶一佩，胸前的勳章一掛，嗨，這就是男子漢，這就是青年軍人的偶像，這就是掌握三十萬大軍討伐亂臣賊子的司令官。他甚至看得清清楚楚，在授旗授印時，有一隻野蜂或蒼蠅粘在他的左臉上，他不屑一顧，任由蜂蠅叮咬，一派軍人氣概。
直到現在，我們也無須對程武的偶像崇拜作過多指責。因為，無論東征還是北伐，蔣介石都戰功赫赫，定國安邦。從創辦黃埔軍校，到東征北伐，是蔣介石事業的黃金期。他成為青年軍人的偶像，是不奇怪的。曆史就是這樣，誰曾在哪一階段對人民有好處，曆史就不會忘記他，甚至頌揚他。
曾經在老母山悟道的程武，上山並非因為看破紅塵，實為生活所迫，保全自己的人格。所以，一旦介入到國事裏麵，當了軍人，他就變得生龍活虎，確立了雄偉的目標，希望自己會有一天像蔣先生那樣，手掌帥印，揮動帥旗，建立赫赫功業。有這種動力驅使，程武所做的一切都是自覺的。出操、練兵、學文化，請營部或團部的政工幹部給共產黨員上“軍人的崇高目標和理想”的政治課，都是受這動力驅使。他經常受上級的表揚，甚至受程潛將軍的表揚。他也無愧於這些表揚。其實，他的偶像並非程潛。程潛有儒將之風，對孫中山忠心耿耿，但為人忠厚、篤實，沒有野心，沒有城府，在群雄崛起中常受委屈，甚至上當受騙。他雖受孫中山的重視，並獲文有居正，武有程潛的美稱，但他手無兵權。那時極力主張辦軍校，其實並不是蔣介石的主張，而是日本士官學校炮科出身的程潛所提倡，但校長一職，最後還是被蔣介石所奪。他和陳炯明同主軍政部，陳炯明叛變後，孫中山曾派程潛去陳炯明大本營說項，但陳根本瞧不起程潛，最後程任東征軍左路指揮，討伐過去自己的上司，事後李濟深會同桂係軍閥，都拿程潛開心。若是太平盛世，這種人要得，但現在正值世亂之際，梟雄大行其道，整個世界的格局要靠他們平衡製約。就像患有隱蔽性的麻風或花柳病的人，要服劇毒的蠍子與蛇毒，方能生效。事後想想，東征中諸多戰鬥，敵對雙方何妨開戰，打仗，以炮火互相轟擊，互相兼並，又互相媾和，弱肉強食？無論哪一方，其損失都是國家民族之大不幸。像程武這號青年人，對世道的洞察遠談不上徹底，但他心目中偶像絕對不是程潛，然而羽毛未豐，想脫離程潛沒有條件，想投奔蔣介石沒門兒。所以，崇拜蔣介石而隻限於精神範疇，一片癡情可謂隻是一場單相思爾。當然，這也不能怪誰，處於亂世維艱，所有青年都有他的“時代苦悶症”。像程武這樣的青年人，自有他的人生選擇，過高要求，顯然是徒勞的，千差萬別才是這個世界的本質。“和平、奮鬥、救中國”，孫中山叫喊了一輩子，直到彌留之際，先生還在病榻上告誡自己的下屬。可惜，無論南方北方，依然戰亂不休。北伐軍是三十萬有為的青年用熱血和生命構築起來的，無論程武當時動機如何，思想與情緒又如何複雜，但都不能抹煞這樣的事實——即現在他是光榮的北伐軍的一員。
那天晚上，程潛開完高級軍事會議回來，到參加誓師大會的營連部檢查戰務情況，見到程武，問道：“你參加今天的北伐誓師大會，可有什麼想法？”
程武說：“這感想能用幾句話概括嗎？那麼莊嚴雄偉的場麵，三十多萬人參加北伐誓師大會，這證明全國上下萬眾一心，同仇敵愾，無堅不摧。”
程潛點點頭表示讚許，又問：“宣誓的誓詞，你還記得嗎？”
過目成誦的程武，正希望上級長官考考他。他立正，麵向程潛，倒背如流地把誓詞背了一遍。程潛又一次讚許地點頭：“年輕人就是記性好。不過，那幾句誓詞，誰都懂得，重要的是要化作行動，對誓詞負責！”
“頌公！”程武第一次這樣稱呼自己的司令官，“誓師大會點燃了我們對軍閥的仇恨之火。不少人都摩拳擦掌，希望早日上前線。我們的部隊駐紮惠州，去開誓師大會的隻是為數不多的代表。我建議出師前在惠州搞個誓師大會，激勵將士。如果開大型的誓師大會有困難，我們想搞一個稍為小型點的，表表決心，增加軍威。”
程潛寬厚的手掌一邊抹臉，一邊說：“這倡議很好，但誓師大會恐怕不可以重複。你看，授旗授印是無法重複的，我們就改個名稱，叫戰前動員吧。”
“真是後生可畏。”程潛自言自語，“此事幸好程武提醒。不過，誓師大會隻能有上麵搞的那一次，下麵誰再搞就難免引起老蔣的疑心。但換個名堂作一次戰前動員還是有必要的。”程潛以長者對後輩人的關懷，凝重而又慈祥地說：“程武，你過去喜歡和我論兵法，那全是紙上談兵。我對你的稱讚，也是出於長者對年輕人的鼓勵。其實，軍事科學也是一門很深的學問，深奧得很，不同的時間、地點，雙方力量的對比，士兵的士氣，戰爭的正義與非正義，人心的向背，都會影響戰局，或局部影響，或整體引起變化，戰略戰術都要隨機應變。所以，光會紙上談兵是不行的。三國時，蜀丞相諸葛亮，一生用兵謹慎，但在街亭一役中，卻用了一個隻會紙上談兵的馬謖，結果街亭失守，諸葛亮不得不使用了空城計，最後揮淚斬馬謖。你觸及的兵法，還是很皮毛的。這次北伐，正是你們年輕人大顯身手的時候，千萬不要以為自己熟諳兵法，貽誤戰機。切記切記。”
程武心裏不滿程潛尖銳的批評與說教，但卻甜嘴滑舌地表現出激動不已的神態：“頌公之言，如老酒陳醋，極有功力，令我茅塞頓開。古人以不恥下問去告誡世人。梁任公有句話——知恥近乎勇。自跟頌公以來，常在戰事或訓練的餘暇，談論兵法，豈知頌公久經沙場，戎馬倥傯，出生入死，談論的盡是陣亡將士用鮮血總結出來的經驗教訓。而程武卻不知天高地厚，熱衷空談。頌公今以三國馬謖為戒，提醒我，我願以戰功報答頌公的恩德！”