黃永勝是從一名士兵循一級一級軍事崗位，升到大軍區司令員職務的，紮實的作戰實踐功底和部隊各級指揮技巧，都是他十分內行的本領。他認為要當好一個大軍區首長，抓好幾十萬人馬的合成軍兵種訓練，光靠過往的自身經驗決不足夠。首先，他從自身抓起，重視軍事理論和新的軍事科學技術學習。為此，從五十年代初期他就努力學習文化，提高自身素養。他請了專門的文化教員，每周定時到家中，利用業餘時間學習數理課程。他主動要求到北京高等軍事學院深造了兩年。他抓基層訓揀，以細著稱，創造了“大首長抓小科目”的經驗，在全軍都有很大反響。
１９６２年５月，軍區在衡陽車江１３９師營房舉辦幹部集訓，參加集訓的有軍、師、團三級主官和軍、師作訓處長、科長共２４７人，主要研究學習“五大技術”和分隊實彈戰術訓練，以及連隊行政生活管理等內容。１９６３年２月，軍區又在粵東揭陽饅頭山１２３師營房集訓軍、師、團級幹部ｌ５６人，重點是學習研究夜間科目。這兩次集訓，參訓人員都按連隊編組，軍長當排長，師長當班長，團長當戰士，黃永勝則親自任連長，親自組織教學，親自授課。集訓隊嚴格按照連隊行政製度生活，組織對連隊主要生活製度進行示範，然後貫徹執行，隨時檢查糾正。從著裝到一日生活製度，都按連隊要求，過連隊生活，學習連以下課目，做戰士動作。他這個臨時連長處處做出榜樣，嚴格遵守連隊生活製度，和大家一起起床出操，一起吃飯生活，一樣嚴整軍容風紀，束腰帶，服裝整齊。訓練中，一起進行各種課目。他不僅告訴大家怎樣做和為什麼這樣做，還能做出準確的示範，使參訓人員心服口服。他還擔任一些課目的講授和示範。
集訓期間，他像戰爭年代一樣發揚軍事民主，組織戰士講評。發現戰士的思想問題，則像連隊幹部一樣深入細致做思想政治工作，還與戰士交上了朋友，一時成為美談。１９６４年全軍軍事技術大比武中，廣州軍區參賽分隊和個人取得了優異成績。在他的帶領下，廣州軍區領導班子成員和軍區機關重視基層、熟悉基層、習慣於抓基層，成為良好的工作作風，在各大軍區中表現出一種突出的特點。