在二野時，黃永勝和羅瑞卿共過事，也許是這個原因，在林彪發起對羅瑞卿的打擊時，黃永勝“作戰”不力，不像李作鵬、吳法憲那樣衝鋒陷陣，林彪對此很不滿意。葉群給他透了信。黃永勝很緊張，怕失去在林彪眼中的地位，趕快給葉群寫信，信中說“我說得不好，跟得不緊，我不敏銳……你轉來林彪的指示，我是蠢豬。”幾個月後，黃永勝與其夫人項輝芳感覺到全國政治風浪有變，決不能再失去林彪這隻大船了。他們設法靠攏林彪。正好他們的四個孩子到北京串聯，開始住在賀龍元帥家。黃永勝得知後馬上命令他們返回廣州，夫婦倆聯名寫信給葉群：
……我們四個小孩外出串聯，住在北京時，曾多次到林月琴（羅榮桓遺孀）和賀家。我們是11月26日才知道的，當晚即以項輝芳同誌生病住院為名，叫孩子們立即回廣州，他們也於28日離開了北京。
林月琴那裏，我們曾給孩子們打過招呼，不讓到她家去，但不好把內情告訴他們。賀的情況，我們十一中全會以後才知道，孩子們早已外出。當然，就是在家也不便告訴他們。所以，他們糊裏糊塗，被人拉著，經常去小龍那裏！不知他們談了些什麼。待回來後，再予查問。總之，孩子們幼稚，容易上當，今後我們一定加強教育。
黃永勝
項輝芳
1966年11月29日
當黃永勝的孩子們一回到廣州，黃永勝就教訓了他們一頓，同時叫他們給“林彪伯伯”和“江青媽媽”寫了一封信，信中造謠說他們到林月琴家裏，林月琴對他們特別好，並一再打聽廣州軍區“文化大革命”情況，這是別有用心。
還說賀龍的小兒子小龍搞秘密組織，準備秘密串聯，找可靠的人，說羅家和賀家的人在調查、整理王任重的材料及關鋒、戚本禹的講話。告李井泉給賀龍打電話，薛明與秘書幫小龍修改材料等。林彪很欣賞這種全家式的效忠，不但原諒了黃永勝的不得力，還準備重用他。
事隔不久，發生了所謂的“楊餘傅事件”，代總參謀長楊成武被打倒，黃永勝被扶上了總參謀長的位置。
葉群及時將這個“好消息”透露給黃永勝：讓你當總參謀長是林彪提議的，林彪早已有內定。林彪讓我宣傳你的曆史和大節好。
就這樣，黃永勝後來居上，比另三大“金剛”上賊船晚，卻最受重用。
黃永勝如此強烈地表白，要如何與羅榮桓家劃清界限是最令人費解的。恐怕多數人還不知黃永勝與羅榮桓的關係，其實羅榮桓真可以稱得上是黃永勝革命的領路人。在60年代之前，黃永勝對此不但不否認，還經常說在嘴上，寫在文章裏。1960年，黃永勝寫過一篇《井岡山上紅旗飄———連隊生活回憶片斷》的文章，文章的中心是歌頌當年他當班長時，連黨代表羅榮桓對他的教導，文章情真意切，完全發自內心。估計現在已經很難讀到這篇文章了。為了說明黃永勝當年與羅榮桓之間的關係，摘引最為生動的三節，供讀者自己品味：
【難忘的一件事】：記得在1928年秋天，有一次輪到我擔任連的采買。
吃過早飯，我同連裏的軍需上士到墟上去買東西。那天上士瀉肚子，快到墟上時，他交給我一塊大洋，叫我先去買菜。我把錢隨手往口袋裏一放，便穿過擁擠的人群，直向菜攤走去。買好了菜，準備付錢，我往口袋裏一掏，裏麵竟什麼東西也沒有了！翻過衣襟一看，衣服口袋不知什麼時候扯了一個二寸來長的大口子。這一下把我急壞了。頭上立刻冒出黃豆大的汗珠子。稍定了一定神，我便急忙瞪著眼睛沿著來路找去，一麵走一麵心裏打鼓似的通通直跳。一直走到原來上士交給我錢的地方，哪裏還有它的影子！以後遇見了上士，當他知道了這件嚴重的事情，便著急得沒好聲氣地埋怨我說：“你怎麼沒有把自己也丟了呀？這是全連一天的菜錢，你這不是存心不叫大家吃飯嗎？”
……在挑著擔子往回走的路上，上士還是邊走邊咕咕嚕嚕地埋怨著我，我又急又氣又難過，可就是說不出一句話來。我想，犯了這麼大的錯誤，怕要受嚴厲處分了；自從參加革命以來，自己還沒受過任何處分呢！
回到連裏，上士便同我去見羅黨代表。我一見羅黨代表便說：“報告黨代表，我今天犯了一個大錯誤！”
黨代表詫異地問道：“犯了什麼大錯誤呀？”
上士插嘴說：“他把連裏買菜的一塊大洋丟了！”
黨代表皺了皺眉頭。我把事情的經過講了一遍。他聽了之後便對我說：
你怎麼這麼粗心大意呀？你不知道公家現在困難得很嗎？別說一塊錢，就是一毛、一分錢也來之不易呀！”