毛澤東很快便作出了決定：同意在中國境內整編越軍。
進入中國的越軍將分為兩部分，進入雲南文山地區的308師，由中國人民解放軍第13軍負責整訓；越軍的另一支主力部隊――174團和209團，開入中國廣西龍州，由廣西軍區整訓。
與此同時，毛澤東在中南海裏，為組成軍事顧問團入越，協助越軍作戰的事宜，與中央軍委的其他幾位領導進行討論。
“朱老總，你看由誰來擔任此次入越援助的領導？”毛澤東見開會人員到齊後，便直接向總司令朱德發問。
“這次入越的情況比較複雜，必須是一位軍、政皆熟的人。”朱德靜靜地坐在那裏，表情十分嚴肅。
“不錯！”周恩來接過了話說，“這不僅關係到越南人民是否能夠戰勝法國殖民者的問題，而且還關係到新生中國能否立足於世界強林之中。誰去，我們必須慎重考慮一下。”
“恩來說的不錯，此人必須得慎重慎重再慎重。”毛澤東理了理頭發說。
“我與恩來同誌商量了很多次，一致決定讓原第三野戰軍十兵團政委韋國清來擔任。”朱德說。
“韋國清嗎？22年前與鄧小平、李明瑞、張雲逸他們一起參加百色起義的，又進過紅軍學校學習，還參加白塔埠戰役、萊蕪戰役、孟良崮戰役、淮海戰役和上海戰役，在軍、政方麵確有一定才能。”毛澤東說。
“主席真是好記性啊，多少年前的事都記得一清二楚。”
“這叫做知彼知己，方可做到百戰不殆。”毛澤東哈哈一笑道。
“韋國清現在是否在北京，我要立即召見他，與他探討一下。”
“他在北京，本來準備讓他到外交部任職，故此將他調至北京，至於具體是什麼工作，還沒有定下來。”周恩來說。
“我看……”毛澤東看了看眾人，停頓了片刻說，“以第二、三、四野戰軍各抽調一個師的全部幹部參加赴越軍事顧問團。”
眾人聽後都默默地點了一下頭，等待著毛澤東繼續講下去。
“再由第三野戰軍調集幹部組成顧問團團部班子，由第四野戰軍抽調一個軍事學校的班子擔任越軍軍事學校的顧問。”毛澤東又作了進一步的部署。
“朱總司令，你還有什麼要補充說明的嗎？”周恩來見毛澤東說完了，便把目光轉向了朱德。
“讓西北、西南、華東、中南軍區和軍委炮兵司令部，各抽調營以上幹部13名，參加軍事顧問團，擔任越軍高級指揮機關和部隊的顧問，或助理顧問。”朱德說。
隨即，中國大陸上的電波頻頻從北京呈發射狀四處散開。
越308師編訓中國境內
第三野戰軍負責人和韋國清商議後作出決定，由在南京的華東軍政大學第三總隊首長組成顧問團團部。這個總隊的隊長和政委、政治部主任三人，按照韋國清的指定，分別由梅嘉生、鄧逸凡和李文一擔任。
一紙紙調令，使剛剛拂去了解放戰爭征塵的上百名師、團、營級軍官迅即離開了各自熟悉的崗位，集合起來，向南方那個多少有些陌生的經緯走去。
就在軍事顧問團迅速組建之際，在中越邊境上，整訓越南正規部隊的工作也在緊張進行著。
按照中央軍委的命令，滇桂黔“邊縱”司令員、雲南軍區副司令員莊田趕往硯山，會同第13軍幹部整訓越軍。
為了能使越南人民盡快趕走法國殖民者，中央軍委責成第4兵團第13軍負責，向進入雲南的越南部隊提供全套最新裝備。要求“凡是國民黨統治區兵工廠製造的武器一件也不給越軍，要給，就給全套美式裝備”。
第13軍軍長周希漢接到中央軍委和毛澤東主席的命令後，立即全身心地投入到工作中，他連續一個星期挑燈夜戰，擬定了整訓越南部隊的方案。
越南西北戰區負責將領王承武、雙豪先期來到雲南開遠我第13軍軍部，和周希漢軍長商議越南各部隊分批開進雲南的具體安排。
經過數輪會商之後，雙方議定：越軍各個戰鬥單位在中國集結，集結完畢一批即從麻栗進入中國境內；開進部隊的掩護問題，以清水河為界，以南由越南部隊負責，過河之後即由中國人民解放軍負責安全警戒。
至於整訓地點應該在哪裏？越方與中方發生了分歧，越方提出在麻栗坡式在麻栗坡後50餘公裏的文山縣城。但是，周希漢軍長對越方提出的兩個地點都認為較為不妥。他指出：麻栗坡一來距離邊境太近，二者縣城地處山溝；文山縣有我軍一個團在那裏執行剿匪作戰任務，不便於軍隊訓練。最後，越方同意周希漢軍長指定的整訓地點硯山縣。
遵照周希漢軍長的命令，設在硯山的第13軍隨營學校數千人於5月初搬遷到滇中彌勒縣，騰出房子讓給即將開進的越南308師。周希漢帶領一批幹部和電台人員緊接著就到了硯山。
從5月7日開始，越南部隊按照事先確定的路線由越南河江省進入雲南，越軍在麻栗坡縣邊境老山下的清水河兩岸，把各種槍支放在河岸上，然後徒手進入中國境內。因為越方提出，他們還缺乏武器。於是我方即表示，凡是他們需要的槍支都帶到清水河放下，然後運回越方根據地使用。徒手進入中國的越軍在硯山領取全套裝備。
可惜的是，越軍的第36團被法軍隔斷在河江三角洲地區，未能來到雲南整訓。
跨過國境線，越南部隊進入剛剛結束了戰爭的和平土地，他們再也不必專揀夜間行軍，也不必擔心法軍直升飛機突然出現在頭頂上。
對於越南的這支“兩廣縱隊”，飽受戰火和法西斯蹂躪的中國人民給予了極大的熱情和支持，雲南當地的百姓沿途簞食壺漿相迎，並舉起了無數歡迎的大幅標語。
這支“兩廣縱隊”衣衫襤縷，絕大部分人赤裸著兩腳，麵色蒼白。可是，他們一到硯山頓時變了樣。
“兩廣縱隊”按照班的編製走進排好的房子，裏麵是已搭好了的12個鋪位，鋪位上掛著蚊帳。12支槍排列在門邊，其中10支步槍、兩支衝鋒槍，還有嶄新的軍裝……
6月初，除了36團以外，預定的越軍各個戰鬥單位都來到了硯山，越南人民軍的第一個主力師――308師（大團）在中國雲南省硯山縣正式編成了。
中國人民解放軍第13軍抽出一個師的連以上幹部整訓越軍。主要內容是班、排、連、營規模的進攻戰術訓練，單兵技、戰術訓練，以及抵近爆破、埋雷、設障，用迫擊炮拋射炸藥包摧毀敵工事的戰鬥技能訓練。
越南官兵對迫擊炮拋射炸藥包特別感興趣，認為適宜在越南戰場廣泛使用。後來的戰爭果然用上了這一戰法，成為摧毀敵軍機場飛機和一些非永固性目標的最適用的戰法。
中國人不僅為前來整訓的越軍第308師裝備了全副美式輕武器，而且還提供了12門山炮和充足的炮彈，幫助越軍建立起一個完整的山炮營。
為此，周希漢軍長命令該軍的山炮大隊開赴硯山，從大隊長（營長）到連、排長、瞄準手、馭手，一個對一個地手把手散練。最後又把拉炮的騾馬一起交給越軍，這些騾馬都算得上是久經沙場的“老將”了，全部是從北方轉戰千裏來到雲南邊疆的。
事實上，向越第308師提供的裝備之精良遠遠超過了中國軍隊。他們得到了10門五七式無後坐力炮，乃是解放戰爭後期重慶兵工廠的最新產品，中國軍隊還沒有用過便先裝備了毗鄰之邦。
援越顧問團受命頤年堂
中南海頤年堂，畫棟雕梁。
中國援越軍事顧問團師以上幹部，部分團級軍官和機要人員約40人，在6月30日的下午，早早地來到這裏，等待中央領導接見，授予任務。
偌大的頤年堂裏空蕩蕩的，沒有沙發，沒有地毯，什麼擺設也沒有，屋子一頭擺著兩張木桌上連茶水香煙也沒有。桌前擺了幾十張椅子和凳子，使得整個頤年堂變成了簡陋的會議室。
惟一留在頤年堂的便是掛在牆壁上的清代宮廷字畫古跡，那些有文化的軍官們便乘機移到牆邊看了起來。
“首長來了。”不知誰輕輕地說了一聲，眾人立刻返回到各自的座位前站好。
朱德總司令第一個進來了，隨後是劉少奇和夫人王光美。
眾人中不管是否相識，大家全報以了熱烈的掌聲。
劉少奇、朱德先和站在門口的韋國清、梅嘉生、鄧逸凡握手寒暄，然後拉著他們走到屋子正中的桌前一齊坐下，接著，大家也分別坐了下去。
稍頓了一下，劉少奇又站了起來，點頭向大家致意說：
“今天請諸位到這裏來，要談什麼大家心裏都明白。本來毛主席、周總理都一起要和大家見見麵的。”
在這40多人中，有相當一部分人還沒有親眼見過毛澤東和周恩來，他們本想借此機會一睹二位偉人的神采，聽了劉少奇的一席話，心中頓時有一種惋惜之情。
“由於朝鮮已經打起來了，情況你們也都看了報紙，總之，情況很緊張，怕帝國主義插手，因為這關係著朝鮮的命運，也關係到我們國家的安全。所以中央很關心朝鮮的局勢，忙得很。主席這幾天很操勞。他是夜間工作，白天睡一會兒覺，現在他正在休息，我們就不打攪他了。周總理現在忙著開會，也不能來了。那麼就由我和朱總司令來和大家談談吧。”劉少奇穩重地說，“怎麼談？是座談吧，是不是請大家先談談，有什麼問題，有什麼看法，都可以提出來。”
屋子裏靜悄悄的，沒有人發言。劉少奇轉向朱德說：“總司令，你先說說吧。”
“副主席先說吧。”朱德十分謙虛地對劉少奇說。
劉少奇點點頭，又一次問道：“聽說有的同誌不願意去越南，不願意離開祖國到那裏去工作。是嗎？是什麼原因呢？可以提出來談談嘛，有話就直說，如果理由正當。可以考慮不去。”
沒有人說話，因為大家都是願意去越南工作的，還充滿了一種從未體驗過的新鮮感。在顧問團組建過程中隻有一兩個人提出過不想去的意見。