事實上，對於胡璉，共產黨也與他作戰多年，認為此人用兵比較謹慎實在，不打敵情不明的仗，一旦能打則是全攬，因此用兵的風格顯得狡滑多變。“淮海戰役”中國民黨１２兵團全軍覆沒，胡璉尚能率少部突圍，足見其機巧。對於此等忠心耿耿之士，蔣介石還是樂於重用的，故以手令形式令國防部：“予胡璉以名義，配屬三個軍，並於新到的美援武器中，撥足其三個軍的裝備。”胡璉奉令擔任第２編練司令部司令官，下轄第１０、１８、６７三個軍，並指定由浙江、福建兩省各撥新兵三萬人，江西補撥新兵一萬五千人。
胡璉在南京、杭州、南昌、武昌等處設置四個失散官兵收容站，收容１２兵團和其它部隊的失散人員，一月之間，約有八九千人投效胡璉，記有原18軍騎兵團3000餘人，11師突圍出來的幾百人，和18師尹俊師長帶出來的1000餘人，另有其他各軍師突圍出來的零散人員。共八九千人，遂編成第１１師，說起18師師長尹俊。這有必要給大家說說，這人才是真真的猛人。12兵團的高級將領：3位正副司令，4位軍長共七人就胡璉一個人幸運的突圍出來！12兵團：中高級少將師長級別的共11位，也是隻有一位突圍出來：他就是18師師長伊俊，屬於胡璉的嫡係手下，但他可不像他的長官胡璉那樣是幸運突圍出來的！人家可是真刀真槍一路拚殺，殺出一條血路突出來的，其勇猛如關老爺，過五關衝六將似的，一路突破我軍層層包圍圈，殺將出來，而且還帶出千餘心腹手下，彪悍程度可想而知。後來從組12兵團，他的人馬屬於骨幹力量，他的官運也不錯，以後步步高升，後來累積做軍長，兵團司令、台灣警備司令等職！胡璉又召集原來18軍的留守人員，加淮海戰役前打仗受傷出院的18軍傷病員，共計又有四五千人，胡璉拿這部分官兵完成其它各軍、師的幹部編組。到此時胡璉已有官兵1萬四五千之眾了。不過當他向浙江省主席周岩和福建省主席朱紹良要求調撥新兵時，兩人均稱愛莫能助，胡璉隻好到貧窮的江西征兵。1949年2月，胡璉被南京國防部任命為第二編練司令部司令，負責收集從長江以北潰敗逃至江南的官兵，並補充新兵。第二編練司令部設在江西南城，得到當時的省主席方天的許多幫助。不久，成立重建和督練第十八軍及第十軍。由高魁元、劉廉一分別任軍長。是年4月，解放軍渡江戰役開始後，代總統李宗仁要胡璉率部進駐大庾嶺，胡對李的命令陽奉陰違，按兵不動，暗中卻接受蔣介石的遙控指揮。5月中旬，南城解放。第二編練司令部改編為第十二兵團，胡璉任司令。