1947年2月下旬，人民解放軍華東全境部隊整編，撤銷華中野戰軍番號，成立華東野戰軍，所屬部隊統一編為12個縱隊。新10旅編入第12縱隊，改為35旅，覃健調任縱隊副司令員，謝振華任縱隊副政委並兼任35旅政委，汪乃貴任35旅旅長。
為策應華中、中原戰場上的華東野戰軍主力作戰，35旅於3月19日一舉拔除了東（海）、灌（雲）、沭（陽）三縣邊區敵占區中心據點，切斷了敵重要補給線，重新打通了蘇魯通道，扭轉了戰局。為開展淮海區反“清剿”鬥爭，35旅在34旅兩個團配合下，於5月發起淮沭路攻勢，連克胡集、錢集、徐溜等據點，殲敵600餘人，控製了北起沭陽十字橋、南至淮陰五裏莊路段，迫使湯溝、溝間、西馬屯據點之敵先後逃竄，收複了失地，保護了當地群眾麥收。
5月底至6月中旬，12縱隊又攻克灌河南岸重鎮響水口和大新集，粉碎了敵人對鹽阜區北部的“清剿”。僅半年時間，12縱隊淮海地區共作戰3300多次，殲敵7600人，繳獲機槍40挺，小炮10門，槍2000餘支，攻克敵據點40餘處，摧毀敵區、鄉政府49個，恢複失地和擴大新區4000多平方公裏，爭取回歸分子1萬餘人。8月到12月，12縱隊還先後進行了鹽城、益林、李堡等戰役，殲敵2.4萬餘人，恢複了蘇北廣大地區，改變了蘇北地區的鬥爭形勢。
1948年3月，華東野戰軍以第2縱隊、第11縱隊和第12縱隊組成蘇北兵團，由韋國清任司令員，姬鵬飛任政委，覃健任參謀長。調整後的12縱隊由謝振華任司令員，李幹輝任政委，率部進抵兗州擔任阻擊徐州之敵北上的任務，配合山東兵團取得了濟南戰役的勝利。
濟南戰役勝利結束後，10月9日華東野戰軍在山東曲阜召開了師以上幹部作戰會議，傳達中共中央和中央軍委關於“目前形勢與淮海戰役的作戰方針”。謝振華等率領12縱隊參加了淮海戰役。淮海戰役第一階段要殲滅的主要敵人是黃百韜兵團。黃兵團是蔣介石的嫡係，裝備好，戰鬥力強，5個軍11個師在徐州以東至海州沿線嚴密布防。華東野戰軍首長決心投入主力在碾莊圩圍殲黃兵團主力。12縱隊、2縱隊和中原野戰軍11縱隊，由蘇北兵團指揮，自夏莊、贛榆地區南下，擔負圍殲黃兵團在阿湖、商潭溝地區的部隊。戰役一開始，山東兵團所屬各部隊，首先從北向南切斷黃兵團西退後路。
12縱隊受領任務從東北插入阿湖鎮、新安鎮地區，切斷徐州至海州的鐵路，阻擊敵人向徐州靠攏，配合主力分割圍殲黃兵團五個主力軍。謝振華、李幹輝立即對部隊進行戰鬥動員，使廣大指戰員充分認識擔負切斷黃兵團西退後路任務的重要意義。
為了檢查戰鬥準備的落實情況，謝振華親自跑到35旅所屬各團察看，他還深入到連隊指導戰前的準備。11月6日夜，12縱隊和第2縱隊、中原野戰軍11縱隊一起，在同一個方向上發起進攻。12縱隊35旅主攻紅花埠，得手後向西再攻新安鎮；36旅直取阿湖。35旅先頭部隊接敵不久，正在師指揮所的謝振華接到報告：當麵之敵出現混亂狀態。謝振華當機立斷，乘敵混亂之機，果斷命令部隊迅速占領阿湖、新安鎮，控製鐵路線。
果然，戰鬥發展順利，部隊以迅猛的速度攻占了新安鎮至阿湖地段的鐵路。戰鬥進行了三天，敵人被華東野戰軍各進攻部隊打得建製混亂，節節敗退。9日以後，12縱隊控製了阿湖到新安鎮地段，有效實施了攻點打援的作戰計劃。黃兵團63軍主力被逼向西撤退。
這時，謝振華馬上打電話要求35旅和36旅兩個旅長：要利用有利時機，從阿湖與新安鎮之間向敵兩翼發動進攻，切斷海州至碾莊之間的聯係，阻敵63軍西撤與黃兵團部靠攏。在12縱兩個旅的阻擊下，敵63軍被迫向西南方向潰退，被兄弟縱隊圍殲在窯灣地域。11月19日，12縱隊隨華東野戰軍主力，對碾莊圩的黃兵團主力再次發起進攻，至22日夜間，將其全殲，並擊斃兵團司令黃百韜。圍殲戰的後期，野戰軍司令部命令12縱隊火速南下，經宿遷、睢寧、大三集、張集向徐州東南地區急進，脅迫徐州，並從南向北側擊由徐州東援之敵。
根據野戰軍司令部和兵團部下達給12縱隊的任務，謝振華向各旅布置作戰任務時，著重強調了打下徐州機場的重要意義。他指出：徐州機場是杜聿明集團同南京蔣介石總部聯係的一個重要途徑，打下徐州機場就能迫使徐州同南京的聯係中斷，把敵人從南京向徐州輸送戰爭物資的線路破壞掉，切斷敵空援通路，而且可以動搖敵人固守徐州的決心。35旅奉命接受突襲徐州機場的任務後，先以小分隊展開襲擊活動，打擊機場的守備部隊。
1月26日，35旅105團在敵人毫無覺察的情況下，隱蔽摸進了徐州郊區敵機場。敵機場空勤人員寥寥無幾，主要指揮官逃離機場，徐州國民黨軍總司令劉峙已逃走，副總司令杜聿明下令突圍。謝振華緊緊抓住這一有利戰機，立即派出偵察分隊確實弄清敵人的動向，並將敵情報告野戰軍司令部張震參謀長。與此同時，他不失時機地向部隊發出了出擊命令，向突圍之敵猛攻。當謝振華指揮部隊進抵蕭縣和永城之間的公路兩旁時，當麵之敵恰是杜聿明總部的自屬隊。敵人不堪一擊，眨眼間，被俘數百人，重炮、汽車等戰備物資均被繳獲。由於華東野戰軍多路縱隊的包圍和阻擊，杜聿明30多萬軍隊突圍成泡影。
12月2日，12縱隊迂回到大回村、五戶張集一線，又遇敵李彌兵團的部隊企圖向西突圍，謝振華指揮部隊予以沉重打擊，殲敵千餘人，堵住了敵西逃永城的通路，為華東野戰軍主力繼續圍殲杜聿明集團創造了有利態勢。
從1948年12月4日起到1949年1月10日的30多天，華東野戰軍主力從四麵八方向徐州突圍之敵緊縮包圍圈，12縱隊則從蕭縣以南轉到青龍集、李石林、陳官莊以北地區，和兄弟縱隊一起，把杜聿明集團全部合圍於狹小的地域。這時，敵黃維兵團已被中原野戰軍殲滅，杜聿明集團成了“甕中之鱉”，在廣播毛澤東主席《敦促杜聿明等投降書》遭拒絕的情況下，華東野戰軍主力於1949年1月6日下午，向杜聿明集團發動了總攻。
12縱隊作為總攻部隊之一，在夏岩、夏莊地區，對國民黨五大主力軍之一的邱清泉第2兵團主力新5軍展開進攻。36旅從夏岩西北麵投入戰鬥，35旅配合華東野戰軍1縱隊攻打夏莊。36旅執行命令非常堅決，不惜犧牲，運用機動靈活的戰術，發揚勇猛頑強的戰鬥作風，於1月7日晨前打下了夏岩，殲滅了新5軍一個團。在夏莊，35旅以103、104團配合1縱隊於6日發起攻擊，僅用一天時間，打了一個殲滅戰，殲敵1000餘人。這時，敵李彌兵團部向北突圍，正好落入12縱隊布下的口袋，由李彌親自帶領的1100多人的軍官教導團，除李彌逃跑外，其餘全部被俘。華東野戰軍經過四晝夜激戰，1月10日全殲了杜聿明集團。
根據中央軍委實行全軍統一編製番號的指示，華東野戰軍於1949年2月初，在徐州東北的賈汪召開了縱隊以上幹部會議，傳達中央軍委的整編指示和南下作戰的行動部署，會上宣布12縱隊改稱中國人民解放軍第30軍，謝振華任軍長，李幹輝任政委，饒守坤任副軍長，夏光任參謀長，劉仲華任政治部主任。會後，謝振華等率領部隊南進，準備渡江作戰。
1949年4月21日，中國人民解放軍發起了百萬雄師強渡長江的偉大戰役。30軍在蕪湖對岸以北突破長江天險防線後，由軍政委李幹輝和副軍長饒守坤率兩個師，隨兵團主力向東追殲逃敵。謝振華奉命在蕪湖市擔任軍管會主任，率軍直屬機關和一個師，負責清查殘餘敵人和蕪湖市的治安工作。不久，第2野戰軍第10軍軍長杜義德帶領部隊來蕪湖市接替，謝振華率所部繼續南進，到嘉興平湖地區，與先行南進的兩個師會合，積極進行解放上海的準備工作。
遵照第3野戰軍首長的指示，在上海戰役中，30軍擔任向上海守敵側後實施迂回的作戰任務，截斷上海守敵從浦東向海上逃竄的要道，為進攻市區部隊全殲上海守敵創造有利條件。
5月10日，兵團司令部發布作戰令，30軍為迂回作戰的第一梯隊，5月16日24時前攻占川沙、白龍港地區。謝振華和李幹輝馬上召開各師師長、政委會議，決定88師、89師為軍的第一梯隊，由謝振華帶精幹指揮所隨行指揮。
5月13日下午4時，第一梯隊兵分兩路，由平湖出發，沿公路、海堤向川沙、白龍港急進。時值梅雨季節，道路泥濘，部隊行進艱難。謝振華棄馬步行。軍長和大家一樣步行，廣大指戰員深受鼓舞，使他們更加堅定了勝利的信心，不顧一切疲勞，你追我趕，奮力前進。兩天不到的時間，部隊經金山，奪奉賢，取南彙，邊走邊打；掃除小股敵人的阻撓，行軍200多華裏，終於比野戰軍司令部規定的期限提前一天趕到川沙以南的江家路鎮。謝振華不顧勞累，迅速看過地形，他還從戰俘口中了解到，敵51軍已於前三天進駐川沙、白龍港地域，現正忙於作頑抗準備，川沙城裏隻有不足千人的敵軍和地方土頑部隊。經過深思熟慮，他乘守敵設防薄弱之機，當即命令89師先頭部隊265團直撲川沙。守敵猝不及防，驚疑飛兵天降，頓時陷於混亂，被殲700餘人，倉皇放棄川沙縣城。