在63軍占領竇家山前後，各兄弟部隊也都勝利完成作戰任務。一日之間，敵人設置的蘭州天險被全線突破。“馬家軍”總指揮馬繼援(馬步芳之子)驚恐萬狀，倉促下令連夜向黃河以北撤退，因上下都毫無準備，陷入一片混亂。這時，鄭維山接到187師報告，發現十裏山守敵逃跑，他立即命令188師火速追擊，搶占東關。軍前指和187師主力亦進至東崗鎮。當晚，先頭部隊與已占領黃河鐵橋的第二兵團的部隊會合。此時，大部敵軍擁擠在黃河岸邊，車馬人員亂作一團，很快被第一野戰軍殲滅。一部分企圖泅水逃跑的敵人，全部吞沒在滔滔黃河水中。蘭州宣告解放。稱霸西北的馬步芳主力部隊喪失殆盡，從而為第一野戰軍迅速解放西北全境創造了條件。
蘭州戰役後，十九兵團奉命進軍寧夏，以63軍為先鋒。9月初，鄭維山率63軍北上，以兩個師為右梯隊，沿蘭寧公路進擊；一個師為左梯隊，沿黃河北岸推進。9月7日克靖遠，15日攻占景泰迫敵一個騎兵旅投降，16日在棗林堡、馬家灘等地潰敵一個師，殲敵兩個團，17日左右兩梯隊逼近中衛城。在人民解放軍強大壓力下，9月19日馬鴻賓率81軍起義，中衛解放。鄭維山率部渡過黃河繼續北進，直指銀川。20日，銀川國民黨守軍宣布接受和平條件，寧夏全境遂告解放。
當部隊進入銀川時，鄭維山登上城垣，仰望藍天，他以惡貫滿盈的“馬家軍”被徹底根除、西北大地即將全部解放，默默告慰西路軍的英烈們。
1950年，鄭維山升任十九兵團副司令員。1951年2月，他同楊得誌司令員一起率部入朝參戰。4月，十九兵團參加了第五次戰役，勝利地完成了誌願軍總部賦予的任務。之後，朝鮮戰場敵我雙方在三八線附近形成對峙局麵。7月，美、李軍被迫接受停戰談判，但無誠意，又發動夏、秋兩次攻勢，均被誌願軍粉碎。鄭維山在19兵團期間，主要是協助兵團司令員楊得誌開展工作和指揮作戰。
1952年6月，鄭維山調任誌願軍二十兵團代理司令員，為時一年又一個月，時間不長，但卻充分顯示了他智勇兼備的指揮才能。他到職後，冒著敵人的炮火親自察看了前沿各主要陣地，同大部分師團幹部及部分基層幹部和戰士進行了廣泛交談。他在深入調查研究的基礎上，對敵情、地形和部隊情況作了認真分析，形成了實施堅守防禦的基本設想。他認為，隻有以堅固陣地為依托，才可能對優勢裝備的敵人有效地實施堅守防禦。因此，他主張應首先在現有基礎上，進一步加強陣地建設，盡快形成以坑道為骨幹部，與塹壕、交通壕相連矽，大縱深的防禦體係，並加強物質儲備，確實做到能打能藏。他還依據誌願軍司令部賦予兵團的防禦任務，進一步明確提出了部隊作戰的基本要求：一是敵向我大舉進攻時，第1梯隊在縱深兵力、火力支援下，要堅守團的一線基本陣地，大量殺傷敵人，為2梯隊反擊創造有利條件，爾後經過反複爭奪，達到粉碎敵人進攻的目的；二是對小股敵人的襲擾，應視為送上門的禮物，要堅決組織反擊，力求全殲，不要滿足於把敵人打退；三是敵人不來，我應主動實施戰術反擊。他對這種反擊設想了三種打法：一種打法是抓一把，即對敵前沿利於我攻擊的敵人，采取速打、速殲、速撤的方法，抓一把就走。第二種打法是打敵反撲，即利用敵有失必反的特點，選擇敵適當陣地，攻占後迅速改造地形，集中優勢火力，大量殺傷反撲之敵，適時撤出戰鬥。第三種打法是固守陣地，即對改善我防禦態勢有價值的敵陣地，攻占後要與敵反複爭奪，堅決固守。以上三種打法，不論實施哪種打法，都要精心籌劃，周密組織，務求達成預定目的，決不打無準備、無把握、無便宜的莽撞仗。他認為，實現這些設想的關鍵，在於明確樹立積極殲敵的思想。因為歸根結底，隻有大量殲滅敵人的有生力量，才能鞏固與擴大我軍陣地，改變敵我的防禦態勢。
鄭維山的這些設想，得到了兵團其他領導人的大力支持，經過師以上幹部認真討論，在部隊中進行了深入的傳達貫徹，較好地統一了全兵團的作戰思想。隨後，部隊掀起了備戰熱潮，一麵加緊建設陣地，一麵由領導與群眾相結合，選目標，摸敵情，擬方案，練戰法，積極進行戰術反擊的準備。
1953年9月20日，二十兵團遵照誌願軍司令部的統一命令，發起戰術反擊。由於部隊思想一致，準備充分，戰鬥進展非常順利。作戰兩個月，奪敵陣地23處，打敵反撲400餘次，殲敵萬餘人。戰後，部隊鬥誌高昂，積極選點，紛紛請戰。鄭維山說服各級指揮員認真總結經驗，並親自深入部隊同指戰員們一起剖析戰例，總結攻擊目標與突破口的選擇、固守陣地打反撲、炮火使用與協同等多方麵的具體經驗。在各軍總結的基礎上，兵團專門召開師以上幹部會作了係統總結。通過這一由下而上的活動，提高了部隊反擊作戰的能力。之後，各軍都選了一些點，分別作反擊準備，一經批準，說打便打，打則能勝。反擊規模也由殲敵一個班、一個排，發展到殲敵一個連、一個營。敵人再不敢到誌願軍陣地來耀武揚威了。最終把前沿鬥爭的焦點推到敵方陣地上去了。中共中央和中央軍委對誌願軍這次作戰評價甚高。毛澤東形象地把這種打法稱做“零敲牛皮糖”的戰法。中共中央和中央軍委的賀電指出：“這種作戰方法繼續實行下去，必能製敵死命，必能迫使敵人采取妥協，最後結束朝鮮戰爭。”
1953年5月，為迫敵接受停戰協定，予敵以更沉重打擊，誌願軍司令部決定發起夏季戰役。戰役確定分三個階段進行：第一階段，主要是攻占敵前沿支撐點，為下一步進攻掃清道路；第二階段，奪取敵第一防禦地帶內營以上陣地；第三階段，拉直金城以南戰線，把我軍防線推到敵第二防禦地帶去。這裏值得特別一提的是，鄭維山提出了奪取883.7、949.2高地的大膽設想。該陣地地勢險要，設防嚴密，由敵一個加強團憑堅固守，與我陣地有深溝相隔，相距較遠，我炮火無法覆蓋。而且敵處居高臨下，可用炮火封鎖，阻我步兵接近。奪取敵占高地難度較大。鄭維山經多次勘察，主張大膽地在戰前把步兵潛伏到敵陣地前的密林裏，把炮火集結到敵我陣地之間，方可一舉奪取。他認為，在敵人眼皮底下潛伏部隊和集結炮兵，雖然是冒險之舉，但由於出敵不意，是很可能成功的。他認真檢查了執行這一任務的部隊的臨戰準備工作，會見了擔任潛伏的六個連和另兩個排的全體同誌。他看到潛伏部隊準備非常充分，士氣非常高漲，更增強了勝利的信心。
這次戰役，自5月13日開始，進展相當順利，至6月23日，即完成了第一、第二兩個階段的任務。其中奪取883.7高地和十字架山等戰鬥，都取得了完全勝利。戰鬥開始後，敵人還未弄清是從哪裏飛來這麼多炮彈時，我步兵已出現在麵前，敵軍頓時大亂，陣地很快被我全部占領。僅第二階段，二十兵團即殲敵4萬餘，擴展陣地約75平方公裏，將敵人的防線撕開了一個大口子，並徹底摸清了敵第一防禦地帶內基本陣地有團預備隊陣地的情況，為下一步進攻創造了極為有利的條件。
7月3日，鄭維山在兵團召開的作戰會議上，作了戰役反擊第一、二階段總結，提出了實施戰役第三階段計劃。在這之後，鄭維山奉調離開二十兵團到誌願軍司令部，準備回國。戰役第三階段即金城戰役，13日打響，二十兵團經一晝夜作戰，即達到戰役目的，肅清了金城以北之敵，拉直了金城以南戰線。
鄭維山在誌願軍二十兵團的這段戰鬥經曆，充分表明了他在運用毛澤東積極防禦的軍事思想上已有頗深的造詣。
1953年7月27日，以美軍為首的“聯合國軍”被迫在停戰協議上簽字。鄭維山於8月返回祖國。為表彰他的功績，朝鮮民主主義人民共和國授予他一級國旗勳章，一級獨立自由勳章。
1954年秋，鄭維山進入南京軍事學院戰役係學習。未屆期滿，翌年初奉調回京。主持中央軍委工作的彭德懷兩次要他出任華北軍區(後改為北京軍區)主要領導職務，他都陳詞自己政治水平低，難以勝任，願充當副職，協助能者進行工作。之後，他被任命為華北軍區副司令員。
1955年秋，鄭維山被授予中將軍銜，榮獲一級八一勳章，一級獨立自由勳章，一級解放勳章。
鄭維山一貫堅持從嚴治軍。他認為，搞好教育訓練及作風、紀律建設，是部隊平時提高戰鬥力的唯一途徑。因而，他對部隊、機關建設抓得很緊，要求幹部認真學習現代戰爭知識和科學技術。1964年他還親自參加組織部隊群眾性大練兵的開展。在林彪推行“突出政治”、批判“單純軍事觀點”的時候，他仍擁護和堅持羅瑞卿總長提出的“兩個不退”(即軍訓和生產不要退下來)的工作方針。
對華北軍區的設防，鄭維山更是不遺餘力，不論是20世紀50年代對東線設防，還是60年代對北線設防，都做了大量工作。尤其是對北線設防，從工程布局、勘察定點，直至施工、驗收和總結推廣經驗，他事必躬親。他為此踏遍了華北大地的山山水水，爬過了所有重要山頭。對全區主要坑道和其他戰備工程的位置、情況，他如數家珍，無不熟知。由於他精心籌劃，嚴格管理，華北軍區國防工程的進度、質量、節約、安全等，多年處於全軍的領先地位。
鄭維山擔任華北軍區和後來的北京軍區副司令員達14年之久，工作紮實，成效顯著，為機關、部隊建設和華北設防作出了重要貢獻。
在軍事和政治兩者之間，鄭維山的長處在前者。他有豐富的實戰經驗，有應付戰場複雜情況的膽識，有率領部隊克敵製勝的能力。相對來說後者卻不如前者，特別是對黨內的政治鬥爭，他既缺乏經驗又缺乏應付複雜情況的能力。他對這方麵的弱點從不諱言，常講自己的政治水平低。1955年他推辭不任軍區主要領導職務，也正是出於這種原因。但不幸的是，1966年發起的“文化大革命”，卻把他卷入了一場空前複雜的政治旋渦中去。他完全是憑著一個老共產黨員的政治素質，渡過了那段艱難的歲月。
“文化大革命”開始後，鄭維山被抽到周恩來總理和葉帥領導的首都工作組的警衛組工作，主要任務是維護首都安全和組織接見紅衛兵。他按照要求完成了周總理和葉帥交辦的各項任務。1967年1月，北京軍區政委廖漢生、司令員楊勇，被林彪、江青一夥相繼整倒。在事先未征求鄭維山意見的情況下，周總理代表中共中央和中央軍委宣布由他主持北京軍區工作。正值動亂之秋，他沒有再向總理提出異議。從此，他一麵工作，一麵挨整，步履蹣跚地渡過了近四年的工作時間，隨後被關押了整整八年。
他對這場“文化大革命”，從一開始就很不理解。尤其對於眾多老一代無產階級革命家和一大批領導幹部被整倒，紅衛兵抄家造反，社會秩序大亂，他深感不安。對於一向舞文弄墨的“四人幫”，遽然於黨和軍隊之上發號施令，他非常反感，甚至頂撞江青。江青要整倒調到廣播事業局不久的丁萊夫，鄭維山力保丁萊夫是好人；江青提出“文攻武衛”的主張，鄭維山不解地說：“文攻”我懂，若實行“武衛”，部隊的“五不”(打不還手、罵不還口等)該如何執行？公開表示不滿。鄭維山對於林彪“敬而遠之”。在他主持北京軍區工作期間，四次奉召晉見，都是偕其他領導人一同前往，他個人同這位“林副統帥”沒有任何往來。因此，林彪一夥把他視為篡黨奪權的障礙。林彪為此編造了“晉察冀山頭主義、華北山頭”的罪名，並用這種罪名大亂北京軍區三次。
第一次是在1968年“楊餘傅事件”之後，林彪大造“晉察冀山頭”和“華北山頭”的輿論，江青立即加以解釋，說什麼“華北山頭主義有曆史性”，“聶榮臻、羅瑞卿，還有楊成武、鄭維山、傅崇碧，都出在華北。華北是壞人當道”。於是，在聶帥主持工作的國防科委，在楊成武主持工作的總參，在鄭維山主持工作的北京軍區和傅崇碧主持工作的北京衛戍區，同時展開了大反“華北山頭主義”的運動。這次運動的目標，顯然是要把曾在華北工作的一批人一網打盡，而其中又把北京軍區當成“華北山頭主義的窩子”和“基礎”，所以用了很大的力量。在林彪指令召開的北京軍區黨委第十二次擴大會上，黃永勝、吳法憲、謝富治等全上陣，葉群在會外煽風點火，以後林彪、江青親自出馬，大鬧了50多天，終因毛主席和周總理出麵幹預，鄭維山才未被整倒。
第二次，在1970年底陳伯達反黨問題發生之後，林彪、江青又把“華北山頭主義”同陳伯達扯在一起。江青在華北會議上大放厥詞，說：陳伯達是華北山頭主義的“政治頭頭”、“太上老子”，華北山頭是陳伯達反黨的“後盾”，鄭維山是陳伯達的“武將”，陳伯達、鄭維山夥同反對林彪等等。這次終於改組了北京軍區，把鄭維山幽禁起來。
第三次，在1971年林彪事件之後，江青等把“華北山頭主義”又從陳伯達那裏拿來掛在了林彪的名下，說“北京軍區是林彪經營多年的山頭主義窩子”，鄭維山是林彪的“大將”等等。事後，鄭維山被逐出北京，解到安徽一個農場管製，直到粉碎“四人幫”兩年後才返回北京。
值得稱道的是，在那段艱難的歲月裏，鄭維山還是為人民做了些好事。他主張地方工作應由地方上的同誌去做，部隊支“左”人員應盡量“少派”、“快收”。1969年經周總理同意，他用辦學習班的方法，解放了地方廳局以上幹部數百人。後因被康生、江青指責為“沒有劉鄧的劉鄧路線”，學習班辦了3期，被迫中斷。在內蒙“挖內人黨”後，根據中共中央決定，1970年鄭維山率前指進駐內蒙，做了大量工作，經一年的時間，基本扭轉了局麵，穩定了內蒙的形勢。在粉碎“四人幫”後，鄭維山對“晉察冀山頭、華北山頭”的問題，多次向中共中央提出申訴。1979年中共中央根據他的申訴，經過認真調查，終於徹底平反了這一冤案。鄭維山也做過些錯事，說過些錯話。但是，根據由總政起草經中共中央和中央軍委同意的對他的結論，他在“文化大革命”中並無大過。
1982年底，鄭維山被任命為蘭州軍區司令員。這時他已年近古稀，但工作熱情不減當年，依然風風火火，馬不停蹄。為落實中央軍委的戰略方針，他帶領機關、部隊幹部3次勘察地形，跋涉於西北高原，行程7萬餘公裏，詳細修訂了西北戰區的作戰預案。隨後，他又組織了全區師以上幹部和團以上幹部的戰役戰術集訓，親自參加授課，多次組織現場研討，在戰役、戰術、工程建設上落實了作戰預案，統一了作戰思想，較好地解決了部隊平時訓練與未來作戰任務相結合的問題。
鄭維山積極執行中共中央軍委主席鄧小平關於軍隊協助西北地區搞好綠化、造福後代的指示。他造輿論、搞調查、訪專家，協同地方大搞綠化。在他任職期間，蘭州部隊無論是在營區還是幫助地方植樹種草，都有很大發展，西北人民把他和軍區部隊譽為綠色的使者。中央軍委綠化委員會工作組經過檢查，認為蘭州軍區的綠化工作“認識高，發展快，成績大，影響好”。
鄭維山在蘭州軍區工作了三年多，他勤勤懇懇的工作精神和紮紮實實的工作作風，給機關、部隊留下了深刻印象。他竭盡全力完成了一個老同誌的光榮使命。
1986年，鄭維山當選為中央顧問委員會委員。此時他正致力於總結作戰的曆史經驗。
半個多世紀以來，鄭維山在嚴酷的戰爭和坎坷的政治生涯中經受了鍛煉。複雜、豐富的鬥爭實踐，不僅使他增長了才能，磨煉了意誌，而且養成了優良的思想品質，突出的是：他無限忠於黨和人民的事業，對黨賦予的任務，一貫積極負責，全力以赴，戰鬥中不避刀斧，工作中不辭辛勞，幾十年兢兢業業，從不惜力，直至晚年，鬥誌依然不衰，他把自己全部的精力和智慧，都奉獻給了在中國實現共產主義的神聖偉業。鄭維山的政治品質是很高尚的，他謙虛好學，不謀高位，不務虛名，服從組織，尊重領導，對分內之事敢於大膽負責，果斷行事，對需要請示的問題不僭越職權。他文化程度雖低，但講求實際，善於體察情況，集中群眾智慧，重視總結經驗，他的才能主要得益於實踐中的刻苦汲取。他胸懷坦蕩，作風正派，對上級敢於提出不同意見，甚至據理爭辯，不畏權勢，不計安危，而對同誌以誠相見，光明磊落，不徇情麵。他對個人的缺點錯誤敢於進行自我批評，不加隱諱，因而所到之處，均能得到機關、部隊的信任。這是鄭維山在不同崗位上能夠作出較大貢獻的重要思想基礎。