從三八年初開始，日本正式派遣代表團，前往中國大陸，開始謀求雙方取消戰爭狀況，建立友好關係的和談。
然而我方對於中日和談設定了非常嚴正的先決條件。根據我國設定的條件，日本要想和我國進行正式和談，首先應該歸還我台灣和琉球群島等地區，否則我大軍將從即日起揮師北上，進入東北，徹底殲滅盤踞在我東北和遠東地區的日軍。
迫於我方的軍事和政治壓力，在雙方經過了一個多月的籌備性接觸和磋商後，日本帝國主義者中國做出了艱難的抉擇，同意了我國政府的先決條件。
並且同意日軍和日本僑民將在半年時間內撤離台灣和琉球群島地區，從三八年八月一日開始，又中華聯合政府恢複對台灣和琉球群島行使主權。
而我方也同意日本撤離已經被我軍圍困了半年多的青島地區五萬多日軍。
山本上台第一件事，就謀求將青島地區，以日本海軍陸戰隊為主的日軍撤離中國地區，對於盤踞在青島的這支日軍部隊，尋波早在華北會戰發展階段，就有考慮過安排第四野戰軍東兵團出兵圍殲。
後來由於華北會戰形勢發展大好，尤其是蘇日在北方正式交戰，尋波就停止了殲滅青島日軍的作戰計劃，而是改由第四野戰軍東兵團，對這部分日軍實行圍而不打的策略。
將這部分日軍整整涼在青島近半年，這部分日軍過得日子也可謂是苦不堪言。
由於日軍在青島處於絕對幾個兵營裏，處於絕對劣勢，因此既不敢對我軍發起攻擊，又沒法掠奪糧食補充。
部隊給養僅靠日軍海軍的一些船隻補充，而且還得看圍困解放軍的臉色才能夠不定期補充。
在淞滬會戰後，日軍對中國大陸已經失去了最後的妄想。這部分日軍再留在青島已經沒有了任何意義，要麼被人家剿滅，要麼向人家投降，其他沒有任何出路可言。
正是在此背景下，山本五十六才謀求通過外交和平手段，將這部分日軍順利的撤回國內。
而對於這部分日軍，雖然主席也很想消滅，可是在和尋波多次密議後，主席和軍委還是作出了對這部分日軍采取圍而不打的策略。
現在這部分被我軍圍困了多日的日軍，反倒成了我方手中一步妙棋。
在日軍正式承認我方提出的和談先決條件，同時承諾不得將這部分日軍調派到我東北和朝鮮地區後，我方也默許日本撤離青島地區的這五萬日軍。
山本五十六隨即從日本海軍艦隊調派一支運輸隊，在不安排護航的情況下，將駐守在山東青島的日軍海軍陸戰隊五萬多人緊急撤往遠東庫頁島地區，開始投入到了遠東戰場。
至此，中國領土上，原本被日軍侵占的土地上，除東北、朝鮮、台灣、琉球群島等地還駐紮有日軍外，已經再也沒有任何日軍存在了。
有了日本第一步承諾，雙方才開始了正式和談。
在我方的刻意控製下，這次和談從三八年開始一直談到了四二年，最終也沒能正式達成和談協議，不過倒是培養出雙方的默契起來。使得日本幾乎按照中國的意誌，在接下來的幾年中。走出了一步步為符合中國需求的棋子來。當然，這也是後話了。
尋波永遠是最忙碌的人，三七年底開始尋波就從皖南來到了蘇州，主持設在蘇州地區的新成立的國民黨軍隊改編委員會工作，在此之前，尋波被軍委任命為改編委員會主席。原國民革命軍副總司令馮玉祥、解放軍副總參謀長葉劍英被軍委任命為改編委員會副主席，原第三野戰軍參謀長左權、第三野戰軍政治部主任李樹彬被任命為改編委員會委員。
為了主持改編委員會的工作，尋波可謂是煞費苦心，加上殫精竭慮。加上當前中華聯合政府和日本和談的基調和談判策略，最總目標，基本上都是他和主席通過密議商定的。使得尋波恨不得自己能分身幾瓣，每一瓣都沒日沒夜的工作，這樣才能將這些事情所得更好些吧。
從三七年年底開始，尋波多次往返於蘇南和重慶之間。
幸好現在已經華東和重慶之間可以由飛機往返，使得他每次都可以乘坐專機，前往重慶。
因此也沒有耽誤多少時間，而且去重慶和主席等軍委大佬見麵，可不單單是商量對日方針，更重要的是關於當前蘇南地區的國民黨軍隊整編問題。
經過軍委大佬們反複磋商，最終確定了，將蘇南和南京周邊的地區的國民黨軍隊改編為解放軍第七野戰軍。
由於此番改編的重要性，軍委也實在想不出比尋波更適合出任第七野戰軍司令的人了，因此，尋波再次被臨時推到了第七野戰軍司令的位置上，同時軍委任命，解放軍副總參謀長葉劍英兼任第七野戰軍政治委員，原第三野戰軍參謀長左權出任第七野戰軍副司令兼參謀長，馮玉祥將軍出任第七野戰軍副司令，原第三野戰軍政治部主任李樹彬被調任第七野戰軍政治部主任。
從三七年年底開始，剩餘的國民黨軍隊近四十萬人，在蘇南地區經過了兩個多月的改編，到三八年二月底，終於全部改編完成。
在此之間，安排了第三野戰軍直屬部隊和南京地區國民黨部隊換防事宜。解放軍進入南京城，並沒有大張旗鼓地搞什麼入城儀式，而是分在幾個夜間，悄悄地實現了解放軍和國民黨軍隊的換防工作，等到南京城被第三野戰軍順利接手，城中老百姓也沒聽到多大風聲，受到多少影響。
這也為下一步順利改組國民黨減少了不少壓力。
為了順利改編這部分國民黨軍隊，軍委安排從當時雲集在蘇南、南京周圍的解放軍，第一、第二、第三三大野戰軍中抽調了大量的中、高級幹部和骨幹戰士，同時也將相當一部分國民黨軍隊的將士打亂重編到第一、第二、第三野戰軍當中。
在整編過程中，對這部分國民黨軍隊，任然堅持采用訴苦運動和三查運動相結合的新式整編方式來保持解放軍部隊的純潔性和革命性。