為了減少阻力，田中決定在他訪華之前，派遣以小阪會長為團長的自民黨代表團訪華。12日，田中會見小阪，表示了政府的希望和要求。自民黨代表團在小阪率領下於9月14日乘專機訪華，18、19兩日在北京與周總理進行了會談。
上述經緯表明，所謂調整自民黨內的意見，意味著對“台灣幫”做說服工作。
當自民黨內的意見調整大體完成，小阪率領的代表團正在北京訪問時，田中派出自民黨副總裁椎名悅三郎為特使率一班人，於9月17日飛抵台北機場。
椎名的使命是說服台灣當局。他在台北市受到幾百人示威隊伍的圍攻，蔣介石佯稱感冒，拒絕會見。椎名與沈冒煥“外長”和嚴家淦“副總統”等政要相繼會談，說明日本的困難處境，請求台灣當局諒解，但得到的回答卻是“堅決反對”日本恢複同大陸的邦交。
椎名此行雖未能說服台灣當局，但對田中來說，已算是盡到了禮儀。同時，田中看到自民黨內的不滿大體已解決，便同中國商定於9月21日上午10時（東京時間11時）在北京和東京同時發表如下公告：
日本國總理大臣田中角榮愉快地接受中華人民共和國國務院總理周恩來的邀請，將於9月25日-30日訪問中國，談判並解決中日邦交正常化問題，以建立兩國之間的睦鄰友好關係。
與此同時，內閣官房長官二階堂進發表了如下談話：
田中總理訪華最重要的目的是，通過同中華人民共和國政府首腦舉行會談，使長期以來處於不正常狀態的日中關係正常化。政府希望在日中之間建立起和平、友好的關係，成為好鄰居。為此，首先必須實現日中邦交正常化。
日中兩國對亞洲乃至世界的和平均負有巨大責任。如果田中總理訪華和日中首腦會談的結果能在日中兩國間奠定建立睦鄰友好關係的基礎，將有助於緩和亞洲緊張局勢，有助於世界和平。
日中邦交正常化，是為了使我國同一衣帶水、且曆史關係深遠的鄰邦中華人民共和國的關係，成為通常的國與國之間的正常關係，是理應采取的措施。
政府在實行日中邦交正常化時，將充分考慮我國同各友好國家的關係。
田中總理訪華時，大平外務大臣、二階堂內閣官房長官將陪同前往，另有49名隨行人員。
田中總理預定9月25日-29日在北京逗留，29日離北京去上海訪問，30日離上海回國。
9月22日上午，田中比往常提前一小時召集內閣會議，決定訪華期間由三木武夫任代理首相，中曾根康弘任代理外相，本名武任代理內閣官房長官。之後，田中拜訪皇宮，就訪華事上奏天皇，還走訪前首相佐藤榮作、石橋湛山，召見前外相福田赳夫，要求他們對其訪華給予“理解與合作”。
同日，田中還通過日本廣播協會（NHK）電視台向全國再次表明了為實現日中邦交正常化而訪華的決心。他說，“要以國民輿論為背景，通過日中首腦會談，打開恢複邦交的大門”，又說，“如果中國方麵在首腦會談中提出經濟合作的要求，就要響應”，表示日本“不打算做外國人過去稱呼的那種‘經濟動物’，真正有助於整個中國的經濟合作，才是可取的”。他還表示信念說，“我們全體亞洲人應當聚在一起，為了亞洲人而一起作出安排，一起加以貫徹執行，這樣一個時代正在到來”。
同日晚上，田中與日本經濟團體聯合會會長植村甲午郎、新日本製鐵公司董事長永野重雄、經濟同友會代表幹事木川田一隆、日本經營者聯盟代表理事櫻田武等財界“維新會”（支持田中的財界組織）巨頭聚會。田中在會上說：“日中邦交正常化存在著台灣這個難題，可我不能不去努力解決它。我估計訪華歸國後會有一些人提出種種批評，不過，我已經做好了精神準備。”
據日本報紙後來報道，田中在下決心訪華時，曾對大平外相述懷道：“喂，大平君，我們搞這個問題，不知會怎麼樣。反正人是要死的，要死就一塊兒死吧，我是有這個準備的。”
23日，田中在東京一家飯店約見前首相岸信介，同他進行了半小時的談話。在此之前，田中拜謁了日本著名政治家鬆村謙三陵墓，向這位生前力主恢複日中邦交，並為中日民間友好往來做出卓越貢獻的先輩的在天之靈報告他即將訪華的消息。
24日，田中在踏上具有偉大曆史意義的旅途的前夕，為有意輕鬆一下，7時才起床，比平常整整晚了兩個小時。他照例入浴後，簡單地用過早餐，信步走到門前，仰望著半陰半晴的天空，自言自語道：“台風好像偏過去了。”顯出放心的樣子。他想到這些天為準備訪華的勞累，不禁脫口說道：“今天可要好好休息一下……”
8時許，他穿上運動服，輕裝走出家門，前往高爾夫球場。途中，他去另一位日中交流的先驅高石奇達之助先生的陵墓獻了香。他佇立墓前，表情嚴肅地注視墓碑，想到恢複日中邦交的重大使命如今擔在自己肩上，心中湧起萬千感慨。
田中來到小金井郊區俱樂部時，等候著他的一群記者立即圍攏上來。田中要求記者不要提起“中國”，說“今天不要那麼吵鬧”。但是，在進午餐時，他自己卻憋不住提起話頭，說：“報紙上說我隻吃日本飯，那是瞎說。我什麼都吃。但要帶上梅幹。”於是，關於訪華的話題頓時熱烈起來。“熟悉的地名很多，還是離得很近啊！”“在上海和周恩來總理一起吃飯吧。”……他指著滿是汗水的頭，告訴記者，這次訪華要帶一把扇子，說：“天氣雖然涼爽，但頭也許要冒汗的……”
傍晚，田中剛回到東京目白的家，十來個選民代表就趕來鼓勵。田中咬緊嘴唇回答說：“一定努力。”
當天晚上，田中同夫人花子和女兒真紀子等全家人團聚，吃著肉卷和燉菜。田中讓他特別疼愛的小外孫雄一郎坐在自己身旁，用筷子夾菜喂他。看田中那副表情，他似乎忘了明天即將去幹一番大事業。
但他心裏到底還是裝著一樁大事，推了飯碗，就伏案讀書去了。這是他為訪華閱讀的書。這些書是：
《2001年的中國》韓素音著
《周恩來——中國幕後的傑出人物》許芥昱著
《中國經濟入門通俗本——八億人口的市場和經濟結構》尾上悅三著
《周恩來談日本》米穀健一郎編
《毛澤東，他的詩與人生》武田泰淳、竹內實著
《日中問題》菅榮一等著
《開展中的革命外交》朝日新聞社編
《講座中國》野原四郎等著
《中國之旅》本多勝一著
《在華日軍》本多勝一著
《你好，中國話》香阪順一、新井寶雄著
《美中接近》R·斯卡拉比諾等著
《中國手冊》岩村三千夫、齋藤秋男編
《中國要覽》時事通訊社編
《中國指南》（編者不詳）
據田中的秘書透露，一些日子以來，田中晚8時半就寢，淩晨一二點鍾就起床，趁著家人熟睡的時刻挑燈看書，一直讀到四五點鍾，完全跟考大學的學生一樣用功。他不僅設法了解中國情況，還了解毛主席、周總理和姬鵬飛外長的經曆，甚至對他們的生活習慣和舉止特征也研究了一番。