張克輝在福建省工作40餘年中，不論是在省僑辦、台辦、台聯、台盟還是省委統戰部、省政協，都與對台工作密切相連。他都致力做好對台工作，為祖國統一大業服務。他在1989任省委常委、統戰部長期間，有一次來到泉州，與各民主黨派、有關人民團體負責人就如何發揮統戰部門的優勢，進一步做好統戰工作進行座談，強調要最大限度做好僑台港三胞的聯誼工作，為福建經濟的發展和祖國統一大業作貢獻。
1987年10月，作為黨的十三大台灣省代表的張克輝赴北京出席十三大，他和其他兩位十三大台灣省代表在人民大會堂會見中外記者。有記者問，如何估價十三大對和平統一的影響，張克輝說，十三大後將深化改革，發展有中國特色的社會主義，人民生活也會越來越好，這將對祖國和平統一產生積極影響。
20世紀90年代初，張克輝調任國務院台灣事務辦公室副主任。在1991年5月15日閉幕的第四次全國台灣同胞代表會議上，張克輝以全票當選全國台聯新一任會長。張克輝對《華聲報》記者說，台聯會在島內、海外有許多老朋友，無論是協助台胞來大陸投資經商，還是推進兩岸關係的發展，都有許多獨特的優點。
1991年12月，張克輝會長在《台聲》雜誌第12期發表題為《回顧與展望——紀念全國台聯成立十周年》的文章，指出全國台聯成立10年來，為兩岸搭橋鋪路、穿針引線，排憂解難，辦了許多實事，台聯會成為溫暖的“台胞之家”，台聯工作人員都為祖國統一大業而盡力。大陸台胞始終以滿腔熱情投入現代化的建設事業，為祖國統一、為中華騰飛默默奉獻。
在1995年5月舉行的第五次全國台灣同胞代表會議上，張克輝再次當選為全國台聯會長。他對新華社記者說，4年來各級台聯發揮自身優勢，不斷擴大與台灣島內、海外及港澳地區台胞的聯係，在兩岸經貿交流中也發揮了特殊作用。他說海峽兩岸關係在曲折中向前發展，但島內分離傾向有所抬頭，各級台聯要加強各方麵的工作，聯絡兩岸人民的感情，為祖國統一的偉大事業做出新的貢獻。
1997年11月，在台灣民主自治同盟第六次全盟代表大會上，擔任全國台聯會長兼海峽兩岸關係協會顧問、台盟中央常務副主席的張克輝，當選為新一屆台盟中央主席，張克輝在接受《人民日報?海外版》記者采訪時說，台盟的任務是增進兩岸同胞的交往與聯係，反對分裂祖國和“台獨”傾向，反對外國勢力幹涉中國內政，維護台胞的根本利益和合法權益，促進祖國統一大業的實現。
在擔任台盟主席期間，張克輝始終致力於祖國和平統一的事業。2000年5月9日，“兩岸關係研討會”在廈門召開，身為全國政協副主席、台盟中央主席的張克輝，專程趕來廈門出席研討會，並在會上講話指出，海峽兩岸同宗同文，台灣的倫理觀念、民間信仰以及風俗習慣與大陸相同。我們中華民族兒女共同創造的五千年燦爛文化所產生的凝聚力和親和力，將成為和平統一的基礎，他呼籲海峽兩岸的同胞團結起來，為了祖國的完全統一和中化民族的偉大複興而共同奮鬥。
在2002年12月3日召開的台盟第七次全盟代表大會上，張克輝再次選為台盟第七屆中央主席。他領導台盟繼續貫徹黨的對台工作方針，推動盟員和所聯係的台胞，致力於祖國的建設事業，反對“台獨”，為祖國統一大業做出新的貢獻。