作為清流，往往隻會說高論，不能辦實事。張佩給就是一例。他在馬尾海戰中貽誤軍機，致使福建水師全軍覆沒。與一般清流不同，張之洞注重實際問題。1882年出任山西巡撫後，張之洞迅速改變自己的清流形象。他采取有力措施，整頓吏治，禁止鴉片，革除種種陋習，顯示出務實官僚的風姿。
張之洞看到其他一些省份通過舉辦洋務，實力大增，心中羨慕，有意效仿。這時，他讀到了英國傳教士李提摩太的“西化”方案。李提摩太在山西一邊傳播基督福音，一邊考察，看中了這個礦藏資源豐富的省份，企圖置之於英國勢力控製下。為此，他苦心積慮，提出了開礦、築路、興辦學校等具體設想。張之洞看罷，大感興趣，立即聘請他擔任顧問。李提摩太得到官方支持後，興致更高，公開在太原組織演講社。每月聚會一次，講演天文、地理及聲光化電等科學常識，使張之洞和山西士紳大開眼界。在李提摩推動下，張之洞在山西開始涉足洋務活動，逐步走上了興辦洋務事業的道路。
1884年，中法戰爭爆發。清政府遣派力主抗戰的張之洞出任兩廣總督，部署抗法事宜。張之洞籌措軍餉，購置槍炮，修築防禦工事。但在中法交戰前線，清軍將領秉承李鴻章旨意，妥協退讓，連連敗北。法軍乘勢進擊，入犯中國西南，廣西全省震動。戰況十萬火急，張之洞連忙上奏朝廷，請求起用素有威望、熟悉邊務的馮子材。為了抓緊時機，張之洞不等諭旨下達，先期派人攜帶餉銀5萬兩，懇請馮子材出山。馮子材年屆古稀，早已告老還鄉，息影田園，但看到張之洞言辭誠，切的急信，不由得感激萬分：“總督乃朝廷名流，竟能如此看重老朽！軍情緊急，我答應率師出征!”張之洞在後方給予馮子材全力支持，槍支、彈藥、軍餉源源不斷，使馮軍在鎮南關一戰中大敗法軍，扭轉了戰局。張之洞抗擊法國侵略的言行，博得了朝野廣泛的讚譽。
在戰爭過程中，張之洞第一次且大範圍地接觸了外部世界，他深深認識到，中國沒有海軍，槍炮供應不足，以致打仗時處處受製於敵。為改變這種狀況，張之洞創設槍彈廠，籌措槍炮廠，開設廣東水陸師學堂，另外籌辦織布局，開展一係列洋務活動，初試鋒芒。
1889年，張之洞離開廣東，抵達武漢，開始了長達10餘年的湖廣總督生涯，全麵展開建設，成為洋務運動晚期的代表人物。他創設實業、訓練新軍、興辦文教，聲勢浩浩。一時間，湖北成了全國注目的洋務中心，各省爭相效仿。張之洞政績顯著，洋務事業卓有成效，但也暴露出封建官僚專橫無知的一麵，鬧了不少笑話。籌建煉鐵廠時，他請駐英公使劉瑞芬買設備，聲稱要建一個既能煉鐵又能製造各種機器的工廠，遭到對方否定。按常規，購買煉鐵爐，需事先化驗煤、鐵的質地，然後才能確定使用什麼設備。可張之洞不以為然，不懂裝懂，口出大言：中國地大物博，無所不有，難道還用先驗煤鐵再買機爐？英國塞德公司知道張之洞是外行，隨便賣了一套設備，敷衍了事。在選擇廠址時，張之洞更是盲目指揮。李鴻章、盛宣懷及外國技師曾紛紛指出，鐵廠應建在臨近煤礦、鐵礦的地方，運輸便利，可以節省費用。張之洞偏不聽，他不從經濟角度考慮，隻求自己能控製鐵廠。他說：如果在武漢建廠，我還可以看到煙囪冒煙！於是，勘定漢陽縣大別山腳下一塊開闊地作為廠址。結果，煤炭和鐵礦石都要長途運來，費用昂貴，生產成本大大提高；生產的產品不合格，造成大量堆積，導致湖北煉鐵廠長期虧本。在今天看來，這真是一個沉痛的教訓，可見中國近代工業發展的道路是多麼艱難曲折。
張之洞可以在湖北辦洋務，發展成足與李鴻章相匹敵的地方實力人物，關鍵在於他善於隨機應變，頗能揣摸統治者的心裏，獲得慈禧、奕譞的支持和扶植。這一點，使他在19、20世紀之交撲朔迷離的政局中立於不敗之地。甲午戰爭慘敗，康有為鼓吹變法。張之洞開始表示支持，並請梁啟超到湖北宣傳，但當他發覺慈禧對維新持否定態度時，馬上抽身而退，拋出洋洋4萬言的《勸學篇》，反對變法。義和團興起，張之洞拒絕北上勤王，反而與劉坤一等策劃“東南互保”。但當八國聯軍侵占北京、慈禧出逃西安時，張之洞卻馬上表示效忠。同年，又血腥鎮壓了自立軍起義。張之洞像走鋼絲一樣，安然渡過一次次政治風險，依舊得到慈禧重用。李鴻章等朝廷重臣一死，張之洞確實成了屈指可數的甘心為清廷出力辦事的“佼佼者”。
慈禧太後看到再也無法照舊的方式統治下去，為挽救王朝命運，開始推行“新政”。張之洞積極響應，聯合劉坤一連上3道奏折，陳述變法主張。這就是有名的“江楚會奏三疏”。清廷基本上采納了他們的建議。然而清王朝已病入膏肓，推行新政困難重重。張之洞明知時局已爛，但還是甘願扮演新政“主角”，企圖挽救大清的崩潰。1903年，張之洞奉旨入京，主持製訂“癸卯學製”。這是我國第一個經政府正式頒布、推行全國的學製。1907年，清廷授張之洞為協辦大學士，不久升任體仁閣學士，擔任軍機處大臣，兼管學部。大學士相當於宰相。張之洞入閣拜相，進入朝廷中樞，登上了仕途頂峰。
次年，光緒皇帝、慈禧太後相繼死去，朝廷出現權力真空。滿洲皇親貴族乘機攬權，排斥漢族官僚。袁世凱權高勢重，又因戊戌變法時出賣光緒帝，為皇族勢力所嫉恨。攝政王、光緒的弟弟載灃發誓要為兄報仇，殺袁世凱以謝天下。張之洞老謀深算，深知滿漢兩族矛盾已經激化，隻能使清朝加快滅亡，因而極力阻止殺袁世凱。他警告道：“袁世凱身負練兵重任，京師在其勢力控製之下，倘若處置稍有不慎，則非國家之福。”載灃聽了，不敢輕易處死袁世凱，決定從輕發落，讓他削職回鄉。於是才有袁世凱“垂釣洹上”的故事。
但張之洞的努力並不能阻止皇室集權的趨勢。載灃一味任用親貴，造成朝廷裏滿漢權力之爭日益激烈。張之洞憂心忡忡，生命彌留之際，還想勸說載灃。無奈載灃一意孤行，執迷不悟。張之洞有心救清，無力回天，黯然歎息“國運盡矣”。張之洞知道大清氣數已盡，但是他沒有料到竟死得這麼快，在他死後兩年就壽終正寢；他更沒有料到辛亥革命的風暴來自他苦心經營十幾載的湖北，來自他刻意編練的新軍。他一生的事業，目的是為了挽救大清，結果卻加速了它的滅亡，真可謂“種豆得瓜”，枉費心機，以至於後人評價截然相反，讚頌者奉之為晚清聖賢，詆毀者斥之為漢奸禍首。不過無論怎麼說，張之洞的洋務事業或多或少推動了中國近代化的進程。張之洞死後，諡號“文襄”，人稱張文襄公。他在湖北地區的深遠影響至今猶存，張公堤、張之洞路等就是曆史遺留的痕跡；他的故事，在家鄉河北南皮縣廣為流傳，婦孺皆知。