臨危受命 總督兩廣
1883年12月，在越南北部的山西（此為越南山西，下同）地區，中越聯軍和法國侵略軍之間爆發了一場激烈的戰鬥。當時，法軍向中國軍隊駐守的山西地區發起進攻，中國軍隊被迫反擊。最終，法軍憑借優勢火力占領了山西地區。法軍占領山西之後，並沒有止步不前，他們繼續增兵備戰，中法之戰已經不可避免。1884年2月，法軍擴大戰爭規模。而駐守越南的清軍卻是將帥昏庸怯懦，互不協調，軍紀廢弛，兵無鬥誌，到當年的4月，越南北部眾多要地先後被法軍占領。戰事愈演愈烈，就在這年的5月，張之洞遵照朝廷的旨意，交割了山西巡撫的職務，來到京城，經慈禧太後任命，代理兩廣總督，並在6月抵達廣州，開始履行兩廣總督的職責。
張之洞抵達廣州時，中法之戰進一步升級。此時，法軍已經不滿足於在陸地上進攻中國，他們派出艦隊，開始進攻中國沿海地區。1884年8月初，法軍企圖入侵台灣，他們的軍艦轟擊基隆，並派兵強行登陸。不料，中國軍隊在督辦台灣事務大臣劉銘傳統率下頑強抵抗，使法軍不得不退回海上待機再舉。
法國人雖然沒有在台灣占到便宜，但是這並不妨礙他們的下一步計劃。法國艦隊將進攻目標轉向福建水師。法國人為什麼會盯上福建水師呢？這當中自有一番道理。
當時的中國勉強可以算是有4支艦隊，分別是北洋水師、南洋水師、福建水師和廣東水師。實力最強的是李鴻章掌握的北洋水師。北洋水師所負責的海域主要集中在黃海北部和渤海，這裏是距離京城最近的海域，1860年，英法聯軍從渤海登陸並迅速占領北京城的慘痛教訓，使得清政府將北方海防當作重點，將大把大把的銀子撥給北洋水師，北洋水師也購置了大量先進的軍艦。清廷方麵不到萬不得已，是不會動用北洋水師的。而李鴻章也把北洋水師當作自己的私產，不舍得拿出來打仗。所以，中法之戰時，雖然南方海疆告急，卻不見實力最強的北洋水師出兵。
南洋水師雖然被冠以“南洋”的稱謂，但是他們並不負責南洋的防務，而是負責江浙地區的防務，隻是因為南洋水師的負責人被稱為南洋大臣，才有了“南洋水師”的稱謂。南洋水師地處江浙富庶之地，在資金上相對寬裕，不僅能通過江南製造局自己造軍艦，還向外購買軍艦，到甲午戰爭時，南洋水師的實力僅次於北洋水師。然而，中法之戰時，南洋水師還在發展當中，實力有限，艦船總噸位不過兩萬噸。兩萬噸是個什麼概念呢？當時法國人參戰的軍艦中，噸位最大的一艘就有4000多噸。法國人5艘大型軍艦的噸位就能超過中國一個艦隊的總噸位，這就是雙方實力的差距。所以，對於東南沿海的戰事，南洋水師心有餘而力不足。戰爭期間，南洋水師損失了3艘軍艦。
福建水師也有不俗的實力，主要負責東南一帶的海域。福建水師依附於福州船政局，不僅能夠自建軍艦，還能培養自己的海軍人才，北洋水師的不少軍官都是福州船政學堂培養的。福建水師最大的問題是經費不足，朝廷的海軍軍費就那麼多，多數又給了北洋水師，福建水師隻能“忍饑挨餓”。就是這樣一支“忍饑挨餓”的艦隊，卻要守衛東南沿海漫長的海岸線。
廣東水師是實力最弱小的一個，僅相當於今天的海岸警衛隊，打擊海上走私尚可，如果用於作戰，根本就不堪一擊。
法國人正是摸清了中國海軍的情況，才做出偷襲福建水師的決定：隻要殲滅福建水師，中國東南沿海基本就沒有能夠阻止法國艦隊的水上力量了。
早在進攻台灣之前，法國人就已經在蓄謀攻擊福建水師了。1884年7月，中法之間的衝突不斷升級，而法國艦隊就在這個時期以“遊曆”的名義，陸陸續續開進福建水師的駐地——馬尾軍港。馬尾軍港作為中國海軍的軍事基地，於情於理都不是外國艦隊可以隨意駛入的，況且，當時中法兩國還在不斷爆發軍事衝突。麵對不斷湧入軍港的法國軍艦，負責福建軍政事務的滿清高層人員竟然無動於衷，他們不僅不製止法國艦隊，反而熱情地招待他們。一方麵是雙方陸軍在越南殊死拚殺，另一方麵是兩國海軍的“和睦相處”，這樣的景象即便放在整個人類曆史上，恐怕也不多見。麵對法國艦隊的步步緊逼，福建水師的基層官兵不少都警醒起來，許多人希望趁機攻擊法國艦隊。對於這樣的提議，福建軍政高層給出的回複是：不準先行開炮，違者雖勝亦斬。打勝了也要被斬，有這樣的指揮官，福建水師還有存活的可能嗎？
就這樣，法國艦隊在光天化日之下，浩浩蕩蕩地開進了福建水師的基地，並對軍港內的中國海軍形成了包圍之勢。法國艦隊軍艦總量有10艘之多，而福建水師總共也不過11艘軍艦，沒有數量優勢，而且裝備和噸位還落後於法軍。這一仗，尚未開打，結局就已經注定。
8月23日上午10時，閩浙總督何璟接到法方送來的戰書，聲明4小時後向中國開戰。令人匪夷所思的是，何璟竟然對福建水師官兵封鎖消息！福建水師沒有積極備戰，更不準官兵主動向法軍開火。直到中午12時過後，法國艦隊要向中國開戰的消息才被告知福建海防的負責人張佩綸，張佩綸聞訊大驚，趕緊找到懂法語的人去找法國人協商，他以時間倉促來不及準備為由，希望法國人能夠推遲開戰的時間。當中國代表乘船駛向法國軍艦時，法國人卻以為這是中國人要開戰了，於是，立即下令向福建水師進攻。就這樣，福建水師的軍艦尚未來得及起錨，法國人的炮彈就已經落了下來。
麵對突發的戰況，福建水師的主要指揮官一個個嚇得驚慌失措，張佩綸嚇得暈倒，最後還是被下屬拖著逃離了戰場，其他指揮官也無心應戰，逃之夭夭。雖然福建水師所處的情況極為艱難，但是，基層官兵依然奮起還擊，並且擊中了法國軍艦。然而，雙方實力過於懸殊，水麵戰鬥僅僅進行了半個小時，就以福建水師的全軍覆沒而告終。
此戰，福建水師軍艦11艘、運輸船19艘，全被法艦擊沉、擊毀，官兵陣亡521人，受傷150人，下落不明者51人。法軍僅死6人，受傷27人，有兩艘魚雷艇受重傷，其餘軍艦均為輕傷。消滅福建水師之後，法國軍艦又用艦炮，對岸上的福州造船廠進行了猛烈轟擊，整個造船廠化成一片瓦礫。法國的海軍陸戰隊也趁機上岸，將清軍重金購置的克虜伯大炮（該種大炮為德國製造，是當時大炮中的頂級產品）搶去。
馬尾慘敗之後，清政府不再對法國抱有幻想，1884年8月底，清廷頒發上諭，一方麵譴責法國的入侵，另一方麵要求全國動員，應對法國的侵略，自此，清廷終於對法國宣戰。就在清廷向法國宣戰前的幾天，張之洞由代理兩廣總督成為正式的兩廣總督。
到清廷向法國宣戰時，張之洞已經就職兩廣總督兩月有餘，身處抗法戰爭的前沿，張之洞在此次戰爭中擔負著什麼樣的任務呢？總體說來有三：第一是負責兩廣的防務，第二是協調前線的人事安排，第三是籌集糧餉。