途中病情加重，11月2日返回金陵。11月16日再次向朝廷報告病情，同時報告最重要的水利工程，是要將淮水引回雲梯關入海。
這個工程足以截斷眾流，捍衛淮揚地區的億萬生靈，將災區變為肥沃的土壤，並對江南的鹽務、漕運和各省的荒政，都有好處。考慮工程浩大，費用太多，我決定等到明年開春，親自考察，責成親軍及其他部隊挑浚河道，按日分派任務，兼雇民夫與勇夫一起施工。那時候，朱家山工程已經告成，我們一意經營，完成這一壯舉。我辭歸田裏，度過晚年，心中就會少一些遺憾了。
左宗棠請假回家調治眼病，慈禧認為他不能離開海防前線。上諭：得知左卿眼病加劇，十分掛念。你在外國人眼裏素有威望，現在籌辦海防，正要靠你主持。你想開展的江南水利工程，對民生大有關係，也要靠你辦理。賞假兩個月，安心調理，不能離職。
這時邊防事務更加棘手。12月14日，法軍攻打越南的山西。駐防山西的部隊，主要是劉永福的黑旗軍，另有廣西清軍七個營和雲南清軍。中國駐軍被迫實行軍事抵抗。中法戰爭就此爆發。法軍依靠優勢的裝備，於12月16日占領山西。
中國駐英法俄三國的公使曾紀澤不斷向法國政府提出抗議，要求法軍停止挑釁。他說，中國軍隊必須堅持抗戰。
一戰不勝，則謀再戰，再戰不勝，則謀屢戰。
朝廷令左宗棠派王德榜招募部隊出關，而廣西巡撫倪文蔚奏請領取左宗棠在永州儲備的軍火到廣西。左宗棠加緊整頓江南防務，令王德榜在永州招募十營勇丁，號稱“恪靖定邊軍”，籌備軍火餉需，使之能夠迅速開拔。
左宗棠很快拿出了海防措施。1884年1月4日，他向朝廷呈報方案，詳細討論了海防前敵、後路江防、戰陣防守和緊急事務。他對自己的部署很有信心：江南防務已經鞏固，可以接應南洋和北洋，隻要警報傳來，就可前往增援，決不會束手無策。
同一天，他請朝廷批準安徽池州煤鐵局增加股本，加大銅、鉛等礦的開采規模。
眼病越來越厲害。1月31日，再次請求離職回假治療。他為自己選好了三個替代者，供朝廷選擇：安徽巡撫裕祿，漕運總督楊昌浚，前兩廣總督曾國荃。
左宗棠想靜一靜，偏偏安徽學政徐郙上奏，提出恢複淮河必須排開泗水和沂水，作為導淮先路，循序疏治，從大通口引河入海。朝廷將此議下發給左宗棠討論。
既有新的方案，就得實地考察。左宗棠於2月1日帶病抵達清江，查勘地勢，巡視張福河、天然引河、吳城七堡與順清河，折由楊莊，沿著舊黃河抵達雲梯關。又從大通口抵達響水口，測量地勢，發現北高於南，如果要將水流引到黃河歸海，必須使湖水積高，在下遊疏浚，降低水位。而湖水的水位增高後，不但運口閘壩難以支撐，而且盱眙、五河等地的民田首先就已受害。於是，左宗棠提議在清江設立複淮局，分年逐步施治。首先疏通舊黃河，宣減泗水與沂水，兼疏大通口，使出海道路暢通，然後疏浚張福河與碎石河等河流，將湖水引入黃河，在盱智、信林等三壩修堰，在陳家集建閘，以操縱湖水，保衛盱眙與五河的民田。
2月8日，清廷下達諭旨，批準左宗棠的辭呈，賞假四個月，回籍安心調理。令裕祿代理兩江總督，兼代南洋通商事務大臣。左宗棠要待裕祿到任後，才能移交公務，起程回鄉。
2月16日，朝廷改變主意，任命沙場老帥曾國荃代理兩江總督，兼任南洋通商事務大臣。裕祿不用上任了。
法國當局無視曾紀澤的抗議，增加侵越兵力。法軍集結一萬七千兵力，準備進攻清軍據守的戰略要地北寧。
清廷接到報告，十分震驚，不斷下令，挑選得力將領，加強防備。到大戰前夕，清軍集結五十八營，兵力增加到二萬四千人。中法雙方各有優勢，旗鼓相當。
2月19日，左宗棠返回揚州，乘軍艦檢閱靖江、通州、崇明的漁團，然後抵達上海。中國的強硬派首領一到上海，英、美等國軍艦便升旗向他致意，各國領事上船拜訪。
王德榜派急使送來書信：報告左帥，我部已開抵廣西。
左宗棠打算盡最後的責任，於2月28日抵達朱家山河工地視察，2月29日返回金陵。不久，朱家山河工程竣工。
朝廷批準左宗棠辭職，引起很大的反響。有人歡喜有人憂。內閣學士周德潤上疏說：勳臣不宜引退，請朝廷責成左宗棠顧全大義，令他在職調理。
這何嚐不是慈禧的意思？但這個女人就算心再狠，也不能不顧及勳臣的性命。於是頒下一道上諭，希望左宗棠在休養痊愈以後複職。
時局艱難，朝廷正是倚重左宗棠的時候，怎會讓他立即歸田？隻因該大學士眼病加劇，而兩江地大物博，政務繁忙，擔心他難以安心調養，所以批準了他的辭呈，給他四個月假期回家調理。朝廷仍望他早日痊愈，出來擔負重任。左大學士素來公忠體國，想必不會圖享安逸。令他趕緊調治，隻要病情稍有起色，不必拘泥於日期，立刻銷假，重返崗位。
法軍經過一個月準備，於3月7日開始水陸並進。法國海軍聲東擊西，陸軍尋找薄弱環節，攻破清軍防線。清軍將領岑毓英等人消極防禦，調度失措，不戰而逃。中法戰爭初期，清軍在主力決戰中失敗，法軍控製了紅河三角洲，利用海軍的機動作戰能力，對中國形成大麵積威脅。
4月7日，曾國荃抵達金陵，左宗棠在第二天就和他辦理了移交，卸去肩上的重任。
可是，南方戰事紛擾，左宗棠的心境，如何安靜得下來？雲南和廣西的邊防軍開始潰退，北寧和興化相繼失守，隻有王德榜的五千人扼守諒山鎮南關。海上也傳來警報，法國軍艦分別駛入福建和江南海口。
左宗棠聽到前方告急，憤怒至極，寢食難安。外界的刺激調動了他最後的一點生命力，眼病居然稍有好轉。4月26日，他主動銷假，要繼續為朝廷出力。他知道王德榜兵力單薄，請求增派前浙江提督黃少春在湖南招募新軍繼進。
法國人消息靈通，聽說左宗棠要出來主持戰局，心裏不免發怵。他們的軍隊需要休整，兵力尚待部署，才能控製剛剛侵占的北坼地區。法國人非常機靈，為了贏得時間而開打外交牌，提出和談，條件是清廷必須承認法國對越南的保護權，開放中國的西南各省。他們還提了一個要求：立即將力主抗戰的外交官曾紀澤調回國內。
李鴻章一聽“和談”二字，眼裏就有了光彩，感到自己能派上大用場了，於是大力促使清廷接受這些條件。對於法國人而言，此人顯得十分忠厚。由於他的退讓，曾紀澤離開了外交舞台，左宗棠失去了一個重要的合作夥伴。
法國公使來到了天津。朝廷為了和談，令黃少春停止募兵。但左宗棠對外國人是個威懾，慈禧還要倚重他，於是朝廷在5月3日召他回京入見。
5月11日，中法《簡明條款》在天津簽訂。
左宗棠聽說條約簽訂了，氣的直跺腳，揮筆寫下奏章：法人得隴望蜀，一點也不奇怪，可我們中國人怎能高枕而臥？隻要我國顯示長期抗戰的決心，他們必然氣餒啊。朝中無人掛帥？宗棠我願意掛帥，立下軍令狀：若不成功，則請從重治罪，以謝天下。
5月15日，左宗棠從金陵啟程進京。他十分心急，水陸兼程。清江過了，濟寧過了，德州過了，天津過了，通州到了，終於可以見到北京的那些大員了！讓他們看看我在途中寫的《時務說帖》，他們就會明白法國人的侵略野心，懂得和議是行不通的！
左宗棠在路上的時候，清廷於5月17日任命湖南人張之洞代理兩廣總督，左宗棠頗為欣慰。
6月13日，左宗棠進入京城，發現紫禁城內外風氣萎靡。他連忙會見主戰的兩位親王：我們要舒張正氣，能打贏固然要打，打不贏也要打啊！李合肥一意求降，會使其他列強也想咬我們一口啊，中國將會永無寧日！隻有堅決抵抗，中國才有出路！
朝廷的三位大員發出這樣的呼籲，京城內外頓時豪氣萌生。
五天後，七十二歲的左宗棠奉旨再次入值軍機。他一旦掌握兵權，就開始調兵遣將。
左宗棠一到，慈禧立刻感到腰板直了許多。但她生怕這位老臣勞累過度，頒下上諭：左宗棠功勳卓著，年逾七旬，不必按作息時間當班，遇有緊要事件，朝廷召來問話就行了。令他管理神機營事務。所有應派差使，一概免去。
法國人果如左宗棠所料，得隴望蜀，出爾反爾，協議墨跡未幹，就大動幹戈。條約簽訂前後，法軍開始攻擊基隆。
法軍杜森尼中校率領九百人從河內出發，於6月23日突然開抵諒山附近的北黎地區，到達觀音橋附近，要求“接防”。王德榜勸阻法軍前進，寫信給杜森尼，指出兩國既已議和，大可不必再起釁端。
杜森尼不聽勸告，要求湘軍立即退回中國境內。王德榜回答：沒有接到上級命令，部隊不能移動。一個要進，一個不退，雙方對話不通，隻好槍杆子裏麵分輸贏。杜森尼下令進攻。法軍奪占四周山崗。湘軍立即還擊，戰至深夜，雙方對峙。
法軍還調兵分頭進犯宣光、保勝和諒山。南洋和北洋形勢頓時緊張。
王德榜組織優勢兵力反擊，三麵圍攻，截斷法軍後路。法軍三麵被攻，被迫收縮。
湘軍越戰越勇，清軍其他部隊也發起猛攻，法軍抵擋不住，開始潰退。這次戰鬥，法軍自稱死傷一百多人。
這是清軍在中法戰爭開始以來獲得的第一次勝利，稱為“北黎衝突”，也稱“觀音橋事變”。
法國以此為擴大戰爭的借口，照會清廷，要求清廷通令駐越清軍火速撤退，並賠償軍費二億五千萬法郎，約合白銀三千八百萬兩。法國還威脅說，他們將占領中國一兩個海口，當作賠款的抵押。
左宗棠一點也不驚慌，於6月29日奏請朝廷下令：雲南、廣西的封疆大吏，指揮駐防部隊穩紮穩打，抗擊法軍；另派黃少春迅速組建部隊前往增援。
左宗棠急於調兵抵抗法軍，用內閣大印發文，令黃少春趕赴鎮南關，於同一天被人參劾。他又保薦曾紀澤和魏光燾等幹才，於7月10日再次被人參劾，理由是不合體製。
這兩次參劾，都被慈禧駁回，並加以製止。
由於有左宗棠這個主心骨，清廷堅決反駁了法國的無理要求，指出諒山是中國駐兵的地方，“法兵前往諒山，撲我營盤，先行放炮，中兵不能不抵禦”。奕譞認為，清政府的這種強烈態度，“是二十餘年中國第一次振作之照會”。
7月22日，左宗棠向朝廷呈交《藝學說帖》，論述學習西方、興辦技術學校的主張。
左欽差扭敗為勝
法軍陸路失利，便指望海戰得勝。法軍在中國和越南的艦隊，組合為遠東艦隊，分別開向福州和基隆。
法軍攻擊台灣之前，左宗棠已派湘軍將領孫開華率領的擢勝三營，開到台灣駐防。隨後，提督章高元率領的淮軍和提督楊金龍所部湘軍，也先後開到台灣。
8月5日，法艦轟擊基隆，強行登陸。督辦台灣事務大臣劉銘傳指揮清軍頑強抵抗，使法軍不得不退回海上，待機再舉。
法國政府擬定新的條件，向中國勒索，清廷拒不接受。中法外交關係正式破裂。
黃少春尚未成行，法軍大舉侵犯福建海麵。8月23日，中法馬江海戰爆發。當天上午8點，法軍向閩浙總督發出通牒，但清廷官員不準官兵“輕舉妄動”，而寄望於乞求法軍延期進攻。
下午1點45分，停泊在馬江水麵的八艘法國軍艦和兩艘魚雷艇，向中國南洋水師發起攻擊。南洋水師英勇還擊，但因準備不足，裝備落後，火力處於劣勢，多數軍艦未及起錨，就被法國軍艦擊沉。
海戰不到三十分鍾，南洋水師的十一艘軍艦，九艘被法軍擊毀，另外兩艘在港內自沉。還有多艘運輸船沉沒，七百六十名水師官兵殉國。
中法戰端已開，南洋水師為什麼沒有充分備戰呢？
會辦海疆事務的張佩綸，是個聰明人，年少時數千字文章一揮而就，被人稱作神童。同治九年中舉，此後五年之內從一介布衣升到四品官員，他的仕途之順，比坐直升飛機還要快，是坐火箭上來的。
張大人沒有經過基層鍛煉，突然身居高位，免不了神童後遺症：慷慨好論天下事，舌燦蓮花，卻太少執行能力。仗著自己有才氣，眼裏容不得沙子，光緒八年代理左副都禦史，人還沒到任上，彈劾官員的奏章就呈給了皇上，弄得幾個人丟了頂戴，一時朝野震驚，張佩綸因此成為樹大招風的清流黨人。
張佩綸對待法國侵略的態度，比他的嶽丈李鴻章硬多了。戰事一起，張佩綸就大談抵抗侵略：中越唇齒相依，越南一亡，中國必受其害。他和左宗棠一樣，對中國獲勝信心十足，列舉了中國的三大優勢。其一是天時：普法戰爭剛剛結束，法國失敗後割地賠款，國力相當貧乏；其二是地利：中法相隔遙遠，法軍由本土到達福建要二三十天，而清軍抵達福建快則三天，遲則十天，還在人數上占了優勢；其三是人和：法軍占領越南後，施行暴政，隻要派人振臂一呼，越南人民就會起而響應，陷法軍於四麵楚歌之中。
慈禧一聽，太對勁了，國家棟梁啊，立馬派他到福建會辦疆務。張佩綸來到福州，立即視察船政局及閩江沿岸要塞，主張沉船堵塞閩江口，使法國軍艦無法入內。在敵強我弱的時候，這雖不是最佳對策，也算得上中策了。無奈朝廷聽了他嶽父大人的意見，嚴令他不許先發製人，要充分顯示和談的誠意。結果眼睜睜地看著法國軍艦駛入閩江，駐防軍隊卻無戰備。
可惜法國人不領情，準備妥當之後，開炮攻擊。第一聲炮響之後，隻見一人應聲而倒。不是別人，正是慷慨激昂主張抗戰的張佩綸。張同誌慣於紙上談兵，沒見過真陣仗，一聽炮響居然嚇暈了！其他高官也不濟事，閩浙總督何璟兩耳不聞槍炮聲，在府內拜佛念經；船政大臣何如璋，天天設宴喝酒，嚴令各艦不準迎戰。領導班子都熊成這樣，這仗還怎麼打？
戰敗後追究領導責任，這個領導班子集體下課。左欽差來到福建督辦此案。他對張佩綸十分惱火，但辦案卻是實事求是，從輕發落。結案報告一上，朝廷卻指責左宗棠和楊昌浚為張佩綸開脫。張佩綸被發配到軍台效力贖罪。幾年後，李鴻章保薦張女婿出山，張佩綸答應了，但官職堅決不要；李鴻章再次保薦，清廷以四品京堂起用，張佩綸又堅辭不就，最後布衣終老。小說家張愛玲的這個爺爺算不得追名逐利之輩，倒是一個清談誤國的典型。
總之馬江一戰，左宗棠主持籌建的南洋水師全軍覆沒。法軍還摧毀了馬尾造船廠和兩岸炮台。左宗棠得到報告，不由咳出血來。