左宗棠抵京後不到半月，中法形勢發生了突變，一方麵，清朝廷看到朝內外紛紛反對天津中法和約，又因法使福祿諾臨行前曾對李鴻章說：“法方將派軍隊巡查越南邊境，並要驅逐黑旗軍。”李鴻章沒有上報，被人告發，因此予以“申飭”。同時，兩江總督曾國荃奉旨與法使巴德諾在上海商討條約細則，擅自答應給法方撫恤銀五十萬兩，也予以嚴旨申飭。一方麵，法國還認為天津和約對中國讓步過多，被議會否決。閏五月初一日法軍700多人藉口巡邊，逼近諒山觀音橋中國軍駐地，突然發動進攻，被清軍擊退，激戰二日，法軍傷亡近百人，被迫後撤。法政府反誣中國破壞了天津和約，要求賠償銀三千八百萬兩，清軍立即退出諒山，否則將以海軍進攻。清政府拒絕賠款。於是法軍在中越邊境加強兵力，進犯宣光、保勝、諒山等地；又派海軍中將孤拔率領艦隊向我國東南沿海進發，進行戰爭威脅。一時氣氛緊張，南、北洋同時戒嚴。
左宗棠立即上奏，分析了當時形勢，並指明應付的辦法，說：“法國人上次議和不可信，明是緩兵之計，現在看得很清楚了。當前唯有嚴飭防軍穩紮穩打，痛予剿辦，才是唯一的辦法。”他再一次申請，派黃少春率領舊部一營，再新募4營兵，開赴前線增援。
朝廷還沒有來得及考慮左宗棠的意見，黃少春部隊也沒有成行，法國艦隊已經向東南沿海駛近。閏五月底，一支法國艦隊駛入福建馬尾軍港。馬尾是中國內港，船政大臣何如璋竟不敢阻止，他是李鴻章的親信，他深知李鴻章一意主和，為了避免與法軍衝突，不惜放棄國家主權，竟讓這支法國艦隊停泊在中國的軍事要港達一個多月。福建地方大員們大多是李鴻章淮係將領和官僚，對眼皮底下的敵艦隊，竟視而不見。中國兵船和法國兵船停泊在一處，何如璋卻不許中國兵船移動，不許海陸各軍備戰，真是咄咄怪事！
六月上旬，孤拔率領法艦13艘也駛抵台灣海峽。六月十五日，突然向基隆發動進攻，旋即登陸占領基隆炮台。督辦台灣防務的福建巡撫劉銘傳率部隊進行了抵抗，將法軍擊退。法軍在基隆吃了敗仗後，法國政府十分惱怒，一方麵通知停泊在馬尾港的法艦隊準備策應，一方麵命令駐華代理公使謝滿祿向清政府提出最後通牒，並於七月一日下旗離開京師。
七月初三日，法國駐福州領事通告何如璋：“本日對華開戰！”何如璋聽到這樣重大的消息，卻堅守秘密，不作任何準備，還對部將門說：“昨天還得到李相電告，和議大有進步。你們聽到的開戰消息必係謠傳。”
然而馬尾港內的法國艦隊卻毫不客氣，立即大炮齊發，隻用一個多小時就擊沉了港內全部中國船隻，包括由11艘兵船組成的福建水師和另外19艘商船。這支由左宗棠苦心經營的馬尾船政局製造的兵船組成的艦隊，在毫無準備的情況下倉促應戰，因為戰機全失，雖然進行了英勇抵抗，船隻相繼被擊沉，福建水師將士陣亡760餘人。法艦又開炮擊毀馬尾造船廠，然後退出馬尾，遭海岸炮台還擊，被擊傷數艘。這支實力僅次於南、北洋水師的福建水師就這樣在投降派的手裏糊塗而荒唐地被消滅了。這就是有名的“馬江之役”，是清政府又一次可恥的失敗，也是中國人民的恥辱。
馬江之役，福建水師全軍覆滅，可是投降派不僅不承認自己犯下的罪，李鴻章反而帶頭誇耀法軍的勝利，說什麼法艦在數刻鍾內就將中國船全部擊毀，足以證明中國人萬難與敵。結論當然是隻有講和投降。然而全國人民卻沸騰起來。因為中法軍隊在中越邊境早已開戰，基隆和馬江之戰也是事實，法國駐華代理公使又已下旗離京，清朝廷不得不麵對現實。七月初六日，即馬江之敗3天後，宣布對法開戰。朝中的主戰派以奕、左宗棠為首，態度很堅決。 中法宣戰後第九天，七月十五日傍晚，左宗棠來到醇親王官邸，要求奕同意他親赴福建前線督師，與法軍決一雌雄，奕見他要求很堅決，馬上就要去前線，急如星火，就勸他不要著急，少安毋躁。其實，奕同情他，也讚成他去，認為惟有他去可以一拚。奕立即上奏太後。三天後，詔令左宗棠以欽差大臣督辦福建軍務，命他急速赴福建督師。奕當即寫信給總理衙門，敘述當時左宗棠談話時的情況說：“左相猶如伏波將軍（馬援）的氣概：‘老當益壯，男兒要當死於邊野，以馬革裹屍還’耳。”
左宗棠接到諭旨後，他在金魚胡同的寓所每日車馬盈門，來訪者絡繹不絕，主戰派都十分高興。醇親王奕率領貝勒、協揆等每天都來寓中，商談對法作戰事宜。京師人士和全國人民都很高興，以為清政府是在認真準備打一仗了。
朝中的主和派勢力仍然很大，他們和一些滿蒙貴族、官僚要員等對左宗棠回到京師就一直不滿，隨時準備排斥、打擊他，給他一點顏色看看。當他回京還不到一個月，就以一點小事，告他行文外省用印不當，朝廷給予申飭。就在他即將出京的20多天前，禮部尚書延煦還參了他一本，是因為萬壽聖節，群臣在乾清宮行禮慶壽，左宗棠到班遲誤，行禮失節，因此上疏糾劾。延煦的疏很厲害，說：“左宗棠是以乙科（舉人）入閣（拜相），皇上的恩賞已遠優於他的功勞，乃他竟日驕肆，辜負了皇上的恩典，乞予以懲儆。”
大凡官員們相互奏劾，特別是奏劾朝中大員時，都是要揣摩、看準“上麵”的意思，所謂“善體聖意”；延煦借禮儀上小事，扣左宗棠一頂大帽子，指責他沒有中進士，本不夠入閣當宰相，又居功驕肆，辜負皇恩，罪名不可謂不大。他原揣度慈禧聖意，本來就不喜歡左宗棠，又傾向議和派，對左宗棠的主戰並非真心支持，因此為討慈聖的歡心，參奏一本，同時也替議和投降派和滿蒙王公大臣們出口氣，能參倒更好，否則也煞煞左宗棠的威風。
不想慈禧看到延煦奏疏後，心中不悅；她將奏疏給樞臣們看，說：“這是與禮節有關的事，照例應由各部大臣共同具疏，何以隻延煦一個人暑名呢？”
恭親王奕盉心領神會，立即說：“左宗棠確實失禮，但勳臣應保全。延煦這件疏就留下，不予辦理好了。”慈禧點頭同意，她立意要保全在她垂簾聽政時立下大功的左宗棠。這點，延煦並沒有揣摩到，因而碰了一個釘子。
這件事原可不了了之，可是奕聽到後，十分生氣，立即專折參劾延煦，奏詞很激切，說：“左宗棠之入閣拜相，特恩出自先朝（同治），延煦是什麼人？竟敢譏刺先朝皇帝恩賞不當。左宗棠勞苦功高，年老體衰，朝見聖上時，兩宮皇太後且予以優容；行禮偶有失議，可由禮臣照例糾參，不應延煦一人以危詞聳上聽，顯見其意是在傾軋。”
慈禧看到奕奏折，於是諭斥延煦，並交部議處。左宗棠行禮失儀，也交部議處，罰俸一年。但從此朝臣知道慈禧有意保全功勳之臣，不敢再公開誹謗、加罪左宗棠了。主戰派即所謂持清議者，本來就不滿李鴻章和投降派的所作所為，也一致擁護左宗棠，於是京師中輿論是一片揚左抑李的調子。
左宗棠離京前，慈禧特別召見他幾次。談到法國人挑釁，馬江之戰慘敗等，慈禧赫然震怒，宗棠也慷慨陳詞，義形於色；君臣似乎是一心一德。他又去醇王府辭行，奕以福建全省安危諄諄囑托，還叮囑他：“彼此有緊要商辦事件，必須速到時，可打電報來。”當時電報是最快速的傳遞工具了，但是宗棠考慮電報局內有洋人工作，關涉對外事件，恐妨泄漏，認為還是隻能用密件傳遞，更為安全。奕聽了也以為然。可見當時機密、重要部門如電報局，也掌握在外國人手中，國家大事也不敢利用它，連王公大臣也受製。清政府的腐朽無能，百孔千瘡，確是沉屙日下，即使有少數愛國者願意效死疆場，為國盡忠，但是投降勢力如此猖獗，恐怕也回天乏術了。
七月二十五日，左宗棠離京的前一天，特地到翁同騄寓所辭行。他們交往數年，意氣機投，話別之際，無所不談。宗棠說起作為朝中大臣，最重要的是“輔導聖德”。封建王朝皇帝代表國家，一言一行，如有不正確處，大臣就應善加“輔導”，換句話說，即是加以教導，這真是談何容易！翁同騄在日記中記下了這句話，還寫道：“默自循省，愧汗沾衣也。”他沒能做到，慚愧的汗水流濕他的衣襟了。
左宗棠又對他說：“凡小事精明，必誤大事。”意思是生活中應重視的是原則性的、重大的問題，如國家大事、道德修養、學問事業等。對那些細微“小事”如金錢、名望、官職等不必看得太重，甚至斤斤計較；否則，在大事上反將失誤。翁同騄非常欣賞這句話，在日記上寫道：“有味哉！有味哉！”左宗棠在翁同騄寓所談了很久，翁同騄記載他的所談後說：“其言衷於理而氣特壯！”臨別時二人依依不舍，珍重道別，這也是他們最後的一次見麵。
七月廿六日黎明，左宗棠到內廷告辭，慈禧又召見，溫諭慰勞。奕知他即將出都，特在中右門外設筵，為他送行。他回到寓所後，各位王公大臣都去送行，他一概辭謝；又考慮到出門時營兵們都會在大道兩旁跪送，為了免除他們的辛勞，於是輕車簡從，繞道出宣武門，到前相國李鴻藻家辭行。李鴻藻留他午飯，為他餞別。飯後離開李府，一行經正陽門、崇文門，出東便門，到通州下船，徑往江南和入閩。全國人民聞訊鼓舞，當時《申報》報導說：“聞閩省水師失利，侯相慷慨請行，聖心嘉許，遂拜督師之命，文璐國之精神，郭汾陽之勳業，侯相可謂兼之矣！”
這次左宗棠回京師，隻住了3個月，以70餘高齡仆仆征途，自請親赴前線，毋怪乎輿論對他高度讚揚，譽之為“烈士暮年，壯心不已”。也有人說，左宗棠不習慣京師生活，與朝中權貴不甚協睦，所以請求離開的。也有人認為，慈禧對左宗棠有所忌恨，但他是勳臣，表麵上必須保全他，暗地裏則想除掉他，因而調動頻繁。從光緒七年至十年3年時間，工作調動4次，南北奔波，疲於奔命，以至筋疲力竭，心血耗盡。這些說法雖也有些道理，但不一定正確。左宗棠如此老邁，慈禧不一定對他有所忌了，倒可能真要利用他的中外聲望；而他自己，為國馳驅，效死於疆場之上，馬革桐棺，原是他的畢生願望。