法國從鹹豐八年（1858年）開始進攻越南，同治元年（1862年），逼迫越南國王簽訂了《西貢條約》，到同治五年就完全占領了越南南方的6個省。清廷當時無暇過問。光緒元年，法國駐華公使代辦羅淑亞通知中國總理衙門，法越之間已經訂立和親條約，又稱《和平同盟條約》。總理衙門當即聲明，越南是中國屬國，中國有責任保護。同治五年（1866年），中國駐英法兩國公使曾紀澤聽說法國正向越南增兵，準備開辟紅河一帶的通商事務，遂嚴正聲明，中國不承認法越和親條約。
法軍於光緒八年（1882年）出兵占據了河內。中法關係頓時緊張。馬建忠剛剛處理完朝鮮兵變的事情，就被李鴻章又派到上海去與法國公使寶海談判。十月十七日（11月27日），馬建忠遵李鴻章指示，與法使寶海訂立越事辦法三條，第一，中國將滇、桂軍退回邊界；開辟邊界通商；中法兩國分巡越南紅江南北。第二天，李鴻章將此約函告總署，並請轉告滇桂前敵將領不再深入越地。
總署同意這三條辦法，通知前敵將領酌量退兵。法國公使寶海留在上海等候巴黎的批準。中法的談判已經接近成功了，沒想到第二年法國內閣改組後、又實行了極端侵略主義。中法關係重新又緊張起來。
光緒九年正月二十九日（1883年3月8日），李鴻章向總署電告，馬建忠從上海報告法國方麵對和議的態度有變化，請朝廷立即諭令滇桂前線嚴加戒備。
對於法國侵略越南，中國的士大夫階級是一致反對的。有的人從維護封建的宗主權出發，認為，如果對越南不加以保護，將導致外藩解體，不但琉球不能恢複，即使朝鮮、蒙古也將難以維持。有的強調唇亡齒寒，山水相依，“保越”才能“固邊”。
但是，此時日本正準備利用法國侵越的機會，侵略朝鮮。所以清政府另有一些官員認為，同是藩屬，朝鮮對於清廷更為重要。滿族名臣寶廷說：“即失雲貴，不可失朝鮮。”漢族名臣鄧承修說，直隸渤海是京師門戶，較之滇粵更重要。李鴻章也是其中的一個。 三月，李鴻章回鄉葬母，朝廷因朝鮮和越南同時告急，緊急詔命他立即回任。到了二十五日（5月1日），又命他按照國有金戈之事不必守喪的古訓，迅速前往廣東督辦越南事宜，所有廣東、廣西、雲南邊防軍均歸他節製。
但李鴻章始終認為朝鮮比越南更重要，不願到廣東去，如何能使中樞收回成命？他想到了袁保齡。他是袁世凱的族叔，與中樞中的李鴻藻是師生關係。三月裏，袁保齡給李鴻藻一封信，建議派李鴻章的大將劉銘傳去前線督師，做“保越之將”；順便稱讚李鴻章“誌力宏闊”，不減當年。近來更加“親賢遠佞”，用人取舍都很精當。到了四月初，袁保齡又給李鴻藻寫一封信，內稱：“重臣宜外示鎮靜，內顧限本，伐越人牽製之謀，則駐津便；即謂暫助聲威，密通各國線索，為可和可戰之地，則駐滬亦便。二者用各不同，而皆視駐粵遠勝矣。”意思說，李鴻章應該駐於天津或上海，而不是駐於廣東。這是替李鴻章向中樞人物進行的疏通。
四月初七日（5月13日），朝廷命李鴻章改駐上海，統籌全局。 十六日（22日），李鴻章由家鄉合肥起程到南京。在那裏停駐三天，和左宗棠商議調兵運餉等事宜。二十日（26日），他向總署報告商議結果說：鴻章現在金陵與左相議兵餉，左說兵可以酌量調給，但原兵餉不能帶去；給他的印象是調兵也困難。
五月初四日（6月8日），李鴻章在上海會見法國新任公使脫利古（又譯為德理固）。脫利古否認越南是中國的屬國，決定要向越南用兵。李鴻章已知十幾天前，法國在越南河內附近中了劉永福黑旗軍的埋伏，遭到慘敗；繼爾又得知法國已添派鐵甲艦和軍艦4艘，陸軍3000名赴越，議院通過追加軍費案，並旦不限數量，決心大舉報複，現在派脫利古來就是為將原來寶海所訂協定取消的。所以，他與脫利古談完，立即向總署函稱，中國海防得力的船隻隻有北洋的超勇和揚威兩條快船和南洋的超武、揚武等。（後來著名的鎮遠、定遠和濟遠等艦尚未來到中國）因此是兵單餉匱，海軍又未練成，不可輕言戰事，隻有與法國虛與委蛇，再籌應付方法。次日，李鴻章給張之洞的信中指出，法國故意不承認越南是中國屬國，想要因越南“孱小”而“逞強貪利”，中法間的決裂是“意中事也”，“但恐中國不易取勝。
十七日（6月21日），李鴻章奏上一折，說越南如被法國所吞並，邊患伏於將來；如果我與法爭，兵端開於俄頃。如果我揮師遠征，法人會反戈內向，動搖我全局。故滇粵防務仍以責成封疆大吏加強戰備為宜，而專派大臣會法國交涉為上策。這就是他的備戰求和的理由和要義。
李鴻章對朝廷令他到廣東，繼又令在上海調度，都認為不恰當。他給張佩綸的信中說：“樞廷調度輕率，令人寒心”。他還不知道朝廷已於十六日（6月20日）就詔令他即刻回到北洋總督任上籌備一切。當他接到這項詔令後，滿意了。在回津的路上，他沿途察看了煙台、旅順、威海的防務。於六月初六日（7月9日）抵達天津。
從六月至七月，李鴻章有感於中國海疆多事，連上三折，一是要求將電報線展修到通州；二是要求購鐵甲艦，造鐵路火車；三是要求開采煤礦。他認為中國如果真搞現代化，“外人斷不敢輕於稱兵恫喝”。
不久，七月二十三日（8月25日），法國強迫越南簽訂了《順化條約》，明確將越南指為法國的保護國。越南國王實際已投降法國。清廷對這種公然侵剝中國宗主權的行為不能坐視，於九月二十日（10月20日）發布上諭： 法人已與越南立約，必將以驅逐劉團為名，專力於北圻，滇粵門戶，豈可任令侵逼。現經總理各國事務衙門照會法使，告以越南久列藩封，曆經中國用兵剿匪，力為保護，為天下各國所共知，今乃侵陵無已，豈能受此蔑視？倘竟侵入我軍駐劄之地，惟有開仗，不能坐視等語。此後法人如欲逞兵於北圻，則我之用兵。固屬名正言順。……倘法人竟以兵力來華尋釁，必應先自戒備，著左宗棠、李鴻章、張樹聲、倪文蔚、裕寬，迅籌布置，不可視為緩圖。天津密邇京師，關係尤重，李鴻章籌辦海防有年，為朝廷所倚重，為天下所責備，尤應勉力圖維，不得意存諉卸。將此由六百裏各密諭知之。欽此。
八月十八日（9月18日），法國公使脫利古在天津會見李鴻章，又來要求和談。二十一日（21日），再次會晤，雙方辯論，不歡而散。
九月初三日（10月3日），李鴻章給在朝將領吳長慶去信，答複他關於調一部分兵力回煙台的要求。李鴻章在這封信中分析當前形勢說，法國逼越南簽訂新約以後，越南國王號雖存，而陰降於法。朝內有形勢緊急則調回駐朝部隊之說。但鄙意認為此時應當鎮靜，兩個月內，北方封凍，法國軍艦都在越南，豈能北犯？況且朝廷君臣在日本鼓動下趨向不穩，時時探聽越南消息，似乎在以此決定向背。在這種情況下，我駐朝大軍宜留鎮懾，不可輕率舉動。
這番分析，再次表明他重視朝鮮超過重視越南，同時也令人理解到他不願駐於廣東和上海，而極想回天津的本意。一些指責李鴻章的人往往說他急於回北洋的目的是不願放棄這個地盤，而沒有看到當時朝鮮也不穩定，而這的確是比越南更加嚴重的問題。應該說由於李鴻章及時回到天津，特別是保持在朝的兵力，才穩住了北方。
總署擬將法國對華挾製情形照會給各國，並令邊防軍對來犯法兵進行戰鬥。九月二十六日（10月26日），李鴻章函告總署，中國對於屬邦向來遵守冊封、朝貢的虛文，並不注重實際；對於法越西貢條約也沒有嚴駁，致使法國有話可說。目前中國實力不足以推翻本年七月的法越新約（指順化條約）。因此不要將中法矛盾照會給各國，而應早日結束這場爭端。但總署沒有接受他的建議，還是照會各國：中國一定要保護越南藩屬。
這時在總署裏起決定作用的是清議派首領李鴻藻，他“竟欲東討日本，西擊法蘭西”。在他周圍聚集一批不顧實際情況，自命為清流的士大夫，他們煽動仇外情緒。於是，廣東沙麵洋人居住地方在八月裏發生華人焚燒洋人房屋的事件。而地方官不予處理。被朝廷派到廣東辦理防務的彭玉麟對此也不予理睬。不僅如此，他甚至告訴手下人，洋人來訪，一概不準傳報。這個風一放傳出，20多天中沒有一個洋人敢來。
李鴻章最怕維持將近20年的和平局麵毀於一旦。他趕緊給彭玉麟寫信，十月十五日（11月14日）告訴說：“沙麵毀洋房之案，尚未辦結，各國紛紛猜疑，日有謠諑。目前必須鎮壓民心，勿令妄動，免致因風生火”。二十八日（11月27日）另外電告總署，彭玉麟在廣東所發告示，準許民間視法人為仇敵，而中法並未宣戰；又禁止各國商船進口，更將激怒各國。應請朝廷令彭將告示取消，或者將彭調往別處。三十日（29日），朝廷接受他的意見，下令彭玉麟不許張貼告示，以免煽起仇外運動。
十一月十二日（12月11日），法軍海軍中將孤拔從河內率水陸軍向越南北圻的山西省進攻。十七日（16日），法軍在越南官民作內應的情況下攻下了山西。守在這裏的黑旗軍劉永福部退守興化。清軍黃桂蘭部和岑毓英部也敗退下來。形勢十分緊急。二十六日（25日），都察院左副都禦史張佩綸剛剛被派在總理衙門行走，就奉旨來到天津，與李鴻章共商軍事。他一直住到十二月初一日（12月29日）回京。在這幾天裏，李鴻章把他們商議的結果，整理為妥籌邊計折和妥籌前敵軍事片，上奏給朝廷。其中認為盡管清兵在越戰敗，但關外清軍不宜馬上撤回，反應增加軍隊，加強裝備，與敵人久持，以待機會。黃桂蘭部和劉永福部、趙沃部都應歸岑毓英統一指揮。並由天津撥給桂軍山炮10尊，後膛槍4500支。最後表示態度說，練兵備戰10年，臨敵應戰，當不至於貽君父之憂。
一貫主和的他，何以忽然強硬起來了？光緒十年十二月十二日（1884年1月9日），李鴻章給翁同和的信中解釋說：“越事之興，尚冀迎刃而解，息事寧人。今則局勢屢更，彼此皆騎虎難下。自不得不堅持，以待機會。然岑（毓英）、徐（延旭）皆非能了事者，仍在樞軸之相時操縱耳。若僅在越地鏖兵，利鈍無甚關係，波及內地，則各省強弱不齊，民窮財匱，實大可虞。……我公憂國如家，知必長慮卻顧也。”三天後，又給另一軍機大臣李鴻藻寫信說：“鴻章於事初不敢力主進取，實見得各省戒備，未盡精整，或至一發難收。今山西挫退，敵焰正張，我軍已紮北寧。洵如尊旨，隻有增軍繕備，一意堅持，以待事機之轉。”很明顯，原來力爭和平，是戰爭沒有打起來；現在既然打起來了，而且中國打敗了，求和不得，當然隻好加強戰備。幾天後，他又奏請命令宋慶添募4個營駐劄於營口，曹克忠選勤奮6個營駐於煙台和威海一帶，以加強北洋的防務。