至於日本分琉球南島給中國，而我勢不能守，是使“彼獨享其利，麵我受其害。”對於聯日製俄的主張，他批駁為不切實際。
李鴻章的這份奏折，決定了對日方針。
日使六戶璣接連給總署上了四封照會。總署皆以冷淡態度答複。他隻好悻悻離京。
光緒元年八月二十一日（1875年9月20日），日本軍艦“雲揚”號駛入朝鮮江華島附近測量。朝鮮水兵因其侵犯領水而炮擊。日艦遂攻毀朝鮮守岸炮台，並陷永宗城。事後，日本就以此事為借口，發動對朝鮮的侵略。派六艘軍艦逼迫朝鮮簽訂通商條約，朝鮮以“本為中國藩屬，不敢擅專”的理由相拒絕。朝鮮在所有藩屬國當中與中國關係最密切，受中華文化最深。明朝時朝鮮就一直是中國的屬國，清初大宗時被清兵兩次征服，此後一直成為清朝的最重要屬國。
十二月，日本派外務省大輔森有禮來中國，要求中國表示態度。他先到了北京，見到恭親王，要求中國允許朝鮮對日通商。恭親王對他說：“朝鮮雖曰屬國，地固不隸中國，以故中國曾無幹預內政，其與外國交涉，亦聽彼自主，不可相強。”這是有意推脫。於是森有禮斷章取義，照會總署說，既然這樣，朝鮮就是獨立國，將來日韓交涉與中國無關。總理衙門立即照複，強調朝鮮是中國屬邦，按照中日修好條規，日本不得侵越。
然後森有禮帶著譯員鄭永寧來到保定拜見李鴻章。聲稱：中國如認朝鮮為藩屬，就應該命令朝鮮與日本和好簽約，如不令朝鮮與日本和好，則日本要與朝鮮打仗。這森有禮本年僅30歲，曾在歐洲留學，頗有雄桀之氣。李鴻章對他談條約，他不服，對他談台灣事件，他才承認日本從前辦事有錯誤。
李鴻章對說，朝鮮雖是中國藩屬，但因日本炮擊而傷害了對日感情，縱然中國出麵勸說也沒有用。會談結束時，李鴻章設宴招待，請編修黃彭年和略通英語的候補同知黃惠廉作陪。從談判到宴會結束，長達七個小時。在酒酣耳熱的時候，森有禮說道“取了高麗，有何益我處。”李鴻章看他有些氣餒了，提起毛筆給他寫下了八個大字： “徒傷和氣，毫無利益。” 進一步勸他不要逼迫朝鮮。
事後，李鴻章致函總署說，日本逼迫朝通商，如果朝日兵端一開，朝鮮必不能敵過日本，那時，如果中國不管，則“已薄待屬國鄰交”，甚至我東三省也受威脅，實為“唇亡齒寒之憂”。建議清廷勸告朝鮮忍小忿以禮接待日本。
看來，李鴻章的做法有些自相矛盾。
森有禮離開李鴻章又去北京，繼續與總理衙門糾纏朝鮮歸屬問題。中日正在辯論，日本就派黑田清隆率兵威脅朝鮮，並於光緒二年（1876年）二月，朝日締結《江華條約》，朝鮮對日本開放兩個口岸，日本指朝鮮為“自主之邦”，並在朝鮮開設領事館，享有領事裁判權。事後，朝鮮政府向中國清廷報告了締約經過，並表示繼續遵守屬國製度，遇大事仍請示清廷。
其實，《江華條約》等於否定了中國在朝鮮的宗主權，但中國沒及時抗議。因中國正在與英國辦理馬嘉理交涉案，同時也由於中國的宗藩觀念還是傳統的，認為隻要屬國承認中國是“天朝上國”，接受冊封，進行朝貢，就不幹涉其他的事務了。
李鴻章主張使用“以夷製夷”的策略，建議讓朝鮮與西洋各國普遍通商，以此來抵製日本在朝勢力的發展。持這種意見的還有丁日昌。清廷采納他們的意見。
光緒五年七月初九日（1879年8月28日），李鴻章指示幕賓薛福成替他給朝鮮原任太師李元裕寫信，開導他要與西洋各國普遍通商：“貴國既不得已而與日本立約，通商之事已開其端，各國必將從而生心，日本轉若視為奇貨。為今之計，似宜用以毒攻毒，以敵製敵之策，乘機次第與泰西各國立約，借以牽製日本。彼日本恃其詐力，以鯨吞蠶食為謀，廢滅琉球之事，顯露端倪，貴國不可以無務之。然日本之所畏者泰西也，以朝鮮之力製日本，或虞其不足，以統與泰西製日本，則綽乎有餘。”可是韓國的守舊派並不願接受，派使臣金九植說：“與其通洋而存，不如絕洋而亡。”
光緒七年（1881年），以王妃閔氏為首的新黨當政，有意維新，才接受李鴻章的勸告。六月六日（7月1日），美國水師總兵薛斐爾到天津見李鴻章，請他介紹朝鮮與美國訂約。但因他的得力外交助手馬建忠正在與印度辦理鴉片加稅和禁止問題，所以拖了下來。十一月，朝鮮派金允植率匠徒來天津機器局學習製造技術。十二月初四日（1882年1月23日），李鴻章鑒於越南問題日益緊張，恐日本乘機侵朝，密奏應允許朝鮮與美國訂約，以便抵製。於是朝廷命李鴻章籌劃辦理朝鮮與美國訂約事宜。
光緒八年（1882年）二月，李鴻章派馬建忠和周馥與美國總兵薛斐爾商洽美韓條約的約稿，重點是在約內敘明朝鮮是中國的屬邦。三月，馬建忠與薛斐爾一起東渡朝鮮。從三月二十六日（5月13日）起至四月六日（5月22日），朝鮮政府在中國政府代表馬建忠的監臨下，與美國簽訂了條約。同時聲明朝鮮為中國屬邦。接著，朝鮮與英、德、意、俄、法等國以同樣方式訂約，也就是說都是按照李鴻章模式訂約。
李鴻章之所以勸朝鮮與各國普遍通商訂約，是企圖以國際力量製約日本，防止其侵略朝鮮。這是在中國自己力量不足的情況下，不得已而為之的辦法。
光緒八年（1882年）二月，在湖北作湖廣總督的哥哥李瀚章來信說，老母病重。李鴻章趕緊上折，請假去照看母親。 他的老母親近年一直由哥哥瀚章奉養。自從上年冬天開始，感染便血症。李鴻章派兒子經方到湖北去替自己侍奉湯藥。因為已是83歲的高齡了，接到信，李鴻章就知道病是不輕。
三月初一日（4月18日），朝廷準假一個月，以兩廣總督張樹聲替他署理直隸總督。李鴻章正辦理交卸的時候，又於初七日（24日）接到母親在三月初二日（4月19日）病故的電信。他急忙奏上《馳報丁憂折》，同時，將地方政務和北洋中外交涉所有事宜交給直隸藩司崧駿、津海關道周馥，分別代拆代辦。張樹聲到任後，他又向張樹聲交代好，然後就回鄉守製了。
這時，法國侵略越南的腳步正在加快，時局頗為緊張。
三月初九日（4月26日），朝廷發出上諭，表彰他母親李太夫人教子有方，要求李鴻章在穿孝百日以後，就回天津署理直隸總督： 大學士直隸總督李鴻章現丁母憂，本應聽其終製，以遂孝恩。惟念李鴻章久任畿疆，籌辦一切事宜甚為艱巨，該督細心經畫，諸臻妥協，深資倚任，且駐防直隸各營皆其舊部，曆年督率訓練，用成勁旅；近複添練北洋水師，規模創始，未可遽易生手。各國通商事務，該督經理有年，情形尤為熟悉。朝廷再四思維，不得不權宜辦理。李鴻章著以大學士署理直隸總督，俟穿孝百日後，即行回任。際此時事多艱，該督當以國事為重，勉抑哀思，力圖報稱，即以慰伊母教誌之誌，有厚望焉！
朝廷決不允許他按照常規丁憂三年，而對於李鴻章的哥瀚章則允許按例開缺守製。
三月十一日（4月28日），李鴻章上折懇請終製。但是折內說明有馳驅感激之念，從無瞻顧畏難之念，如果以應該守孝之身出而視事，自然有礙於孝道和名教，請朝廷收回成命，準許他開缺終製。十四日（5月1日），朝廷又用雍正朝和乾隆朝時大臣孫嘉淦、朱軾、於敏中等人奪情留任的特例，挽留李鴻章，告誡他“勿得再行固辭”。
李鴻章的心裏，一時一刻也放不下國事，但是不能不顧及封建禮教和清議的指責。二十一日（8日），他再次懇請終製，表示他並不貪戀權位。
二十四日（11日），朝廷降旨，允許他開去直隸總督的職務，但仍命他署理北洋通商大臣的職務。諭旨內對他的行動有具體指示：“李鴻章著開去大學士署理直隸總督之缺，仍俟穿孝百日後，駐劄天津，督率所部各營認真訓練，並署辦理通商事務大臣。該大臣既經開缺留營，揆之金革無避之義，亦不背於禮經，此係曲鑒其懇切之憂，從權酌辦，俾得忠孝兩全，可無遺憾，當亦天下所共諒。”這道諭旨與其說是發給李鴻章的，還如說是發給輿論界的，是讓大家都知道李鴻章以本應回鄉守製之身留津辦事，是國家需要，可不是他個人戀棧。怕他不能仰體朝廷的好意，又派王文韶於二十九日（5月16日）來到天津當麵向他述說朝廷的依賴之意。
李鴻章看到官樣文章已經做夠了，便請王文韶回京替他代奏，如果百日假滿後，國家太平無事，還請朝廷允許他續假營葬老母；如果有告急警報，當即遵旨赴津籌辦。 這些都辦理完了，他於四月十四日（5月30日），離開天津，起程奔喪。二十六日（6月11日）迎請老靈樞到合肥。 此時，李家滿門都是國家功臣，而且總督就出了兩個，不止是在安徽，就是在全國也是數一數二的望族了，白事自然辦得十分隆重。
李鴻章的好友、大學者俞越為李太夫人撰挽聯為： “賢母之名，定自朝廷，降明詔褒揚，榮在重重芝誥外； 諸侯之孝，異乎士庶，讚廟謨撻伐，謀成五五堊廬中。” 這是紀實之作，因為李鴻章兄弟都是總督，可以比照於古時的諸侯，李老太太得到諸侯的孝思，當然不同於一般。更何況老太太的賢母之稱是朝廷諭旨裏所定的，更是無比榮寵。
翁同和也送了挽聯，上寫： “八十三年，極人世富貴尊榮，不改儉勤素誌： 九重一德，為賢母谘嗟震悼，要全忠濟時艱。”
上聯說老太太活了八十三歲，處人間尊榮而不忘勤儉本色；下聯勸李鴻章兄弟為母盡哀，勿忘移孝作忠。共濟時艱。
名士李慈銘在上一年曾得李鴻章資助二千兩白銀，這次特意用白綾寫出一聯： “槐鼎熊茵，甲率雙迎武韓國； 鞠衣密印，養堂專祭定夫人。
這是用典。典出唐朝平定安史之亂的李光粥和李光進兄弟，恰好也是兄弟二人為國立功，母親被封為韓國夫人，李鴻章兄弟正好可比。下聯取晉書列女傳，虞潭母武昌侯太夫人孫氏的事跡。
正在這時，朝鮮發生了兵變，日本派兵到朝鮮，將要有所動作。
六月十九日（8月2日），朝廷下詔給李鴻章：“李鴻章回籍穿孝，現計百日屆滿。北洋事務關係緊要，朝廷懸係殊深，著裕祿傳知李鴻章懍遵前旨，即行起程，前赴天津，勿遲稍緩。” 怕他不回來，又於二十四日（7日）和二十九日（12日）連發兩封諭旨，催他速回天津，部署海陸各軍。
七月初八日（8月21日），李鴻章上《遵旨赴津辦防折》，內述他的憂國之心說：“雖在苫塊之中，眷懷君國，默念時局憂煎，不能處安。”奏稱七月十二日（8月25日）起程回津。 此行有關國防大計，他特意路過南京，與擔任兩江總督的左宗棠商議沿海沿江防務問題。然後到上海查探各國消息。最後才乘輪北上。