李鴻章作為清廷的全權大臣，於2月11日赴日本議和。
李鴻章與列強進行過許多次談判，但從來都沒有像這一次這樣痛心過。他並不是擔心自己的性命，而是想不通這個龐然大國怎麼會落到如此地步。
談判的空隙間，他幾次來到波濤洶湧的大海邊，悲憤地痛哭。李經方拉住虛弱的父親說：“為了四萬萬同胞，為了中國不至於亡國滅種，還可以徐圖自強，無論如何，父親你要挺住！你的恩師曾國藩不是幾次被太平天國打得跳水自盡嗎？他還不得爬起來戰鬥？今天的情形，就跟鹹豐四年差不多呀。”
李鴻章打起精神，瞪著幹枯的眼睛說：“地是肯定要割的，款是肯定要賠的。可是地割多了，國人悲痛，輿論大嘩，你我將成為曆史罪人啊。”
李經方說：“此時，你我不下地獄，誰下地獄！父親，事到今日，兒子不得不說，洋務運動是徹底失敗了！我們隻是想學夷人船堅炮利，而不學人家的政治經濟體製。兒子以為，今天的失敗正是大清體製的問題，是人的問題！淮軍將士一個個貪生怕死，而湘軍卻被長期冷置。如果再打下去，隻怕東北三省不保，隻怕京畿難保！國內反對朝廷的餘黨會趁勢而起，英美俄德列強會趁機掀起瓜分中國的狂潮。今天的局勢，中國真正到了亡國滅種的危急關頭，如果我們不去擔當曆史的罪名，後果不堪設想啊！在這個緊要關頭，父親你可不能再昏頭了！曆史留給後人去評說吧！”
李經方這番話，給精神崩潰的李鴻章重新灌注了力量，他咬緊牙關說：“就是這幾根老骨頭丟進太平洋喂鯊魚，也要為國家據理力爭，能爭多少是多少！”
談判進行得相當艱難。日軍又開始進攻台灣島，並且把遼東半島的日軍集結到山海關下。
有一天，李鴻章離開談判桌返回寓所，被日本浪人開槍擊中頭部。李鴻章沒有生命危險，反倒不像以往那麼軟弱了。他要讓國際社會看一看日本人的嘴臉。他說：“大不了又接著打吧！中國還有四萬萬同胞，東北沒有了還有華北，華北沒有了還有江南，還有雲貴高原、西北沙漠。隻要中國還有一個人，就要和你們拚到底！”
果然，日本的粗暴行徑引起了美英俄列強的不滿，他們也不願看到一頭大象被一條水蛇獨家吞食，決定進行幹涉。伊藤博文擔心眼看就要到嘴的肥肉被陸軍部這一鬧就會吃不到嘴裏，連忙跑到李鴻章的病榻前慰問，同意先停戰再議和。於是，議和在李鴻章的病榻前進行。
不久，日本提出最後修正案，伊藤博文對李鴻章說：“停戰多日，期限甚促，和款應從速定奪。我已備有改定條款節略，但有允、不允兩句而已。”
這哪裏是談判？李鴻章悲憤地對李經方說：“弱國無外交，記住今天的恥辱，中國總會有重新傲立於世界的那一天！”
4月17日，李鴻章與日本內閣總理大臣伊藤傅文及外務大臣陸奧宗光在馬關的春帆樓簽訂《馬關條約》，包括《講和條約》十一款，《另約》三款，《議訂專條》三款，以及《停戰展期專條》兩款。
條約的主要內容是中國承認朝鮮“完全無缺之獨立自主”，實則承認日本對朝鮮的控製；中國將遼東半島、台灣全島及所有附屬各島嶼及澎湖列島割讓給日本；中國賠償日本軍費庫平銀二萬萬兩；開放沙市、重慶、蘇州和杭州四地為通商口岸，日本政府可以派遣領事官在以上各口岸駐紮，日本輪船可以駛入以上各口岸搭客裝貨；日本臣民可以在中國通商口岸城市任便從事各項工藝製造，將各項機器任便裝運進口，其產品免征一切雜稅，享有在內地設棧存貨的便利；日本軍隊暫行占領威海衛，由中國政府每年支付占領費庫平銀五十萬兩，在未經交清末次賠款之前日本不撤退占領軍；兩國將戰俘盡數交還，中國政府不得處分戰俘中的降敵分子，立即釋放在押的為日軍效勞的間諜分子，並一概赦免在戰爭中為日軍服務的漢奸。
該條約的簽訂，使中國社會的半殖民地化進一步加深，同時它也成為中國近代民族覺醒的一個重要轉折點。
李鴻章萬般無奈，代表清廷簽署了繼中英《南京條約》以來最為嚴重的喪權辱國的《馬關條約》。消息傳出，全國嘩然。拒和廢約、遷都再戰的呼聲震撼了整個北京城。東北前線的清軍集結在海城一帶，聯名上奏，要求與日軍決一死戰。正在北京應試的舉人康有為等人，聯合各地應試的舉子公車上書。
台灣人民聽說台灣被割讓給日本，“若午夜暴聞雷轟，驚駭無人色，奔走相告，聚哭於市中，夜以繼日，哭聲達於四野”。政府無能，他們準備自己起來捍衛台灣。
《馬關條約》簽訂後，劉坤一對和議頗為不滿。他對唐景崧和劉永福堅持台灣抗戰表示支持，派道員易順鼎趕赴台灣聯絡，並邀請張之洞共同增援台灣。
陳湜升任江西布政使，不久又改駐山海關，專辦湘軍操防事宜。