甲午戰爭在陸海陸戰場俱失的情況下，清政府喪失了抵抗的意誌，於是他們派遣禮部侍郎張蔭恒和湖南巡撫邵友濂為欽差大臣前往日本議和。然日本方麵認為張、邵二人官階太低，不視為談判對手，經美國公使田貝向清國傳去口風，說若想真心議和日本方麵隻承認清國兩個人為談判對手，一個是恭親王奕；另一個是直隸總督李鴻章。
1895年3月，李鴻章受命前往日本馬關（今山口縣下關市）談判和約。
到達後的次日，中日雙方即以春帆樓為會議場所展開談判。當時的春帆樓裏修葺一新，地上鋪著華麗的地毯，足見日方準備之充分和重視。雙方見麵寒暄完畢後，李鴻章說：“你我東亞兩國，最為鄰近，同文同種，今暫時相爭，總以永好為事。如尋仇不已，則有害於華者，也未必於有益貴國也。試觀歐洲各國，練兵雖強，不輕起釁，我中東既在同洲，亦當效法歐洲。如我兩國使臣彼此深知此意，應力維亞洲大局，永結和好，庶我亞洲黃種之民，不為歐洲白種之民所侵蝕。”
伊藤博文想起十年前李鴻章在天津趾高氣揚、自己忍氣吞聲的受辱經過，心中冷笑，表麵卻說：“十年前在天津時，敝人曾向中堂進言，貴國之現狀，實有改進之必要。但爾後貴國晏然依舊，不圖改進，以至今日，實深感遺憾。”
李鴻章歎道：“我國之事，囿於習俗，未能如願以償。今轉瞬十年，依然如故，本大臣自慚心有餘力不足。貴國兵將，悉照西法訓練，甚精；各項政治，日新月盛。此次本大臣進京與士大夫談論，也深知我國必須改變方能自立。”
第一次談判中，盡管李鴻章想盡力表現出恢宏的氣度，但作為戰敗者，仍難以掩蓋尷尬艱難的處境。事後，陸奧宗光評論說：“李鴻章高談闊論，目的不過是想借此博取同情，間用冷嘲熱諷掩蓋戰敗者的屈辱地位罷了。”此時，人為刀俎，我為魚肉，老李心酸自知。
二十一日，雙方舉行第二次談判，伊藤博文提出的停戰條件是，日軍占領大沽、天津、山海關三地為質，占領期間由大清支付日軍軍費。李鴻章聽後大驚，連呼：“過苛，過苛！”這三地乃北京之咽喉，目前尚在清軍手中，如果日軍占領這三地，萬一談判破裂，日軍就可以迅速進攻並拿下北京，這個條件實在太離譜。
李鴻章強按心頭怒火，說：“我之來此，實係誠心講和，我國家亦同此心。乃甫議停戰，貴國先要踞有三處險要之地。我為直隸總督，三處皆係直隸所轄，如此於我臉麵有關。試問伊藤大人，設身處地，將何以為情？中日係切近鄰邦，豈能長此相爭，久後必須和好。但欲和好，須為中國預留體麵地步，否則，我國上下傷心，即和亦難持久。如天津、山海關係北京門戶，請貴國之兵不必往攻此處；否則，京師震動，我國難堪，本大臣亦難以為情。”
李鴻章想用中國的規矩，講情麵，給麵子，奈何伊藤博文一點麵子不給，並限定於三天內做出答複。英國人說，“沒有永恒的朋友，也沒有永恒的敵人，隻有永恒的利益！”日本人當時以英國人為師為友，在國家利益上，根本不講什麼情麵，國人用這個思維去處理國際事務，豈不貽笑大方？
停戰要款告知北京後，朝廷大震，光緒也為之動容。和朝廷商議後，李鴻章決定暫時擱置停戰問題，先談議和條款。在二十四日的第三次會談中，中方要求日方出示和款，伊藤博文答應次日交閱，但在會談中卻不經意的提起台灣，引起了李鴻章的警覺。
原來，日本在談判中拒絕李鴻章的停戰提議，乃是處心積慮的想奪取台灣。就在前一天（二十三日晨），日本艦隊和五千陸軍已在澎湖登陸並於兩日後占領了澎湖，為侵占台灣做好準備。
正當日本人意在自滿的時候，卻發生了一件意外之事，讓日方措手不及。二十四日下午，李鴻章結束談判後乘轎返回引接寺時，日本人聽說大名鼎鼎的中國全權大臣李鴻章經過，就像現在粉絲見明星一樣，都爭著前來觀看，一時間街道各處人山人海，好不熱鬧。
當李鴻章的轎子從人群中穿過的時候，突然一個日本壯漢暴起躍出，直奔轎前，黑手按住轎夫肩膀，轎夫大吃一驚，慌忙停住，這個暴徒乘機掏出手槍，對準老李麵上猛的開了一槍，槍彈當下擊中李鴻章左眼下，頓時滿臉是血，老李當時還算鎮靜，手掩創口，在日本警察的協助下，急行趕入引接寺旅館，到了旅館之後才厥倒在地，不省人事。
後查明，這個凶手名叫小山豐太郎，郡馬縣大北島人氏，是個二十六歲的無業青年。此人是個日本愛國糞青，長期受軍國主義思想的嚴重洗腦，成天生活在帝國幻想中變得歇斯底裏。小山豐太郎認為李鴻章是日本對華戰爭的主要障礙，曾有計劃赴天津行刺，但因買不起船票而無果，這次李鴻章來日本，機會難得，才有此暴行。但小山沒有想到的是，自己的愛國行為拍到政府的馬腳上，後來這小子被山口地方法院判處無期徒刑，哭都來不及。
李鴻章被刺的事情，讓日本政府很是被動。伊藤博文得知後勃然大怒，咆哮說“寧將自己槍擊，也不應加害中國使臣”，陸軍大臣山縣有朋也拍著桌子大罵“該匪罔顧國家大計”。最後天皇也被驚動，急忙派出禦醫前往護理，皇後還親製繃帶以示慰問。
盡管日本人做了各種努力示好，但消息披露後，世界各國還是一片嘩然，歐美各國紛紛譴責日本並進而同情中國，紛紛表示不能坐視。由於自己理虧和擔心列強幹涉，日本決定放棄踞地為質的要求，實行無條件停戰，但停戰範圍不包括台灣、澎湖。
四月二日，日方出示和約底稿，並限三日內答複。其和約底稿的主要內容是：
一、中國認明朝鮮國確為完全無缺之獨立自主；
二、中國將盛京省南部地方、台灣全島及澎湖列島永遠讓與日本國；
三、中國賠償日本軍費庫平銀三萬萬兩；
四、中國再開順天府、沙市、湘潭、重慶、梧州、蘇州、杭州七處為通商口岸，日本國臣民在各口岸可以自由通商設廠。
李鴻章接閱日方的和約底稿後，再次崩潰。他雖然早就料到日本人心不足蛇吞象，但決沒料到日本人野心如此之大，甚於英法十倍。
日方約稿電告總理衙門後，朝廷展開激辯，但口舌相爭，毫無結果。李鴻章見期限已到，而清廷複電未到，隻得自行擬了一個說帖，除承認朝鮮自主外，對日本其餘三項要求都進行了駁斥：
一、割地一項，日本與中國開戰之時，令其公使布告各國曰：我與中國打仗，所爭者朝鮮自主而已，非貪中國之土地也。若徒恃其—時兵力，任情需索，則中國臣民勢必嚐膽臥薪，力籌報複。”