12月24日，因李鴻章患感冒，奕劻一人前往西班牙使館，會見英、美、法、俄、德、意、日、奧、比利時、西班牙、荷蘭十一國公使，接受各國所定的《議和大綱》十二條。這一大綱即是後來《辛醜條約》的雛形，按此實行，中國的基本主權在很大程度上將為各國牢牢控製。但已無力反對的清廷隻得應準，三天後，清廷發諭稱：“所有十二條大綱應即照允。惟其中利害輕重詳細節目，設法婉商磋磨，尚冀稍資補救。”
清廷批準議和大綱後，一場曠日持久的談判也由此開始。李鴻章、奕劻按照清廷旨意與各國“磋磨”，力爭“稍資補救”，然而列強態度強硬，寸步不讓。
在這場漫長而無望的交涉裏，李鴻章的努力隻是徒然損耗著他日益衰竭的精力。
阻礙和談進展的關鍵問題，依然是列強認為清政府對於禍首的懲罰過輕。不得已清廷於1901年2月13日第三次下詔懲辦禍首。次日又下詔，宣稱要“量中華之物力，結與國之歡心”。緊接著，又在2月21日，清廷第四次下詔，對於曾經偏袒過義和團的官員痛下殺手，終於使各國滿意，掃除了簽約的最大障礙。
接著，雙方就賠款問題開始談判。列強按照每個中國人人均一兩的設計，提出了四億五千萬兩的賠款數額，以鹽課、厘金、常關稅、漕折作抵。而且進一步恐嚇清政府，不滿足即不退兵，中國要多付兵費。清廷屈服，於5月表示接受此數。此後，各項談判進展加快，在停止文武科舉考試、懲處地方官員、禁售軍火等問題上，經向列強乞求和討價還價，也相繼成議。
1901年9月7日，奕劻、李鴻章與十一國代表在北京簽訂《辛醜條約》，它也成了中國近代史上賠款數額最多，主權喪失最嚴重的一件條約。這一次雖未有割地的懲罰，但是該約所規定的駐軍及使館區製度，將中國的心髒部位置於列強的軍事控製之下。至此，清末的不平等條約發展到它的高峰，其後，雖然有些調整、變化，但大的內容和框架已經完全確定。
《辛醜條約》連同自鴉片戰爭以來清政府與列強所簽署的一係列不平等條約，就像一條條鎖鏈組成了一個巨大的網，在政治、經濟、文化、軍事等等方麵層層綁定，徹底將中國套牢在半殖民地社會的深淵。
當初，李鴻章離開廣州北上時，前來送行的南海縣令裴景福問到此去前景如何，李鴻章說：“我不能預料，惟有極力磋磨，展緩年份，尚不知做得到否，我能活幾年，當一日和尚撞一天鍾，鍾不鳴了，和尚亦死了。”說完涕出如縻，聽者愴然。
的確，為簽訂和約，李鴻章竭盡了他全部的力氣。自1900年底，他便開始患病，轉年7月，病情加重，已不能視事。9月7日，簽字當天，他不遵醫生囑托，堅持參加簽約。回來後，再一次大口吐血。11月6日，已著殮衣，呼之猶應，不能語。第二天，沙俄公使還趕到李鴻章床前，逼他在中俄交收條約上畫押未逞。
俄使走後，他的老部下周馥見李鴻章“目猶瞠視不暝”，便哭著說：“老夫子有何心思放不下，不忍去耶？公所經手未了事，我輩可以辦了……”李鴻章忽目張口動，欲語淚流。周馥將其眼睛抹上，隨即瞑目。李鴻章帶著無限的憾事黯然而去。
在他去世40天後，梁啟超對其評價道：“李鴻章之外交術，在中國誠為第一流矣，而置之世界，則瞠乎其後也。……以中國今日之國勢，雖才十倍於李鴻章者，其對外之策，固不不得隱忍將就於一時也。此吾所以深為李鴻章憐也。”
如果說《辛醜條約》的空前屈辱及李鴻章的悲涼離世，宣告了舊外交的慘敗與終結的話，那麼亦是從辛醜開始，改總理衙門為外務部，“班列六部之前”，也標誌了在內外交困的時代，在李鴻章的經驗教訓裏，近代外交正醞釀著又一次艱難啟程。