在和巴夏禮的交談中，奕深感不通外文之苦。於是遂有建議設立外交機構之念，於是上書鹹豐，提議創設一個專辦“夷務”的外事機構，名為總理各國事務衙門，並請“另給公所，以便辦公”。
正在熱河避暑山莊避難的鹹豐皇帝將該奏折批交議政王大臣討論，並於1861年1月20日密諭批準。在關於設立總理衙門的諭旨中，鹹豐帝指派恭親王奕、大學士桂良、戶部左侍郎文祥管理衙門事務，由禮部頒給欽命關防，並通令選拔西語人才入署當差，獎勵八旗子弟學習外語。1861年3月11日，中國曆史上第一個國家外交事務的專門機構——總理各國事務衙門，在北京東堂子胡同的一個鐵錢局舊址內宣告成立。
英國學者芮瑪麗將之視為“同治中興”的標誌性事件。
從籌備人到正式辦公僅用了50天時間，在內憂外患國用拮據的條件下，這個昭示中外的國家機構，其門庭遠不及以往各衙署那樣鋪張奢華，整個籌建過程體現了簡樸與高效。在向皇帝報告工作進展情況的奏折中寫到，東堂子胡同舊有鐵錢局公所，分設大堂、司堂等，其大門是舊式住宅結構，如不改成衙門形式，外國人往來會晤，形象不夠壯觀，且有失尊嚴。除將大門酌加修改，其餘則因陋就簡稍做整理，較各衙門舊例大為裁減。據記載，衙署全部職員80餘人，每月的辦公經費僅有300兩白銀，院內門窗全是自己動手糊飾，這裏的辦事效率超過當時輔佐皇帝的中樞機構軍機處。
總理衙門因外國人入侵而設，其建立之初，實際是一個應付時局的臨時機構，朝野內外無不確信國家富強即會裁撤，甚至認為“一日衙門尚存，即一日國光不複”，顯然當時的國人並不懂得什麼是外交。實際上，隨著中外交涉事件的增多，總理衙門作為當時唯一的對外機構，除辦理外交與通商事務外，職權範圍很快擴展到鐵路、礦產、郵電、海防、關稅、製造、傳教、學校等各項新興領域，變成了一個包羅萬象的“洋務衙門”，其在清政府中的作用越來越舉足輕重。
1901年7月24日，清政府明諭將總理衙門改為外務部，名列中央六部之首，管理大臣皆享有豐厚的俸祿。作為清末政治變革的重要標誌，外務部的地位比起當年的總理衙門更加顯赫一時，大量的洋務實業活動繼續從這裏發起。
此後20年間，奕任領班軍機大臣與領班總理衙門大臣，大力促進洋務運動。支持曾國藩、左宗棠、李鴻章等人的洋務運動，鎮壓太平天國，人稱賢王。清流派呼為“鬼子六”。其人主張學習外國科技以加強中國軍事實力，於外交上主張保持與歐美列強的和平，支持並開辦了中國早期的近代新式工商業以及政府機關，是清朝洋務運動的中樞首腦。在其擔任政府首腦期間，清朝先後平定了太平天國運動、撚軍以及西部各省的回民起事。
但是到1884年，光緒十年的時候。中法戰爭爆發，奕所指揮的軍機處進退失據，和戰不定，最後軍隊敗退，慈禧太後借口“萎靡因循”，罷去一切職務，令居家養疾。武英殿大學士寶鋆、吏部尚書李鴻藻、兵部尚書景廉、工部尚書翁同龢同時被貶。之後奕常在西郊戒台寺靜修，一直到1894年中日甲午戰爭敗戰以後才再度被起用，在宮廷權力鬥爭中受盡折磨的奕不複當年，在收拾殘局中他所能做的就是理解和支持李鴻章。
江河日下之際，1898年，再度出山不到4年的奕病逝。宣布了“同治中興”一代的沒落。
芮瑪麗不無同情地寫下最後的結語：“同治時期是一幕悲劇，在勝利的時刻已經預示了崇高希望和巨大努力的最終失敗。該時代的偉大人物在長長的陰影中目睹了勝利，而這便是他們所謂的中興事業。”