所謂北洋通商大臣，望文生義，即有一個南洋通商大臣。事實上，確有此事。同治元年（公元1862年）夏，曾國藩任兩江總督時，朝廷就掀起過一場關於南洋通商大臣職銜設置的議論。起初，時任“通商事務大臣”（亦即“南洋大臣”）的薛煥向朝廷提出，設置南洋通商大臣。他在奏折上稱：“專設大臣統轄，地方較多，鞭長莫及，事勢亦多格礙”，“請即裁撤，各歸本省督撫將軍經理”，最後，薛煥建議從曾國藩和官文幕僚中選拔一人兼領長江通商事務。朝廷認真研究，後向曾國藩詢問意見。曾國藩認真分析形勢，上奏道：“南洋之廣，設一大臣統轄江、楚、蘇、浙、閩、粵六省數千裏之遠，薛煥所稱鞭長莫及，誠屬實在情形”，曾國藩又話鋒一轉，稱：“通商大臣之專職不可撤，建議把廣東、福建、浙江之事分出，改為長江通商大臣”，“專辦瀕江四省中外交涉事件”，又稱自己身值兩江總督，軍務繁忙，不能兼任此職，署理江蘇巡撫的李鴻章，資質尚淺，軍事方殷，亦不能舉洋務之事。其實，曾國藩不想兼任通商大臣，之後，他也確實未受理此職。
朝廷看完曾國藩的奏折，實施一分為二的方法，答應其人不受理通商大臣之職，卻別出心裁地實授江蘇巡撫後兼任南洋通商大臣。同治四年（公元1865年），他署理兩江總督，南洋通商大臣之職移至該總督之職上，曾國藩卸任平撚統帥後繼任之。直隸總督兼任北洋通商大臣定例之後不久，兩江總督兼任南洋通商大臣之例亦確定下來。
此時，曾國藩於直隸總督位上已一年半，但始終未能獲得天津教案的滿意結果。再往前，曾國藩涉外方麵幾無。總的看來，曾國藩一生對外交方麵的貢獻微小，更欠對外交方麵的敏感性。在此方麵，有一件事可以證明。同治七年（公元1868年）七月間，曾國藩因在外交方麵的不謹慎，導致一起案件發生，致使外交文件泄密，發現者為總理衙門。曾國藩密陳一封關於與外國修約事宜的奏折內容，被上海一家報紙刊載出來，要求駁回各節，“曆舉無遺”，主持總理衙門的奕□及有關人員見後，“不勝疑訝”，隨後又收到總稅司赫德抄送之全文，奕□追問來源，赫德稱是領事官抄寄。在此情況之下，總理衙門要求曾國藩追查緣由，曾國藩隨即上陳了請處之折，致函總理衙門，表示願意承擔責任。此折中未對具體泄密情況進行講述，隻是簡單提及：“查密封陳奏之事，臣未能格外慎密，以致被人傳抄，疏忽之咎，實無可辭”。上諭要求總理衙門處理。
曾國藩於奏折中表達了自己的難言之隱，實在可諒。但事實就是事實，事已發生，事前未有動作，事後卻未予以懲治，所謂“即訪得泄露之人，擬不複奏請究懲”之說，讓人無法理解，實是對曾國藩自己開脫，尋找一條台階下，讓朝廷不再深究，放之任之。其間，針對預防機密泄露之案，朝廷於同治元年（公元1862年）即專發了一份諭旨於曾國藩、李鴻章等人，稱“外國人喜於探聽消息，一切交涉外國事件寄諭稍有泄露，即據為口實，生出無數事端”，要求官員們不可疏忽大意。因此，所涉之外交事件，無論是寄諭還是奏折，都須保密行事。此次，曾國藩明顯是疏忽大意了，讓朝廷抓胡把柄。
此番天津教案，曾國藩秉持“誠”字訣，自然收效甚微。朝廷對其人之清議也未予以合情合理之解釋。當時，國際形勢異常複雜，國家之間的較量此消彼長，單單靠個人能力往往很難有所作為，此時，輿論對他的攻擊相當嚴重，就個人而論，此是一種切身之痛，所以曾國藩內心對其砥礪異常。此後，在北洋事務上，朝廷並未給他補救之機會。此時，他回任兩江總督，卻依然有諸多外交事務繁忙。同治十年（公元1871年）正月間，曾國藩就關於於日本修約之事，與朝廷進行過一定交涉。曾國藩認為，與日本修約，“明定章程，期於永遠相安，則條約所載不外體製與稅務兩端”。當分析日本情況時，曾國藩認為：“（日本）本無威懾中土之心”，“其自居鄰敵比肩之禮，欲仿英法諸國之例，自在意中”；他還認為：“日本自詡為強大之邦，同文之國，若不以泰西諸國之例待之，彼將謂厚騰薄薛，積疑生釁”，“悉仿泰西之例亦無不可”。曾國藩的觀點很明確，即日本欲樹西洋人之威，挾中土人之困。中國人練兵以圖強，並不揚外國人之威，“果其百度修明，西洋東洋一體優待，用威用德隨時製宜，使外國知聖朝馭遠一秉大公，則萬國皆將亮其誠，何獨日本永遠相安載”。
曾國藩視日本為“小國”，與愚昧無知之頑固派產生鮮明對比，但又主張與日本修約，以示永好，寄希望於一個“誠”字上，顯然是一種幻想，更能見其迂腐一麵。可見，曾國藩秉承一個“誠”字外交，是處處碰壁的。
尚未離開北方之前，曾國藩認為自己回任兩江總督實是“畫蛇添足”之舉，上疏朝廷，要求撤回南下江南之令。終未獲批準，南下之前，他又要求覲見皇上，給出兩個理由：一是自己六十大壽，獲朝廷重賞時，要當麵謝恩；二是曾國藩要當麵聆聽聖命。就他個人而論，其人深藏著自己京畿之眷念。最後，覲見獲準，曾國藩於九月下旬麵見皇上，並受到三次召見。至此，曾國藩行將結束之人生，因獲得皇上的召見而更顯幾分色彩。