光緒七年（1881年）十月二十日，左宗棠陛辭山都，眷屬也一同回湘。十一月二十五日抵達長沙。他自鹹豐十年（1860年）八月離開長沙後，一直沒有再回家鄉，一別已是21年。這其間，周夫人、二哥景喬、兒子孝威、女兒孝琪和孝都相繼去世。回到司馬橋老宅，樓閣依舊，可是物在人非，他已不能再見到逝去的夫人和兒女們，他那乍回故鄉的滿懷喜悅，頓時化為無限的懷念和傷感了。
這所宅子是鹹豐年間胡林翼和駱秉章共同買下送給他的，原來隻有兩進房子，共約20間房和一些空地。後來人丁增多，4個兒子娶了媳婦，生了孫兒孫女，房子已不夠用。光緒四五年間，孝寬負責管家，又將南鄰李姓舊宅買下，利用其地基改建了一進正屋，前麵有一大廳，大廳左為書房，右為客廳。院前植以花木，這些都是左宗棠自己設計的，準備退體後在此終老。他說：“隻要夏不熱，冬不寒，明窗淨幾，起居自適足矣。”百年之後，即作為祠堂，可省修建之費。他原想退休後回到鄉下，但鄉下沒有住宅，也沒有找到合適的地點，長沙又有現成房子，因此放棄了鄉居計劃。
他走進新建的花廳裏，抬頭看到木板牆壁上掛著一副對聯：“身無半畝，心憂天下；讀破萬卷，神交古人。”是他廿五歲時（1836年）寫以自勉，30年後，在福州準備西征時（同治五年），又重寫此聯，用以勉勵兒孫的。那時他以為語氣有自誇之嫌，但是年輕人誌趣固不妨高些。回憶初次寫這副對聯時，他正住在湘潭嶽家周氏西樓，與周夫人日夕鑽研地學，這種美好的日子已經渺茫不可再得了。
他還牽掛著那一片菜地和小小的池塘，20年前在湖南幕府工作餘暇，常到地裏種菜、養魚，如今不知怎樣了。於是獨自一個走到後園去，看見菜圃內仍種了些菜，長得很茂盛，家人知道他的愛好，勤加培養。池塘裏也還養著幾十尾魚，他低頭看著魚群在淺水中搖頭擺尾地嬉遊，忽然在水中看到映照著自己蒼老的麵容，戰場上的風沙在他的額頭上劃下了好些道深深的皺紋，使他想起了他的年輕時代和忠貞的伴侶詒端夫人，他們曾在早晨和傍晚無數次地在這個園子的小道上漫步，兒女們的音容笑貌依然還在眼前。他抬起頭來，天空中有一片變幻莫測的白雲在緩緩地移動。和20年前的景物一樣，他不禁歎了口氣，幾滴眼淚沿著臉頰流了下來。
回到一別多年的故鄉，也容不了他沉湎於往事之中，紛繁的應酬等待著他。這次回鄉，是立功絕域，拜相封侯，衣錦榮歸，當地官員和親朋好友紛紛來拜望、宴請他，對一些重要的官員，特別是一個些老朋友，他還得去拜望。按照清代的封建規矩，他出行時有一大批隨從，大轎前有兵丁、執事手持旗傘銜牌等，牌上有各種頭銜，如“二等恪靖侯“、“東閣大學士”、“一等輕騎都尉”、“賞穿黃馬掛”、“兩江總督”、“南洋通商事務大臣”等。長沙城小，街道狹窄，每當他出行時，街道兩側都擠滿了圍觀的人群，大家都想看看家鄉出的這位大人物。左宗棠素性豪爽，他索性命將轎簾打開，和老百姓會麵，路上還不時和他們談笑幾句。
在他所要拜望的老友中，有郭嵩燾、郭？燾兄弟，他們都是年輕時的至交，現在都卸職在家中。特別是郭嵩燾，在他危困時曾救助過他，後來又被自己參劾罷官，多年來始終未能釋然於懷。在他回長沙的20餘天前，郭嵩燾在《申報》上看到兩則消息：一是高心夔（碧湄）去世；另一是左宗棠詔授兩江總督，十月二十日左右可出都。鹹豐年間左宗棠遭官文樊燮構陷時，高心夔和郭嵩燾都曾在皇上前講過好話，救過左宗棠。兩則消息同時刊出，他不免感歎萬分：“碧湄才人，終身蹭蹬；而左恪靖發揚蹈厲，一往無前。兩人命運何其懸殊！”顯然，他對自己的命運也有所感喟。
到長沙後的第三天，左宗棠就去拜訪郭嵩燾。他以為公事是公事，私交是私交，他和郭嵩燾的私交是不可泯滅的。郭嵩燾座上已經有幾位友人，他們縱談許久。宗棠和嵩燾在處理外事上意見不同，宗棠就娓娓談他在直隸修治水利，疏浚永定河的經驗，嵩燾認為“頗能自成其說”。宗棠批評沈葆楨對西征協餉不力，以為忘恩背義，嵩燾卻竊笑：“而不自知為忘恩背義之尤者也。”他們這次重會，總算不錯。第二天，嵩燾去回拜他。嵩燾看到宗棠這次成功歸來，騶從甚盛，也不禁讚歎：“左季高亦雲豪矣！?”
兩天後（十二月初一日），左宗棠請郭嵩燾兄弟吃飯。郭嵩燾叫郭嵩？燾準備幾樣菜肴送去赴宴，自己卻推辭不去。左郭兩家是經常往來的，孝寬又托幾位朋友一定要拉嵩燾去，他卻堅持不去，認為“此去無以為名”。初二日，他主編的《湘陰縣誌》完成了，他準備送一本給左宗棠，但聽說宗棠已去湘陰，隻得作罷。
半個月後，左宗棠離開長沙剛兩天，郭嵩燾聽到一則消息，有言官奏劾李鴻章某件事，廷議交左宗棠查辦。他非常不高興，在日記中寫道：“心緒頗惡。”他和李鴻章在思想、政治態度、對外事務等方麵頗為一致，是同路人；和左宗棠則格格不入。他和宗棠私交的破裂，恐怕不僅止於曾被參劾罷官。從此，他們沒有再見麵了。
左宗棠在長沙還有一位老友要去拜訪，是李（仲雲）。二十年前當他受官、樊陷害，處於最悲慘、危險的境地時，準備離長沙赴北京會試，手頭拮據，李慷慨解囊，贈他三百金，才得以成行。雖然後來在襄陽被胡林翼派人攔住，未到京師，但他始終不能忘懷李在他困難時對他的幫助。二十二年來他戎馬倥傯，沒有能及時將這筆錢還給李仲雲，這次決心要了卻這樁心願。不想他回長沙後，才得知李已於數月前去世。他不勝悵悵，隻能前往靈前祭奠，並將銀送還李後人。他寫了一副挽聯：
古誼契苔芩，論交我在紀群列；
騷心壯寥寂，並世天生屈賈多。
他還寫了一篇短序，記述這段贈金經曆，序末說：“詣靈奠？，並出囊餘金償夙諾，蓋謂此意固不可負也。嗚呼！豈尋常酬答之私雲爾哉！”這真有點像吳季紮留劍於墓門之意了。從挽聯中可知他對李的評價很高，認為他是懷才不遇、？傺一生的屈原、賈誼一流人物。 他在長沙停留的時間很短，但仍很關懷長沙城的建設和人民生活疾苦。他乘船經過湘江時，發現湘江風浪大，行船危險，就親自沿江察看，建議開挖北郊碧浪湖舊址，從鐵爐塘新河疏浚進去，形成一個大灣，麵積約一平方裏。遇到大風大浪時，船隻不能在湘江邊停靠，可以避進此灣。因為碧浪湖已成平地，需要開挖丈餘，才能引江水進入，工程較大，約需數萬金費用。當時隻是擬議，幾年後左宗棠捐出了二萬兩銀，這個大灣後來建成了，即在現開福寺後。到1960年才逐漸壅塞。 左宗棠回到故鄉，和家人親友短期的團聚還是很快樂的。年初雖然張夫人和幾個兒孫到京師陪侍，但女兒孝瑜、孝琳因已出嫁，二兒孝寬留長沙照管家務，都未能去京長期陪侍。這次回來，看到分別多年的女兒、女婿、外孫兒女、侄兒輩等，大家高高興興，對一個老年人，確是難得的樂事。回長沙後不久的一天晚上，女婿陶桄和女兒孝瑜備了家宴，請老父親和全家共聚，席上全是家人，宗棠興致很好，他平日在兒孫麵前比較嚴肅，但其實是一個生性幽默、喜歡說說笑話的人。他環顧一周，然後笑著對陶桄說：“兩江名總督，湖南出了三人，一位是你老太爺文毅公，另一位是曾文正公，再一個就是我。可是他們二位都不及我的命好。”
陶桄和孝瑜、孝寬、孝勳等都要聽聽老父的命究竟好在哪些地方，隻聽宗棠又說道： “文毅沒有拜相，文正雖然封侯拜相，但是生前沒有能回家鄉，我倒兼而有之了。”
陶桄等聽了方知原來如此，覺得也很有道理，隻聽宗棠又說：“我也有一點不及他們呢。”
合座都要聽聽是哪一點不及文毅和文正二公，宗棠摸摸他的短須，笑嘻嘻地說：
“我的胡子可沒有他們那麼長呀！”
家人們平日不敢在他麵前高聲言笑的，這時禁不住笑得前仰後合。
他在長沙度過了7天的愉快生活，十二月初二日起程回湘陰故裏，祭掃祖墓。從鹹豐四年離開白水洞，離別故裏已二十六七年了。他對家鄉的一草一木，都有深厚的感情。他先去祖父母墓前祭掃，然後來到童年時祖父教他讀書識字的梧塘書屋，他在外地多年，還時常回憶起這一段美好的黃金時代的生活，也常夢回梧塘書屋，他看到友人羅權如所畫的一幅《讀書秋樹根圖》時，就想到了他自己的書屋，題詩說： “圖開鬆桂書千卷，夢到梧塘屋兩間。”可是眼前看到的，卻隻是兩間敝舊、狹小的房子，已非複記憶中的童年流連遊處的樂地了，但是後山坡上仍然是一片密茂的樹木，雖然時值冬令，仍有青鬆翠柏掩映其間，使他想起童年時爬上山坡摘栗子的情形，祖父誇他分栗子公平，將來能成大器。母親說他可以封侯，不想如今真的封侯拜相了。可是祖父母、父母早已長眠地下，墓木已拱了。這是可哀又無可奈何的事。
他來到柳莊，柳莊的景色依然美好，十幾株梅樹在寒冬怒放，門楣上還懸著他題的“柳莊”二字。他在田頭漫步，回憶那年大災荒，他和周夫人在柳莊門前施粥施藥，眼前一群群扶老攜幼、麵黃肌瘦的災民，那時的心情委實不好受。而今二十餘年過去了，他已是皤然老翁，雖然為國立了功業，在各地也沒有忘記盡力為老百姓作一些好事，但是國家仍然貧弱，廣大人民仍然生活在貧困之中。他呢，日暮途長，盡管朝廷和人民還對他寄予期望，不容許他優遊林下，自己卻知道能力和體力都有限了，隻有勉力而為之吧。 因為有重任在身，在湘陰不能久留，回到長沙後就檢理行裝，十二月二十四日他和家屬離開長沙，起程前往江寧履任。 “行盡秋山路幾重，故山回首白雲封。”當他乘坐的輪船沿湘江順流而下，離家鄉愈來愈遠時，他想起了舊作中的這兩句詩。“行行重回首”，他和夢中常到的梧塘、柳莊、梓木洞以及司馬橋老宅，永遠告別了，從此再也沒有回來。
光緒七年（1881年）十二月三十日（除夕），左宗棠抵達南京，隨即接任兩江總督，受印視事。 南京在清代又稱江寧，一名金陵、白下，或石頭城，背山麵水，龍盤虎踞，形勢萬千，是中國七大名都之一，兵家必爭之地，也是七朝金粉繁盛之鄉。兩江總督管轄江、皖、贛三省，是中國最富庶的地方，又據長江下遊入海要衝，無論在政治、經濟和軍事上，都十分重要。因此兩江總督在地方大員中，地位最為顯赫。左宗棠住進總督府後，隨即想起了兩位他所崇仰的前任：一位是陶澍，一位是林則徐。四十三年前（道光十八年）他去京師會試落第後，曾應邀繞道南京進謁陶澍，在總督府盤桓數日，二人訂了深交。那次是來作客，這次舊地重遊，卻是入主督府了。陶、林二公在他微時就對他寄予深厚的期望。他接任兩江總督，雖然已隔了好幾十年，但他決心作二公的繼承人，履行二公未竟的遺誌。
陶、林二公在江南任內的重點施政，一是水利，二是鹽務；另外，江蘇濱海，海岸線長達千餘裏，海防極為重要。左宗棠到任後，首先也是抓這三項任務。他說：“兩江時務之要，無過海防、鹽務兩端；而水利，尤民命攸關。三吳之富強貧寡，全在乎此。”列強侵略中國，海防首當其衝，而水利和鹽務則是與人民利益攸關的事業。
他到南京時正逢過年，剛過完元宵節，他就急不可耐地去巡視境內各地的兵力，還要去勘察以水害著稱的淮河和運河的水利形勢。光緒八年正月十六日，他率隨從出省城閱兵，二月初一日到揚州，初二日道經高郵，視察南運河工程，初五日到清江浦，一方麵調閱江北各營，一方麵巡視運河堤工和淮河形勢，隨後沿中運河，曆順清河、張福口、運口等處，視察禮河正壩。到正月二十五日回到南京。通過親自勘探研究，他對淮河水害有了一定的了解，定出了興修水利的方案。
淮河本來有自己入海的大道，自金、元以來，黃河南移，奪去了淮河故道，後來黃河又改道北徙，淮河故道被黃河夾帶的泥沙淤塞，河床升高，泄水不暢，而地形北高於南，淮水如非盛漲，就不能遵循故道入海，因而改道由洪澤湖向南輾轉流入長江，淮河也就成了容易泛濫、多災多難的河流。左宗棠沿黃河故道勘察到雲梯關，又由大通口到響水口，查勘引黃河入海道路；他提出一項雄心勃勃的治淮規劃：先將入海口段淤泥挖開一條深水道，引淮水流經雲梯關一帶，獨行入海。責成兵夫分段挑浚兩旁淤地。這項工程十分浩大，他認為“事在人為，不惜費，不惜勞，天下無不辦之事。”
但他也認為這項工程應逐步實行，不可求速。當前農事更為急迫，應保證農民有一個好收成，因此首先興修運河東西兩岸堤工，疏浚下河各州縣支河，既免於泛濫，又便利灌溉和運輸。在他兩年多的任期內，舉辦了幾件重大的水利工程：
一是打通朱家山工程。過去每當汛期，安徽滁州、來安、全椒的山水由三麵下注，加上定遠、合肥的水，彙入三汊河繞經六合200餘裏，始流入長江。每值淫雨水漲，因為河流紆緩，不能及時泄水，因而泛濫成災。滁州、來安、全椒、江浦和六合的圩田數十萬頃全被淹沒。如果打通朱家山，引滁河水經由浦口宣化橋入口，水患可大大減少。這個方案在乾隆、嘉慶時就屢次有人提出，但是因工大費繁，始終沒有實行。左宗棠下了決心，調集湘淮軍30營，刻日興工。他曆來興修水利，都是采取“借兵勇以代民力”的作法，目的是“不資民力，且能代民勞，而民享其逸。”
朱家山工程自浦口起至張家堡接通滁河，綿亙20餘裏。為了打通河道，朱家山中段石脊須挖深20餘丈。左宗棠親往探視，見“石根內幡，堅凝如鐵，連成一片……最難措手。”正好王德榜從直隸調到。王德榜興修水利有經驗，在甘肅狄道州曾挖過山、開過河，宗棠命他率部隊相助，采用爆破法，鑿石穿孔，埋入火藥，層層爆炸，光緒十年二月終於開通了朱家山河。這項工程的完成，不僅沿江圩田平時受利，遇山洪爆發，也可避免過去人畜廬舍漂沒之慘。船隻可由內河航行，不必經曆大江風濤，對農、商都有益。