道光十四年（公元1834年），倔強的左宗棠以在妻家“恥不能自食”，決定攜妻女離開周家借屋居住，靠微薄祿米養家糊口。自立門戶後，左宗棠書聯明誌：身無半畝，心憂天下；讀破萬卷，神交古人。
道光十五年（公元1835年），左宗棠二次進京會試。考罷，仍不中，僅取為謄錄，算是一種安慰。
左宗棠返鄉後，更加發憤求學，誌在必得。詒端受父母挑唆，屢與左宗棠口角，有時甚至惡語相向。夫妻不睦，左宗棠於是在年底，納張氏為妾。張氏貌美賢惠，頗得宗棠歡心。周鄉紳夫婦及詒端深恨之。
遇陶澍結為莫逆
道光十七年（公元1837年），兩江總督陶澍巡閱江西，回原籍湖南安化縣省墓，路過醴陵。
一
為討陶澍歡心，醴陵縣知縣行文各縣學、府學、書院和舉人，懸重金為陶澍行館求題門聯。一時應者如雲，唯獨左宗棠所書之“春殿語從容，廿載家山印心石在；大江流日夜，八洲子弟翹首公歸”被選中，得賞銀五百兩。陶澍住進行館，讀門聯大為欣賞。左宗棠那年二十六歲，正是風流倜儻的年齡。
陶澍越讀這副門聯越感覺用詞講究，大氣磅礴，就打發人連夜把地方官請來，詢問門聯是何人所題。地方官不敢隱瞞，張口便說出“湘陰左宗棠”五個字。陶澍於是打發同來的護衛去請左宗棠。
左宗棠趕到行館的時候，已到掌燈時分，二人稍事寒暄便開始談話。左宗棠有一個特點，就是不管見多大的官，都不打怵。湖南盛傳左宗棠自小就傲慢，和他這個特點有直接關係。
兩個人相談之下，左宗棠最初還有些拘謹，談著談著就放開了。上下五千年，縱橫數萬裏，左宗棠行雲流水，滔滔不絕，直把陶澍聽得驚訝不已。吃完夜宵，陶澍把左宗棠留住在行館，接著縱論古今，大有相見恨晚之意。左宗棠也為陶澍的識見所折服，引為知己。二人一夜交談，竟成莫逆。
陶澍，字子霖，號雲汀，湖南安化人，嘉慶七年進士，與賀長齡、賀熙齡均有交往。陶澍不僅官做得大，藏書也豐，以知人、識人稱於世。陶澍對左宗棠如此欣賞，還因為早在二人相見之前，陶澍就聽說過左宗棠這個人。因為陶澍的長女，嫁的就是胡林翼。胡林翼在信裏誇左宗棠是個奇才，陶澍還不信，經過一交談，已經不是信不信的問題了，而是欣賞加佩服。
陶澍回到江寧後，每與人交談或書信往來，都要提及左宗棠，說左宗棠是當今不多見的大才，將來必立蓋世奇功。這個時期的左宗棠，雖然是湖南鄉下一名舉人，但很多封疆大吏都知道他。
二
道光十八年（公元1838年），左宗棠第三次進京會試，想不到仍然落第。左宗棠一怒之下，從此絕意科舉，立誌轉攻經世致用之學。返鄉途中，廣購農書，並繞道江寧謁見陶澍。陶澍與左宗棠又是一連幾日的深談，相約結為兒女親家。左宗棠把長女孝瑜許配給陶澍的獨生子陶桄為妻。陶澍老年得子，陶桄年僅六歲。二人分別時，陶澍拿出自己的部分養廉銀子送給左宗棠。因為左宗棠除了祿米，沒有其他收入。陶澍贈銀，堪稱英雄相憐，惺惺相惜。左宗棠嘴上不說，心裏已是非常感動。
歸家後，左宗棠用陶澍饋贈的銀子，置田十餘畝，開始致力於農事，以區種為良，作《廣區田圖說》一文。同時，從事輿圖地學研究，抄錄《畿輔通誌》《西域圖誌》及各省通誌中有關山川險要、驛道遠近等內容，分門別類，編訂成皇皇數十巨冊。親朋同窗俱不解，以為無用，均嘲笑之，說他不好好用功讀書。隻有陶澍來信鼓勵他，認為他幹的是正事。