道光十八年（1838）4月。張穆諧友人遊曆長江以南一帶，除江浙外，足跡還遍至湘、桂、閩、粵。
當時，北京通往南方的鐵路尚未修建，張穆此次南行，該是乘舟沿京杭大運河循水而下。是年五月下旬，抵達江陰，駐足於江陰學使署。這從張穆的五言古詩的標題《五月下旬初抵江陰。春圃侍郎邀諧同幕諸君，遊君山，晚宴存雪亭，即送許蓮西大令歸裏》中可以看出。
除此之外，這首詩的標題還向我們透露出了兩點消息。一是此時的祁寯藻正在南方做官，二是張曾經諧友人遊覽了洞庭湖畔的君山。
六七月間，遊曆湘、漓、閩、粵。有一首詩記錄了他這次遠遊的行蹤：“我時亦銜星詔出，高建英簜渡湘漓”“東閩西粵隔重嶂，引領還得遙相望”。
這次江南之遊，開闊了眼界，增長了見識，對他後來的寫作和研究都大有裨益。
不幸的是這一年冬天的10月25日，其妻劉氏病故。但遠在江南的張穆在臘月初八日才得知她的死訊。13日作《悼婦篇》，悼念他的妻子。前有小序曰：“十二月十一日，君亡四十有九日矣。黑雲如磐，燈寒雨晦，拉雜寫此，寫畢不能複視也。”傷痛之情，溢於言表。詩中“蚌珠隨地碎”句下自注：“曾有二子，皆夭折”更令人不忍卒讀。
道光二十三年（1843）的秋天，張穆再遊江南，足跡遍至長江淮河流域，從行程上看，主要是會友和訪賢。
在這次南遊中，張穆與何秋濤訂交。
何秋濤，字願船，福建光澤人。進士出身，官授刑部主事。秋濤鑽研漢學，尤精輿地之學。因俄羅斯地在北界，與我國邊卡切近，而未有專著加以考證借鑒，於是編著《北徼彙編七卷》，繼而詳加修訂。鹹豐七年（1857），皇帝賜名《朔方備陳》。
張穆和何秋濤都關注我國北方輿地，誌趣相投，可以說是一見如故。後來，秋濤和張穆在北京比鄰而居，來往密切，如同一家。張穆死後何秋濤為他撰寫墓誌銘，竭力稱頌他的生平業績，並整理、校訂他的遺作《蒙古遊牧記》最後付梓刊行，是個有始有終的人物。
張穆在南遊期間，還在揚州拜見了曾任體仁閣大學士加太傅的大學者阮元，並將自己的幾本著作贈送給他。阮元翻閱《俄羅斯補輯》時，讚歎道：“可謂天下奇才，二百年無此作也！”張穆請阮太傅賜撰《延昌地形誌序》，阮元欣然答應了他的要求。並書贈一聯以資鼓勵，聯語是：“講學是非求實事，讀書愚知在虛心。”
此聯語言淺近，但文筆曲折，不加疏通會產生誤解。“講學是非”一句，是說研究學問判定是非要講求實事求是。下句中那個“知”通“智”。這句的意思是，讀書的愚蠢和智慧是體現在能否虛心汲納，融會貫通書本的內容。
這既是對張穆的肯定稱讚，也是對他的鼓勵和期盼。張穆把這兩句話，“書於座右而自箴。”
張穆感到十分的欣慰。在他的《複阮芸台相國書》中，把這次會見比作東漢末年的大學者蔡邕接見建安七子之首的王粲。張穆在信中對阮元尊敬有加，但也沒有小瞧了自己。那王粲雖然其貌不揚，為劉表所不容，但後來曹操卻慧眼識才，委以重任。相傳：“王粲馬上作檄，援筆立就。”從中可以想見這位考場失意而以學問自許布衣之士——張石舟的雄心壯誌。