在張穆所景仰的先賢之中，顧炎武名列其首。
顧炎武，字寧人，號亭林，江蘇昆山人。年少時入複社與晚明閹黨鬥爭。清兵入關後，在崑山興義師抗清。事敗後遊曆北國，考察地理形勢，寫成《天下郡國利病書》，為反清複明做準備。康熙皇帝曾屢詔入博學宏辭科薦修明史，皆堅辭不就。他提倡“天下興亡，匹夫有責”。晚年移居北方，年七十而卒於山西曲沃。
在學術方麵，《清史稿》稱其為“博學於文，行己有恥”。研究學問，他主張“斂華就實”；於百科，“窮究原委”“考證得實”，講求實事求是。除以上提到的著作之外，還有《日知錄》三十卷，曆時30年而成，是他平生心血的結晶。另有《肇域誌》一編及其他史地著作多種。
此外，他又是文字學家，著有音韻學著作多種。
張穆對顧炎武的關注，可以追溯到道光十八年（1838）的春天。顧炎武的老友顏光敏在北京家中收藏著許多顧炎武的詩文手稿，這些手稿後來歸陶梁所有。張穆在南遊之前，特意到陶梁家抄錄。後來在南遊期間，每到一地，總要留心有關顧炎武的材料。這是張穆為顧炎武編寫年譜的最初準備階段。
道光二十二年，徐鬆赴任出京時，曾將自己早年所寫的《顧炎武詩文係年》的草稿交給張穆。又過了一年，何紹基為父守喪期滿回京，他搜集到了顧炎武嗣子顧衍生等人編寫的《年譜》並把它交給張穆。張穆將這兩部草稿進行綜合，加以厘定，於道光二十三年春寫成《顧亭林先生年譜》。
張穆在《顧亭林先生年譜》的題詞中，是這樣評價年譜主人公的：“本朝學業之盛，亭林先生實牖啟之。而洞古今，明治要，學識賅貫，卒亦無能及先生之大者。”他認為：“有清一代，學術研究風氣之盛，實在是由顧炎武開啟的。而他在進行學術研究時，能夠洞察古今的變化，闡明治理天下的要領，其學問和見識的深刻一貫，直到今天也沒有誰能夠趕得上他。”足見張穆對這位先賢敬佩的程度。
司馬遷在《史記》中創立了《表》那種以係年的方式概述一個國家、一段曆史的簡明扼要的敘史手法。而被稱為“一人之史”的年譜在宋朝才開始出現，後繼踵於明，至清而極盛。
近代大學者梁啟超認為，張穆所撰寫的《顧亭林先生年譜》“於譜主所旅之地位，所接之人等，考核精密，細大不遺”是清代年譜中的精品。
在撰寫《顧亭林先生年譜》的同時，張穆還與友人集資興建了顧亭林祠，此祠又稱顧炎武祠或顧祠，地址在北京宣武門外慈仁寺西院。每年春秋兩季及顧炎武的生日都要舉行祭祀活動，而張穆則是逢祭必到。
道光二十四年，顧祠落成，首次公祭。
地處北京宣武門外慈仁寺西院一隅的顧炎武的祠堂擠滿了前來祭奠的人。僅當時在場的碩儒名流就有十四人之多，當然其中不少是張穆誌同道合的好友，如何紹基。苗夔等人，但也有幾位當朝的重臣前來應景。比如那位後來文韜武略、聲名顯赫的曾文正公——曾國藩也在其列。
祭文由張穆親自撰寫，親自宣讀。文章很短，不足千字，不過其中有些話語頗值得玩味。
開頭一句統領全篇，道是：“先生生當季叔，業貫漢唐，學堪為王者師，誌非以名山老。”
季叔二字是古代兄弟排行的最末，二字略指顧炎武生在明朝末年。照理說，張穆是清朝的臣民，此處宜用“亡明”或“偽朝”二字，張穆在此處隱而不用而以季叔代之，其中大有深義在焉。
第二句中的那個“業”字，是僅指顧炎武的學術研究成果，還是指他的生平業績？如果僅指前者則祭文有失偏頗，如果是指他的生平業績，那麼顧炎武畢生以“反清複明”為己任，就是他的學術研究也帶有濃厚的政治色彩。就說他的力作《天下郡國利病書》吧，那是顧炎武出於自己的政治需要，考察天下郡國的利弊，一旦天下有變，就可以立刻用於軍事目的的。