清嘉慶十年（1805）農曆十月初九，一個男嬰在山西省平定州大陽泉村（今屬陽泉市）的一戶張姓人家呱呱墜地了。因為他的前麵已有了三位兄長——開暹、進暹、麗暹，家人便給他起名為嬴暹。他排行第四，乳名便叫四楷，他就是後來的張穆。古人有名有字，有號，張穆字石舟，號靖陽亭長。
有清一代，平定州被譽為“文獻名邦”。而張家又是這名邦中一戶典型的書香人家。
張穆的祖父張佩芳是乾隆二十二年（1757）的進士，曆任縣官、州官；所到之處，政聲清明，深得當地人民的擁戴。
張佩芳不僅是個清官，還是位學者。從政之餘，喜好著書立說，其主要著作有《陸宣公翰苑集注》《公餘雜談》《黃山誌》《平定州誌考誤》《希音堂文集》等。
張佩芳鍾情“樸學”，擅長考據，通曉天文地理，熟悉曆代沿革，他的著述為後人留下了一筆豐富的文化遺產。
張穆的父親叫張敦頤，乾隆三十七年（1773），生於合肥縣署，因為當時他的父親張佩芳正在那裏做官。張敦頤幼時，“穎悟絕人”，14歲時，應童子試（縣一級的考試），能熟練地背誦《十三經》。嘉慶五年（1800），學使莫進來山西選拔“茂才異等”，讓敦頤入晉陽書院讀書，半年的7次考試中，回回第一。莫老先生深為歎服，認為：“三晉多才，對此皆當俯首。”
同年秋，敦頤鄉試（省一級考試，考中者為舉人）報捷。莫先生攜之入都，等待參加會試（國家一級的考試，考中者為貢士）。1802年，敦頤會試落榜。9年之後，終於會試高中，並以貢士的身份參加了皇帝親自主持的殿試，考中了進士。曆任翰林院編修，武英殿編修和福建正考官等職。這些職務，大多和文化教育有關。
敦頤生性和善，樂善好施。遇有貧困危難之人，必傾囊相助。一次，在從京城返鄉的路上，見清水河畔，有一具暴露在野外無人掩埋的屍體，他便當掉自己的衣物，買來棺木，將死者掩埋。
張敦頤曾應平陽府太平縣令顧玉書的聘請，主講於太平書院。他循循善誘，要求嚴格。及至科考，一個小小的縣級書院，獲俊者竟有6人之多。他對張穆的教育更是周到，既有父親的慈愛又有師長的嚴格，可謂“父而兼師”。
張穆從小受到了父親嚴格的教育，也受到了周圍兄長們的熏陶習染。他常常和二兄晉暹、三兄麗暹挑燈臨書，學習諸書法大家之長，融會貫通，終於成為一代書法名家。
1814年的秋天，年僅9歲的張穆，隨同父親來到北京。
北京，不僅僅是清帝國的政治中心，也是文化中心，名流學者雲集於此。
張穆經常隨同他的父親拜謁這些學界的長者，瞻仰了這些鴻儒大師們的風采，聆聽了他們的教誨，擴大了視野，增進了學識。
到京後第二年，張穆的母親王氏病逝。當時的他，年僅10歲。幼年喪母，對張穆來說，無疑是個巨大不幸。
值得慶幸的是，張穆遇到了一位能把他當成親生兒子一般對待的既慈愛而嚴格的繼母。
繼母姓李，她就是前麵提到的那位，因為張穆的父親張敦頤在晉陽書院讀書時的成績優異從而對他刮目相看的皇家學使莫進的表妹，由莫學使主媒，嫁給了剛剛喪妻的張穆的父親。
可惜，好景不長。僅僅過了一年，張敦頤突然撒手人寰。這位新婚一年的新娘頓時成了寡婦，而張穆也失去了父親。
聽到丈夫去世的噩耗，這位性格剛烈的女性本欲以死相殉，但看到身邊的年幼的張穆，卻又改變了主意，她含著眼淚，撫摸著張穆說：“你的父親不幸離去，把你托付給我，如果我隨著他命歸九泉，誰能把你撫養大呢？我就等著你長大成人吧！”