張作霖隻讀了3個月的書，就輟學了，因為他得回家拾柴，幫母親做飯打雜。他粗通文墨，難免會寫錯字、說錯話。然而，有時候，這些差錯，在鬧笑話的同時，卻往往會成為一段流芳千古的佳話。
據說，以前大帥府的傳達室門前，有一塊“傳達室”的木牌，他進進去去的時候，往往隻看衛兵的軍容風紀，不大注意其它地方。有一天不知怎麼的，被他忽然看到這塊標牌了，皺起了眉頭，心裏很不爽。下車後，他語重心長地對秘書說：“就算咱勝利了，東北統一了，也不能驕傲呀，你看這大帥府門上，隻掛了‘治國護民’的牌匾，也沒有掛我張作霖三個字嘛。”接著，他轉過身，再把前麵的傳達室一指，繼續說道：“你再看看我們的弟兄，一個小小的傳達室，都要掛上他傅連寶的大名，成何體統？”秘書定睛一看，差點笑出聲來，原來，首長把傳達室看成了傅連寶，當成了人名。
鬧了笑話，張作霖倒不以為忤。不過他想道若是戰場上官兵們搞出這些名堂來，傳達軍令錯誤，可就是勝負攸關的大事了。所以在張學良等人的教育問題上，一向給予重點對待，不旦讓張學良學習時髦的英文，招聘了許多家庭教師，還安排了奉天大儒金息侯做他的專職老師。
不過他的奉軍將領們大多是和他一起出生入死的山林草寇，打仗容易，讀書卻難。有道是武打天下文治國，手底下沒有幾個得力的文臣，終其一生也不過是個草頭王。張漢卿知道乃父的“大誌”，也不失時機地提出大辦教育，以培養人才。
張作霖也曾為此專門上書當時的大總統袁世凱，指出奉天教育存在的種種弊端，並提出了整頓的措施，建議對學校加強管理。當是時，張作霖僅是奉天城內小小的第27師師長，雖說握有重兵，但無論如何與教育是扯不上邊的。
綜合幾個謀士的意見，張作霖在條陳中首先指出，奉天辦學存在兩大弊端：一在糜費過多，得不償失；二是教授不得其人，僅是坐擁虛名，缺少實際才幹。另外，他還提到，辦學偏重於高等小學，忽視初等小學，使師範畢業者不願到初小就教。初小既缺乏良師，而畢業者亦無從升學。
張作霖的條陳引起教育部、國務院乃至大總統的高度重視，肯定該條陳所指皆為症結所在，大總統命國務院將該條陳轉交教育部查照。
對於第一條，教育部回複“已於本年二月十九日通令各省斟酌地方財力，體察人民生活狀況，竭力撙節，以杜虛糜”。對於第二條，教育部批道：“現在小學之必待整頓，亦誠刻不容緩。整頓之法，當從力節糜費，嚴定教員、管理員資格入手。庶使不能勝任之教員、管理員得以大加淘汰，於教育前途乃有澄清之望。”1915年4月9日，教育部訓令各省民政長遵照辦理。教育界聞之歡欣鼓舞，卻不知此訓令源自於一個遠在東北、並素有“土匪”之名的赳赳武夫所倡導。
為了培養出更多的人才，師範類學生的培養是重中之重。1918年12月1日，奉天國立高等師範學校正式成立。開學典禮上，奉天政務廳長史紀常前往宣讀了張作霖的祝詞。
時至今天，師範類院校學生免收學費，每月還有補助。但卻很少有人知道，早在張作霖時期，奉天的師範學校就已免收學費了，而且還發給夥食費，這些費用全由奉天省政府買單。人們常說，“沒有免費的午餐”，可是奉天的師範學校不僅有免費三餐，而且標準還不低呢。例如奉天省立第一師範學校，學生夥食早餐為大米粥、鹹菜；中午大米飯、四菜一湯，兩葷兩素；晚飯四菜一湯，皆為素菜。星期六午餐改善夥食，有壇肉、木須肉、燒黃花魚，燴海參等。另有其它如奉天高等師範學校，夥食也非常豐盛。
正史上在第一次直奉戰爭後，張作霖在整軍經武的同時，再次狠抓教育。他欣然采納奉天省長王永江、教育廳長謝蔭昌的建議，創辦東北大學，並對王永江說：“我沒讀過書，知道肚子裏沒有墨水的害處，所以可不能讓東北人沒有上大學求深造的機會，岷源(王永江的字)，一切事我都交給你了，開學越快越好。用錢告訴我，不管多少，我寧可少養五萬陸軍，但東北大學是非辦不可。”
成立東北大學本是中國自己的事情，可是日方得悉東北當局要自己辦大學之訊，日本駐奉天總領事竟公然向王永江提出“勸告”：“聽說你們要辦大學，那可不容易呀！又費錢，又沒人。你們要讀理工科，我們已有‘旅順工科’；你們想學醫，我們早有‘南滿醫科大學’；你們願學文法科，也可以派留學生到帝國大學去上學，大日本政府將予以優待，給予官費補助。你們何苦自不量力，自尋苦惱，而去自辦大學呢？”王永江當即將此談話報告給張作霖。張作霖聽後，十分氣惱：“他們越是反對咱老張辦大學，咱們就是非辦不可。得快辦，要辦好，快出人才。”