隨著勢力越來越大，政務也就越來越多，二進院裏的那排正房（辦公室）已容不下偌多的公務，他又在假山之後建成一座三層高的青磚大樓，即當時沈陽城裏最高的“大青樓”。
民國五年（1916年）的那個春天，張作霖一臉春風，因為四十一歲的他終於有了一個完整的家。此時他已榮升奉天督軍兼省長。他以省為家，在家治省，此宅既是他與眾多家眷的私宅，也成了他在督軍署與省府大院之外的官邸。風雲變幻莫測的動蕩時代，這一帶自然也就成了戒備森嚴的特殊地帶。
當時，奉天城裏人稀車少，出入此巷的小汽車寥若晨星，不像現在，幾輛旅遊大巴就把帥府路塞死，惹得過往的騎車人嘖有煩言。
東院初建成的時候，有一個英俊少年每天都要拎著書包從這大院身後的督署街經過，也許坐在洋車上，也許一個人走在馬路上，總之，他常常邊趕路邊怯怯地打量路南的這個龐大的灰色建築群。直到近半個世紀以後，這個當年奉天洋學堂的學子以共和國首任總理之尊走進這所偌大的宅第後，才第一次見識了灰色高牆裏麵的一切——1962年6月某日，受人愛戴的周恩來先生邊細細參觀，邊向身旁的夫人鄧穎超講述著當年經過此地時的情景，感慨道：那時，這兒真是神秘威嚴得不得了！
威嚴的不是空房子，而是目光炯炯的房主人。
有曆史學家寫過：
作霖身短小，目炯炯有光，精悍之色見於眉宇。雖出身武弁，恂雅如一儒生。遇事剖決如流，機警過人，及其怒也，須發畢張，辟易千人，故人畏其威而懷其惠。……
有威不在身高。威是極少數領袖人物與生俱有的內在氣質，威是當權者全不經意間的舉手投足。
這裏有一段軼事。
張宗昌也是土匪出身的民國著名軍人，早年落魄時投靠了“奉張”，張作霖看出此山東大漢之潛能，便曾天天供錢任他賭玩。後來，這位人高馬大的漢子也真爭氣，憑戰功終成奉係驍將，鎮守中俄東部邊境。某次張某從黑龍江省駐地來奉天謁見老帥，一入大青樓，就大大咧咧往大帥辦公室裏走去，邊走邊道：“老爺子，效坤（張宗昌，字效坤）到了……”不料話音未落，張作霖拍案而起：“出去！重進！你是軍人嗎？媽了個巴子的，當在家裏呢！”高出大帥整一頭的張宗昌登時目瞪口呆！好在這家夥反應快，馬上原地頓足立定，向後轉，邁步退出，然後，在門口回身舉手敬禮並高喊：“報告！張宗昌到！”待裏麵發話後才規規矩矩進屋聽訓。
軍法森嚴，公私分明，有張有弛，無論親疏，這才有了全盛時三十五萬（號稱百萬）奉軍當年的不可一世。
說到治軍嚴明，突然就想起一個極有趣的軼聞，即被毛澤東反複推薦的“紅軍歌曲”《三大紀律八項注意》的曲調，竟是當年蘇維埃土地上的子弟兵們從東北大地上學來的！已經有耄耋之歲的東北人回憶過了，比共產黨的軍隊更早唱響這段旋律的，是張作霖的奉軍。
親曆者不光知道此歌原名叫《大帥練兵歌》，而且，還能一句不落唱的是民國共和，誇的是本軍統帥，說的是當兵意義。這首簡單明快的“丘八歌”，真是奉軍的一首思想政治工作的好教材。不知原創者姓甚名誰了，更不知道他們是否也擁有完全的知識產權，是否也是抓來一首好聽的曲子新填的詞兒。令奉軍官兵萬萬想不到的是，這首本軍練兵歌，日後竟一度成了中國大陸上唱得最響的歌曲之一，毛澤東在生前最後一次列車巡遊的途中，在提醒登車晉見的省委書記和大軍區司令要與林彪劃清界線後，曾親自指揮人們同唱《三大紀律八項注意》。
如今，我等普通遊人來也，既無須等一進院裏的“承啟處”的官員發問（現在性質一如從前，原承啟處成了導遊姑娘們的休息室），更不必列隊唱那首熟悉的軍歌，隻要在售票口花上二十塊錢，就可以比張宗昌還踏實地大步往裏麵走。
第一眼就讓我暗吃一驚——這道典型的中國明清式的“廣開大門”上的橫匾，竟寫著“治國護民”四個大字！封建軍人通常標榜的是“保境安民”，但區區一個中將師長卻不說“保境”而誌在“治國”！好一個膽大包天的張作霖！不知這“逾製”的牌匾是何人所題？又是何時所懸？天高皇帝遠，師長也忒大膽，他竟然不管官場與社會上的繁文縟節，心裏怎麼想的就怎麼表露，就像早年他拜倒在盛京將軍腳下時的回答一樣幹脆利落——人家增祺大人問這個自請招安的土匪頭子：“為何求撫？”他朗朗回答：“為了升官發財！”難得他這麼直率！