張維璽的到來，讓張漢卿非常高興，他興奮地對張維璽說：“你來了，人民軍中多了一員猛將。”可是在他心中，讓他最感興趣的還是此時名不見經傳、後來成為著名抗日將領、民族英雄，同時也是第二次世界大戰中同盟國犧牲的最高將領的張自忠。
張自忠剛毅寡言，但有較高的帶兵天賦。在他就任連長三個月後，他的第二連便在全旅各連軍事考核中奪得第一，成為十六混成旅的“模範連”。模範連是馮玉祥治軍的樣板，張自忠得此殊榮，幹得更加起勁了。經他訓練出來的全連126名士兵，後來幾乎個個成才，僅軍長、師長就出了十個，旅長、團長就更多了。從這時起，張自忠注重軍紀、治軍嚴厲的風格已經十分突出。遇有違反軍紀者，他初則說服教育，再則嚴厲訓斥，三則軍棍伺候。正如士兵們在歌謠裏所唱的：“教你學好不學好，鴨嘴軍棍挨上了。”後來，因張自忠對於違反軍紀的官兵常說一句口頭禪：“看我扒不了你的皮！”於是，被官兵們冠以“張扒皮”的諢號，全軍上下無人不曉。一首順口溜說：“石友三的鞭子，韓複榘的繩，梁冠英的扁擔賽如龍，張自忠扒皮真無情！”
“張扒皮”的渾號使人誤以為此公是個無情無義、粗暴蠻橫的武夫，實則不然。張自忠愛兵如子，嚴中寓恩，深知“治兵先治心”的含義和“恩威並用”的運用之妙。以打軍棍為例，張自忠並不是遇過即打，濫施棍杖，而是實行“八不打”，即：有病不打，盛氣不打，盛暑不打，飯前不打，無恩不打，罰過不打，夯兵不打，不知不打。可見，張自忠對於如何使用軍棍是十分講究輕重分寸的。
這樣一個人才，怎樣才能招到帳下？用金錢、名譽來引誘這位一身正氣的年輕軍官無疑行不通。張自忠從懂事起，就開始接受舊學的熏陶，父親的影響和學校的教育，都毫無二致地歸一於孔孟之道，因此，強調忠、孝、仁、義的舊道德從小便在張自忠的內心深深紮下了根。學習之餘，張自忠常借一些小說來閱讀消遣。最讓他喜愛的是《三國演義》、《說唐》和《說嶽精忠傳》。這些古典名著對傳統道德作了活生生的注釋，關雲長、嶽武穆和秦叔寶的忠義俠行和浩然之氣令他心馳神往，由衷敬慕。他也曾在由營長提升為團長時以才能和經驗隻勉強做一營長而上書懇辭，用地位引誘隻怕讓他哧之以鼻。
既然如此，直接曉以民族大義，以停止內戰、抵禦外侮來勸之歸順奉軍可能是一明智之舉。張自忠此時任馮玉祥衛隊團第三營的營長，奉命駐守在長豐縣。之所以派出衛隊守邊，實在是因為他的攤子鋪得太大了，人手照顧不過來。
張自忠同樣對直軍以一已私利阻撓統一非常不滿，他對馮玉祥隻打自己的小算盤也頗有微詞。對南邊的奉軍少帥（他一直認為人民軍是奉軍的一部分）也深表尊敬。少帥一改傳說中民國紈絝子弟的作風，通過卓有成效的“奉天經濟改革”，建立近來聲勢頗大的人民黨，安蒙、平甘、入陝、奪鄂、搶皖絲絲入扣，一氣嗬成，顯示了其傑出的軍事、政治能力和戰略觀，吳佩孚、馮玉祥之輩的能力尚達不到那種境界。從張漢卿“不經意”間寫出的那首《清平樂amp;#8226；六盤山》也可以看出，張漢卿所圖非小，正所謂言為心聲。