張維璽擅長練兵，他對於練兵有獨到之處，在西北軍的同行中很少能出其右者。每屆年終校閱時，無論是學科、術科、操場、野外或內務、衛生、軍紀、風紀，張維璽部部是名列前茅。
就這樣一個人才，卻為馮玉祥所不容。據“奉情局”的消息，原因如下：
1921年春，馮玉祥得知曾與已結下夙怨的鄂督王占元將由武漢乘京漢路火車晉京公幹的消息，曾經召集營長以上軍官密議，在王占元路過信陽車站時把他扣留，要挾他清還積欠半年的全旅糧餉。由於張維璽與王占元同為館陶縣的小同鄉，張維璽竟把這個秘密計劃偷偷地透露給王占元。王占元遂改道乘船至南京，轉乘津浦路火車北上。馮玉祥對於王占元的忽然改道，斷定有人泄密，經過百般訪察，始知是張維璽所為。但一因此事不便向外張揚；二因正值部隊即將開拔入陝作戰，張維璽身任團長，且係一員有勇知方的戰將，當時馮先生姑且隱忍未發。及至馮旅入陝進行蒲陽村之役時，由於張維璽的麻痹大意，受騙上當，致使唾手可得的一個旅的人槍脫逃，於是馮對他新舊賬一齊算，就把張維璽的團長職撤掉。在升任11師師長後，張被任為師屬修械所所長，這是一種降職降級的待遇。
張漢卿就利用這一點，他派於學忠夜會張維璽，進行勸降。於學忠在武漢與張維璽曾有一麵之緣，彼時不過是一營長，不出兩年時間，一躍而團長、旅長，現在是代理第8師管有3萬人的少將師長了，估計要不了多久，第三顆星將會讓他的星輝更燦爛。兩人多年前即已惺惺相惜，此時相見，大有不勝唏噓之感。
張維璽還在等待馮玉祥再複召用：馮一手訓練出來的官和兵，尤其是軍官，是輕易不讓走開的。犯了過失的，或撤職或降級，過了一段時間，仍可恢複原職原級，並且不影響升遷。
但是於學忠帶來張漢卿對他的讚賞卻讓他非常動心。張漢卿允諾：隻要張維璽肯加入人民軍隊伍，立即將是少將旅長軍銜。有於學忠這個例子，張維璽不由得心動。
馮玉祥出身平民，因而能接近下層，與士兵同甘苦，從而得到下級的擁戴。但馮氏的帶兵方法卻是封建家長式的，甚至對師長以上的高級軍官也是呼來喚去像對小孩子一樣，像韓複榘當了師長以後還曾被馮氏當著士兵的麵打了40軍棍，毫不留情麵。這種帶兵方法加上其它因素，導致馮係軍官後來的紛紛背叛。張維璽也曾被當眾打過耳光，記憶深處對馮玉祥的管教非常不滿。
直奉交手已落於下風，與其碌碌在馮玉祥帳下做一敗軍之將，何如另起爐灶，打開一片新天地？於是在一個月高夜黑的晚上，張維璽投奔了張漢卿。