東北軍調到陝、甘以後，如何對待東北軍就成了十七路軍的新問題。在曆史上，十七路軍和東北軍沒有往來，楊和張也沒打過交道。
對張和東北軍到陝、甘來的真正意圖，楊一時摸不清楚。從張回國和他任豫鄂皖3省“剿總”副司令時期的言論看，張是擁蔣的。但九一八事變後，東北軍到處顛沛流離，受盡了失地喪家的痛苦，還得在蔣的威脅下為他拚命。從這一方麵分析，東北軍的絕大部分官兵，對蔣是不滿的，隻是抗日情緒暫時受到了壓抑；東北軍入關，處處受蔣歧視，實力削弱，地位日下，張對蔣也會不滿的；張受蔣騙，蔣把九一八事變的不抵抗帽子巧妙地讓張一個人獨戴，張不會服氣；張、蔣之間必然蘊藏著很深的矛盾。愛國抗日的思想，在十七路軍和東北軍大部分官兵中是普遍的。
深受蔣的壓迫，力量不斷被削弱，這種處境，十七路軍和東北軍是相同的。就這些情況估計，在反蔣抗日這一點上，十七路軍和東北軍有基本一致的要求。在這個前提下，兩支部隊團結合作，覓取停止內戰、一致抗日的辦法，是可能的。楊讚同這些看法，並且說：“患難的朋友好交！”但是，他也有疑慮的地方：論兵力，東北軍比十七路軍大數倍，如果東北軍受了蔣的愚弄，和蔣在陝、甘的兵力一起，對十七路軍采取壓迫的態度，那對十七路軍是極不利的。不過東北軍初到陝、甘，根基不固，人地生疏，並受到紅軍的壓力；東北軍既然奉命“剿共”，力量勢必分散，不會立刻對十七路軍下手。十七路軍兵力雖比東北軍小數倍，但十七路軍是地方部隊，久在陝西，在地方上有很多潛在力量，陝西的團隊，絕大部分十七路軍掌握得住（楊兼任陝西省保衛委員會主任，各縣民團都歸這個機構指揮），東北軍會有顧慮的。當前的出路，主要在聯張上，隻要在反蔣抗日這一點上彼此一致了，那麼合作就可靠了，停止內戰的辦法也好想了，所顧忌的對十七路軍的不利條件便減少了。楊虎城說：“我先試探張的動向，盡量設法和張在政治上合作。”他嚴囑所屬，對這些事絕對保守秘密。
張學良到西安後，任西北“剿總”副總司令兼代總司令職權。楊虎城任西安綏靖公署主任兼十七路軍總指揮，軍事上歸張節製。兩人來往很頻繁，在禮遇上楊很尊重張，但在很長時期內，雙方是官樣應酬，內心話都不肯說。
有一次，楊虎城去張學良的住處，有意識地試談國內政治形勢。楊虎城回來說：“很糟糕！張很讚成法西斯，同我正相反。”張的這種說法是不是對楊政治態度的試探呢？推測不出來。張學良和楊虎城後來有一天又談到法西斯問題。張問楊：“這個辦法，在中國行得通行不通？”楊說：“人家搞法西斯（指德、日、意），對外擴張領土；咱們搞法西斯（指蔣）對外（指對日本）投降，他（指蔣）當小皇帝，我們當亡國奴，你看行得通嗎？”張聽後沒有回答，從此，張學良對楊虎城不再談法西斯這些話了。
蔣介石的特務，這時極力散布張、楊不和的謠言，在雙方之間製造矛盾，不是說東北軍要解決十七路軍，便是說十七路軍要驅逐東北軍，並指使雙方部隊裏一些複興社分子，從內部來挑撥東北軍和十七路軍的關係，企圖使雙方關係惡化甚至火並。雙方少數部隊之間，因駐地靠得近，有時也互相警戒。日子久了，還引起了雙方一些中上層軍官的疑忌。十七路軍中有些軍官，就懷疑東北軍對十七路軍將有不利的行動，並常向楊報告。這時，楊和張都覺得這樣下去很不好。怎樣改變這些情況呢？張學良把他的朋友高崇民叫到西安，介紹同楊虎城認識。以後，楊虎城和張學良有些不便明談的事，高崇民就從中做了溝通工作。這樣，上層的關係有些打通了，但下層打架爭吵的事，還是勸不止，禁不住。
楊虎城有一次對張學良說：“咱們握手言歡，底下（指下層官兵）動手打架，長此下去，不是好事。”張學良隨即叫總司令部下了個嚴整軍紀的通令，吵嘴打架雖然還時有發生，但比以前稍好了一些。
楊虎城和張學良的關係逐漸密切了，但又有可能招來蔣對他們的懷疑。他們二人商量了一個“暗通明不通，上合作下不合作”的辦法。就是說，暗裏往來，明裏少往來，上層合作，下層可以讓他們鬧些事，以掩護雙方的密切關係，麻痹蔣方特務，避免蔣的懷疑。在這時候，張、楊之間，對於抗日問題可以深談了，對於反蔣、聯共的事，彼此還在互相試探，都不敢吐露真情。其實，張學良和楊虎城都分別和紅軍建立了聯係，但都不願明說。