南京方麵頗為看重“小開”，因為他們知道：
第一，他來自莫斯科，中共駐共產國際代表團團長王明指定他為國共談判聯係人；
第二，他去了陝北，見了毛澤東，又受毛澤東委派，指定他為國共談判聯係代表。
這麼一來，南京方麵對潘漢年的重視，自然超過了董健吾、張子華、周小舟——值得順便提一筆的是，不論是國民黨還是中共，這些秘密聯絡渠道往往彼此並不知曉，以求嚴格保密，彼此平行不交叉。即使是與張學良、楊虎城聯絡，張不知楊與中共有聯係，楊亦不知張與中共有聯係，而張、楊又不知蔣與中共有聯係。這一切，都在幕後極端秘密地進行。當然，也有個別的例外，如張子華知董健吾，潘漢年知張子華。
潘漢年到了西安，由於要幫助葉劍英做東北軍的工作，沒有馬上去南京。他怕南京方麵著急，給張衝拍發了一份密電，告知他已抵西安。
由於南京方麵看重潘漢年，張衝接到電報，竟直奔西安。此人也很神通，他通過潘漢年的姐夫路寶宗，找到了潛藏在西安城裏的潘漢年。張衝急於想了解毛澤東對談判的意向，向潘漢年探聽口氣。聽了潘漢年的介紹，張衝隨即趕回南京。
不久，葉劍英接到毛澤東10月14日電報，詢問：“年何日去滬？”潘漢年得知，料理了工作，便去上海。
10月19日，潘漢年乘火車抵達南京對岸的浦口。那時，旅客們要下車，一節節車廂被推上渡輪，渡過長江，才能抵達南岸的南京，然後乘客再從那裏上火車。擺渡要花費兩三個鍾頭。
選擇了擺渡那亂糟糟的時刻，趁別人不注意，兩位神秘的人物找到了潘漢年，跟他低聲交談著。這兩人便是從對岸南京趕來的張衝及其助手杜桐蓀。張衝對潘漢年說了到達上海之後的聯絡途徑。就在渡船上，潘漢年把中共中央致國民黨中央的信，悄然交給了張衝。
潘漢年到了上海，一副“小開”打扮。他本來是要跟陳果夫會談的。
陳果夫患肺病多年。他的衣服口袋裏，總是放著一個特製的小痰盂。當他發表演說時，那小痰盂便放在講台上；講畢，往衣袋裏一放，隨身帶著。那時，他的肺病加重了，日夜咳嗽，便讓弟弟陳立夫出麵，跟潘漢年會談。
11月10日，在上海滄州飯店，國共雙方的高級代表——陳立夫和潘漢年，一個是國民黨“CC”首腦，一個是中共特科要員，終於在上海晤麵了。潘漢年向陳立夫遞交了周恩來的親筆信，正式表明他是中共中央指派的聯絡代表。初次會談，雙方各自闡述立場，互通情報。張衝也參加了會談。
陳立夫傳達了蔣介石的意見。蔣介石說，首先是對立的政權與軍隊必須取消，中共軍隊最多隻能收編三千人至五千人，師以上幹部一律解職出洋，半年後如回國，量才錄用，適當分配到南京政府各機關服務。如軍隊能如此解決，中共所提的政治各點就好考慮了。