1948年11月8日的賈汪起義，可以說在時間上和地點上的選擇都是最合適的起義，因為這是經過了長期而精心策劃的起義。
根據中央軍委關於淮海戰役的作戰計劃，第一階段的任務是集中兵力殲滅黃百韜兵團。而能否順利殲滅黃百韜兵團，關鍵又在於切斷黃百韜兵團向西的退路，切斷徐州方向對黃百韜兵團的援救。為此，必須讓我華東野戰軍在大戰打響之後以最快速度從山東插入徐州與黃百韜兵團之間地帶。而當時，擋在這條路上的，正好就是國民黨第三綏靖區的部隊。所以，讓第三綏靖區國民黨部隊在最合適的時刻舉行起義，打開華東野戰軍進軍的道路，就顯得特別重要。時機必須要最佳，因為早了會驚動敵人，遲了又會影響我軍的進展。為此，在大戰之前，周恩來電告華東局，要華東局派人與我黨的兩位特別黨員張克俠和何基灃取得聯係，組織第三綏靖區部隊起義。
代表華東局進入第三綏靖區的，原先是華東局社會部的交通巡視員朱林。朱林進入徐州之後，以華東局代表的身份先與張克俠取得了聯係，然後與張克俠、何基灃進行了仔細的研究。就是到了這時，張克俠和何基灃這兩位第三綏靖區的副司令才明確了互相的身份，才知道都是革命同誌。在這時，張克俠和何基灃還打算爭取第三綏靖區總司令馮治安一道起義，以減少起義的阻力。為了考察馮治安的態度，由何基灃出麵，安排了一次宴會，馮治安與許多高級將領都到了會。朱林就在宴會廳的隔壁，將到會者關於戰局與前途的所有談話聽得一清二楚。
朱林回到淮海前線指揮部曲阜，向華野領導做了彙報。華野第一副政委譚震林親自與朱林交談了幾個晚上。由於朱林將去上海、南京執行別的任務，華野領導決定改派華野十三縱政治部聯絡部長楊斯德以陳毅司令員的代表身份前往第三綏靖區。臨行前，華野政治部主任舒同給楊斯德的任務是“力求動員馮治安能和部隊一起起義，以便擴大政治影響”。在華野的前線指揮部，華野參謀長陳士榘又向楊斯德詳細交代了前線的敵我情況、我軍的作戰意圖、我軍與第三綏靖區起義部隊如何配合等具體問題。10月22日，楊斯德在專門負責我方與張克俠、何基灃進行聯絡的敵工科副科長孫秉超的陪同下，經過第三綏靖區七十七軍三十七師一一一團防地進入賈汪。
楊斯德見到張克俠和何基灃後，傳達了華東局的有關決定，對在淮海戰役開始之際舉行起義的有關問題進行了認真研究。為了保證任務的順利完成，由當時駐紮在賈汪的何基灃進行安排，楊斯德化名為陳惠國，身份是南京派來的高參，可以在何基灃的前線指揮所自由出入。然後，成立了臨時黨支部，成員包括從華野派來的楊斯德、孫秉超，何基灃的前副官、聯絡員李連城，三十七師一一一團三營營長王世江，二營機槍連連長馮誌中。在黨支部的統一領導下，起義的準備工作緊張而秘密地展開。
當對情況有了詳細的了解之後，楊斯德和孫秉超在10月底返回曲阜彙報工作。華野代司令員粟裕和參謀長陳士榘在聽取彙報之後，對起義工作做出了十分明確的指示：11月8日，我華野七縱、十縱、十三縱將從第三綏靖區防區大舉南下，切斷黃百韜兵團和徐州之間的聯係。何基灃和張克俠必須在那天按計劃發動起義，指揮部隊讓開運河防線，控製所有橋梁，確保我軍順利過運河，向前開進。起義時部隊的聯絡暗號為“楊斯德部隊”，夜間翻穿棉衣，手電光明滅三次。屆時楊斯德必須在起義指揮部協助指揮，孫秉超下到由我方控製的一三二師（師長過家芳是中共地下黨員），李連城下到由我方控製的三十七師一一一團，便於與華野部隊配合行動。接受了華野首長的具體指示之後，楊斯德和孫秉超於11月1日再度進入賈汪，領導解決準備起義的各種難題。
第三綏靖區雖然有張克俠和何基灃兩位副司令，有一批地下黨員，有一大批可以合作的朋友，可是作為總司令的馮治安，既恨蔣介石，又對美國和蔣介石存有一定的幻想。在經過多方努力之後，已經可以斷定馮治安不可能參加起義，而會反對起義。參謀長陳繼淹是蔣介石派來的特務，一直在暗中監視張克俠、何基灃等蔣介石認為不可靠的高級軍官。第三綏靖區的兩個軍長，即五十九軍軍長劉振三和七十七軍軍長王長海都是跟著馮治安走的，屬於起義的反對派。
張克俠和何基灃雖然是副司令，可是由於他倆的態度一貫傾向進步，也就一貫受到懷疑。當全麵內戰開始之後，何基灃被免去了七十七軍軍長的職務，張克俠被免去了參謀長的職務，都是在削弱實權的前提下明升暗降，當著副司令。特別是原來屬於西北軍係統的吳化文在濟南戰役中起義之後，蔣介石集團中不少人更是對他們不放心。1948年10月，在國民黨的報紙上就曾出現過這樣的文字：“馮治安的部隊防守徐州，誰能保證不出現裏應外合、內外夾攻的形勢，步吳化文之後塵？當局應深審之。”所以，蔣介石采取了更進一步的措施，如免去了張克俠的徐州守備指揮官的職務，讓張住在徐州城內而不準其上前線；將原來負責徐州城內警衛的第三綏靖區的一三二師調出徐州城，而將城防任務改派給李彌的第八軍；命令第三綏靖區的軍官眷屬全部遷往江南，扣作人質（為了對付蔣介石這一招，何基灃把30多家眷屬送到了浙江句容縣，因為句容縣長陳天秩是原來的七十七軍政治部主任，比較放心）。當時，蔣介石和馮治安對張克俠的疑心最重，隻是由於沒有抓住他和共產黨聯係的真憑實據，又礙於他是馮玉祥的姻兄弟，再加之張從來不與任何人爭權，所以才未對他下手。對於何基灃，馮治安雖有些疑心，但是因為當年在南京曾對何做過十分嚴格的審查，並未審查出什麼大的問題來，而遇到打硬仗時，馮治安還是離不開何基灃，所以也未對何基灃下手，而且在必要時還要加以利用。例如這時第三綏靖區在安排防務時，由於劉峙對第三綏靖區不放心，堅持要馮治安把司令部遷入徐州城，就是為了便於控製。可是前線指揮部又必須有一位能打仗、不怕死的人。何基灃為了能讓自己在前線掌握部隊，就主動提出願意擔任前線指揮，馮治安也就同意了，讓何基灃留在賈汪的指揮所。可是，老奸巨猾的馮治安在回徐州時，卻又有意地安排他的親信劉自珍負責賈汪指揮所的警衛和通信，實際上就是用來監視何基灃，給何基灃的行動加上了一道緊箍咒。