硝煙滾滾，炮聲隆隆，華東野戰軍大舉南下，兵臨淮海，一場大戰打響了。戰役發起的第三天，何基灃、張克俠兩將軍，率國民黨第三綏靖區第59軍、第77軍三個半師2.3萬餘人，在戰場上起義了。
國民黨軍為什麼能夠在淮海戰役一開始就有如此之眾起義呢？這與我打入其內部的共產黨員積極工作，有密切關係。共產黨員李連城就是其中的一個。
李連城先後給何基灃當過衛士、特務連連長。
1938年7月，敵第179師駐河南信陽時，這個師的中共黨組織發展了不少黨員，李連城也加入了中國共產黨。
1940年年初，國民黨發動反共高潮，我黨派進第179師的幹部大部撤退。李連城是新黨員，除了何基灃師長知道外，沒有暴露過身份。因此，黨組織決定，李連城繼續留在該師工作，並從老河口派來新的負責人領導其秘密活動。這時，蔣介石派來大批特務爪牙，監視該師行動，中下級軍官也被換上了許多國民黨軍官學校出身的人。
1942年3月，一個陰雨天的晚上，何基灃師長突然把李連城叫到他的房裏，一進門，就讓李連城把門關上。李連城見他神色不對，心裏很奇怪：師長平素總是大大方方的，今晚為什麼這樣緊張？李連城坐下之後，他說：“壞事了！”隨即從抽屜內拿出一張紙遞給李連城，說：“你自己看看吧！”李連城接過來一看，大吃一驚。這是一份從五戰區轉來的何應欽的電報，內容是：
“查共產黨員李明運等，隱匿你部。”李明運是李連城當時的化名。看過電報，李連城沒有說什麼，隻是把目光投向他，等待他表明態度。他毫不猶豫地說：“事不宜遲，你趕快化裝一下，今晚就離開師部，去找新四軍。”
從此，李連城便離開了第179師，從湖北遠安來到新四軍第5師。
1945年秋，何基灃被任命為第77軍軍長，同時把他的第179師拆散，並入第132師。整編後，第77軍與第59軍一道，編成第三綏靖區，被調至徐州地區，轉到內戰前線。
“雜牌當頭陣”，這是蔣介石的老手法。這兩個軍開到徐州後，分布在西起微山湖，東到八義集的運河線上，企圖切斷新四軍南北聯係。第三綏靖區司令官馮治安的總部就設在徐州。
為了爭取這個部隊靠近我軍，至少讓他嚴守中立，新四軍第5師師長李先念派李連城去與何軍長聯係。
1945年10月，李連城化裝成一個國民黨中級軍官，乘火車經鄭州轉赴徐州。李連城順利地找到了第77軍軍部。何軍長坦率地表明，他看透了蔣介石，願意同新四軍加強聯係，並且歡迎共產黨派人來幫助。1947年冬天，他給李連城補了一個少校隨從副官的空缺。這時，他已經被免去了軍長的職務，調任綏靖區副司令官。從那以後，李連城名正言順地在他的司令部出出進進，無論他到哪裏開會或是到前方去指揮作戰，李連城都跟隨在他的身邊。李連城打著副司令官隨從副官的招牌，開始在過去相識的人員中聯絡感情，收集情報。
通過何基灃將軍的介紹，李連城認識了綏靖區副司令官兼徐州城防司令張克俠，並且從他那裏得到一份徐州城防要圖。李連城決定回軍區彙報工作，並聽取新的指示。
1948年3月的一個下午，李連城穿著國民黨的校官服，大搖大擺地出了棗莊警戒線，到達魯中南軍區。
正巧野戰軍首長在這裏開會。
第二天，李連城去見陳毅司令員。下午，陳司令員對李連城的彙報作了分析，然後說：“做這種工作，既要大膽，又要謹慎。不要認為周圍都是敵人，工作就不敢做了……目前敵人距離總崩潰的日子不遠了，他們中間的一部分人就更容易爭取過來。”