眼見這種是非顛倒的情形，引起了何基灃對世事黑暗、社會險惡、軍隊腐敗、人事傾軋的極大憤慨，這個在敵人的炮擊槍掃麵前眼睛也不會眨一眨的鋼鐵硬漢，這時卻因滿腔的憤怒與痛苦而無法自持，他不願意被張維藩、柴建瑞之類的小人所欺侮，一時氣憤難平，乃舉起手中的“小八音”手槍對著自己火熱的胸膛扣動了扳機。
幸虧子彈偏了一點，醫生終於將何基灃的生命挽救了回來，他堅決拒絕治療，決心一死。這時，小人柴建瑞又派了兩個殺手來刺殺何基灃。卑劣的刺殺手段從反麵教育了何基灃，“他要我死，我偏不死”。
傷還未好，何基灃在原一七九師副師長、好友章召富的大力幫助下，躺在擔架上逃出了被柴建瑞控製的地區，由馮玉祥的長子馮洪國掩護到達開封。養傷期間，何基灃從報紙上看到了一些有關八路軍抗日的簡單消息。根據過去對共產黨的一些了解，他決心去了解一下共產黨和八路軍到底是在如何抗戰，決心去找他在天津南開中學讀書時的老同學周恩來。
何基灃化裝成商販來到武漢，通過當年馮玉祥的秘書賴亞力先後見到了中國共產黨在武漢的代表董必武和周恩來。在分別23年之後，何基灃和周恩來兩位老同學做了推心置腹的長談，周恩來認為何基灃是一個忠勇剛烈、以國家民族為己任的男子漢大丈夫，決心引導他走上真正的救國救民之路。所以，當何基灃說出“我從軍20年，仗越打越糊塗，路越走越窄。今天，總算看到了一條新路，向你討個路條，我要上延安走一遭”時，周恩來立即表示歡迎，並為之作了精心的安排。
在周恩來的巧妙安排下，何基灃以公開身份到桂林養傷休息，他的家眷也陸續到了桂林，住進疊彩山上一座古廟，廟門高掛“謝客牌”。
當大報小報都在猜測盧溝橋抗日名將將在這山清水秀之地隱居時，何基灃卻已扮作商人在好友李蔭南和桑積門的陪同下到了西安。在西安八路軍辦事處的協助下，他們順利地在1938年初到了延安。到達的當天晚上，毛澤東就主動拜訪了何基灃。“聽君一席話，勝讀十年書。”竟夕之談，使何基灃的心扉被打開，心田一點一點被澆灌。
在延安一個多月的參觀、訪問、座談、聽課，使何基灃發生了很大的變化。他認定，隻有中國共產黨才是真正抗日救國的黨、能夠救國救民的黨。他的結論是：“沒有共產黨，中國前途無望。”他要求留在延安，參加抗日工作。為此劉少奇和他進行了認真的談話，認為他回到國民黨部隊中去繼續帶兵，會比在延安起的作用更大。他同意了這種意見，離開了延安，又秘密回到了桂林。
這時，蔣介石決定撤銷第一集團軍的建製，將七十七軍和六十八軍合編為第十九軍團，讓馮治安代理軍團長兼七十七軍軍長，馮治安一心要何基灃重新出山，任七十七軍的副軍長。何基灃到了洛陽，接受了七十七軍副軍長的職務，並如實向馮治安談了自己的延安之行，目的是為了讓馮治安也能受點影響，為今後改造部隊做準備。馮治安率軍上前線作戰時，特地把何基灃留下來負責軍訓團1000多青年軍官的培訓，中共中央從延安派來的十幾名幹部也都被何基灃安排到軍訓團中工作。為了培養出一批有用的人才，何基灃不再擔任副軍長，而以全力負責軍訓團的培訓。他把軍訓團帶進了桐柏山，一邊訓練，一邊與新四軍共同開展遊擊戰爭的準備。訓練結束之後，他選拔了最優秀的70人組成“七七工作團”，配備最好的武器，由共產黨員朱大鵬率領，進入深山，接受新四軍的領導，不久編入新四軍信陽縱隊。
1939年1月，經我豫鄂邊區特委負責人李先念決定，吸收這時擔任國民黨一七九師師長的何基灃為中國共產黨特別黨員，在朱大鵬的主持下舉行了宣誓儀式。所謂特別黨員，就是當年在地下工作的特殊環境之下，不編入基層支部、不過組織生活，和黨組織進行單線聯係的黨員。
從此，何基灃秘密地為黨做了大量工作，還多次為新四軍提供槍支彈藥和軍費。用他的夫人宋曉菡的話說，是“白天當國民黨，晚上做共產黨”。
1940年，由於何基灃派去給新四軍送款的人被國民黨部隊所在地的最高軍事長官、第五戰區司令李宗仁的憲兵抓了，李宗仁要來查實情況。由於馮治安給何基灃提前透了信，他立即將部隊中可能暴露的共產黨員全部轉移到新四軍中。不久，何基灃接到五戰區長官部要他去重慶中央訓練團受訓的命令。他隻身闖虎穴，離開了他已訓練培養了幾年的一七九師，到了重慶。明為受訓，實為受審。