何應欽常常與冷少農談及國民黨的內部鬥爭問題，冷少農總是小心謹慎予以應對，每每切中要害。有一天，在冷少農辦公室，何應欽查看了各種統計報表及文件資料，環視辦公室的擺設，滿意地點點頭。然後走到窗前，歎了口氣，說現在時局混亂，閻（閻錫山）、馮（馮玉祥）、李（李宗仁）與總司令不和，汪精衛、陳公陴搞什麼“改組派”，鍾天小、諶小岑等人發起“再造派”，還有原來的“西山派”，相互間爭吵不休。冷少農見狀，小心地問道：“老師有何見解？”何應欽歎息說：“‘改組派’反蔣擁汪，‘再造派’反汪擁蔣。”冷少農應道：“‘西山派’也不示弱，企圖奪取國民黨的領導席位；還是老師落得清閑自在，鷸蚌相爭，漁翁得利，我看不久的將來，總司令會請您幫他掃除異已。”何應欽目光一閃，會心地笑了。
1929年2月，蔣桂戰爭爆發。3月2日，蔣介石任命訓練總監部總監何應欽兼任“討逆軍總參謀長”，率兵攻打桂係，冷少農跟隨前往。想到不知何時能回南京，冷少農出發前便連夜給家裏寫信。他在給姻叔曾春如的回信中婉轉談到自己的誌向，以及不能侍奉雙親、照料家庭的愧疚，信中寫道：
春如姻叔：
奉讀來示，諸承關注，複蒙多方誨解，實深感激！......革命係一大偉（偉大）工作，非短時間所能成功，非少數人所能勝任，從事者隻問工作需要，而定其動作，在短期間無所謂成功，更不容有身退。途經（徑）既殊，借機回家，當然非可能矣。鄉中諸親友關愛情深，對於舍間常加照拂，是所感戴。如其不能，亦惟有聽之而已。佳此後擬離京他往，行蹤莫定，鴻雁難投，親教甚艱，私衷赧然，然亦惟付之無可如何耳。
冷少農返回南京後不久，國民黨加緊了反共步伐，在內部利用中央組織部總務科（黨務調查科）暗地裏甄別共產黨員，剪除異己，國民政府還頒布了《共產黨人自首法》和《反省院條例》，作為實現反共政策的重要措施。在外則組織力量，俟機消滅共產黨的前線部隊。這時，冷少農接到南京地下黨通知，要他做好情報信息的收集傳遞工作，密切關注國民黨軍事行動的動向，並要他在第一時間將情報轉交給上海地下黨組織；問時，還要到工廠、學校做廣泛的動員和宣傳，吸納新的革命力量，壯大革命隊伍。
在石將軍巷10號的聯絡站內，冷少農與新上任的中共南京市委書記夏采曦、三民中學校長熊衝等黨的負責人討論如何引導進步青年學生和組織工人運動。然後，冷少農立即著手開展工作。他與地下黨同誌一道，走進學校和工廠，親自接觸學生和工人，通過演講或座談等形式向他們宣傳馬列主義的真理，鼓勵進步青年向黨組織靠攏。
1930年3月，何應欽調任軍政部長，冷少農隨同升任軍政部少校秘書。這便於他利用特殊身份作為掩護，領導地下黨組織在敵人心髒開展活動。在南京複雜、險惡的環境裏，冷少農出汙泥而不染，始終保持著共產黨人的崇髙精神風貌和髙度的革命警惕性。他月餉有80元，算得上寬綽有餘，但他節衣縮食，把積攢的錢除部分寄給家裏外，其餘的全部用於開展黨的活動。
由於長期在外，家人很是為他擔憂，多次來信催他回家團圓，他為了共產主義理想，為了全中國人的解放，不得不狠心舍棄這樣的機會。家人不知原因，來信指責他“忘恩負義”，懷疑他在南京另娶了“小妾”。冷少農在回信中這樣解釋說：“你老人家和家庭中一切人過去和現在的苦痛，我是知道的，但是無論怎樣的苦，總不會比較那些挑抬的和那些討田耕種的、討飯的、小偷們、土匪們苦痛。這是他們賤嗎？這是他們懶嗎？不是的，一切的土地，都為這些有錢有勢的人占起去，不給他們找著事情做的機會，盡量去想法剝削他們，有錢有勢的人財越發得大，這樣受苦的人越來得多。”在信中，冷少農明確地寫道：“我因為見著他們這樣的痛苦，我心裏非常的難過，我想使他們個個都有飯吃，都有衣穿，都有房子做（住），都有事情作（做）。”談到忠孝問題，他明確指出：“我真的是不忠不孝，忘恩負義嗎？我是把我的孝，移去孝順大多數受苦的人類，忠實的去為他們努力。”並毫不含糊地指出：“我們這樣的做法，自然有一般人不滿意我們，有些是不了解，有些是對於他們的利害有關係，隨時都在阻礙我們，反對我們，甚至於要殺害我們。”提到討妾一事，他說：“我覺得我既把我的身子許給一般窮苦的群眾，願為他們實現他們的利益，解除他們的痛苦，同時有這樣多人反對我，妨害我，我一切都危險，都動搖，我再討一個老婆，要是發生什麼變動，那會阻礙我的行動，那會有許多牽累的。所以我始終沒有做。”想到妻子，他十分內疚地說：“這我隻覺得有許多對不住她，對不住她的是與年空閨守寂寞，但是我為我的事情的進行，我顧不著許多了，隻好深深地請求她原諒！同時我也希望她自由的發展她的意誌，實行她的意誌。”他認為革命者的愛情，不能也不應該停留在耳鬢廝磨上，停留在人類本能欲的滿足上，停留在傳宗接代上。他寫信給妻子說：“將來社會日進文明，人人講禮講法，絕不至橫強欺人之奉，要人多做什麼？”“多兒多累，何必妄想。你我的愛情人不能閑言。”至於要不要回家，他說：“回家的事不能定的，要是不需要，也許不會回來，要是革命遲一點成功，或者中間遭了挫折，我自己就死在外麵，跑在什麼地方，我也不知道，更說不上回來不回來了。”