黃埔三期生，長於演講，記憶力很強，能吃苦耐勞、任勞任怨；在蔣介石心目中留下了“好學生”的印象
康澤，字兆民，四川省安嶽縣人，1904年農曆七月初出生在四川安嶽縣雙龍鋪（今來鳳鄉）山坳裏的一個普通的村民家。以屠豬為業的父親康曆全，依照康氏族譜給他取名代賓。代賓7歲那年，父親因病丟下他和一弟一妹撒手西去，一家4口人便全靠母親康何氏常年手工紡織來維持艱辛的生活。
康代賓8歲開始在雙龍鋪村塾上學。兩年後，母親送他到聖泉寺通賢場小學讀書，吃住在大姑母吳康氏家。學校有一位叫羅用之的老師，對康代賓發憤攻讀頗為賞識，常常給他鼓勵和幫助，加上康氏族人的支持，他得以繼續升學。其母為減輕自己的勞動，給他收養了一個童養媳。這童養媳年紀雖不大，但卻非常賢惠勤儉，一心一意幫助康母操持家務，讓康代賓在外安心讀書。
1919年，康代賓15歲，從通賢場小學轉到安嶽縣城縣高等小學讀書，翌年考入安嶽中學。在中學讀書期間，康代賓學習成績連年皆名列前茅，同時受孫中山先生革命思想的熏陶，又親眼目睹辛亥革命後軍閥混戰、民不聊生的社會慘象，萌生了救國救民的思想。
1924年，康代賓中學畢業時，聽說孫中山先生在廣州黃埔島創辦陸軍軍官學校，便躍躍欲試，想去投考。在進步教師李恒生、劉卓安的幫助和族人康紀鴻的接濟下，康代賓遠赴廣州，於1925年考入黃埔軍校第三期。因他對當年曾拚著一死去刺殺清王朝攝政王載灃的年輕革命黨人汪精衛十分景仰，便在入學後效法汪兆銘（汪精衛字兆銘），改名兆名，號澤。以後，以號代名，遂以“康澤”之名聞於世。從此，康澤講話的舉止、動作、辭令一概模仿汪精衛。康澤長於演講，記憶力很強，在各種場合講話從不帶講稿，而且詞句簡練，有條不紊，經長期模仿，還真有點汪精衛的風度和派頭。
在黃埔軍校學習期間，康澤學習勤奮，性格剛強，生活樸實。他秉承了四川南部山區農民那種吃苦耐勞、任勞任怨的傳統美德，不貪玩樂，甚至節假日也不外出遊逛。有個星期日，康澤獨自在教室裏聚精會神地整理校長的訓話筆記，突然聽到有腳步聲，轉頭一看，見是校長蔣介石在教官陪同下進了教室。康澤趕忙放下筆起身作立正姿勢。蔣介石徑直來到他的身邊，翻閱了他的筆記，問道：“你叫什麼名字？為何不休息·”教官介紹道：“他叫康澤，學習很用功。”蔣介石頻頻點頭，叫他坐下。從此，康澤在蔣介石心目中留下了“好學生”的印象。
畢業後，經蔣介石推薦，康澤被選派蘇聯莫斯科中山大學繼續深造。
在莫斯科中山大學，康澤與賀衷寒、鄧文儀、鄭介民、穀正鋼、穀正鼎為同期同學。他們氣味相投，欲在政治聯合中形成自己的勢力。他們看到，在中山大學就讀的有三四百名中國國民黨黨員，就想拉這些人結成派係，作為日後回國爭取權力的政治資本。於是，大家推舉賀衷寒領銜，康澤助之，以留法學生中有國民黨、共產黨旅歐支部為由，發起組織中國國民黨旅莫支部。這個活動，因遭到校方堅決製止，加上也未得到國民黨中央組織部批準，鬧騰了一陣子便流產了。
1927年10月，康澤從蘇聯回國，任北伐軍總司令部侍從參謀。同年冬，任國民革命軍陸軍第二師政治部主任。1929年11月，軍中政治部撤銷，康澤改任陸海空軍總司令部政治訓練處“剿匪”宣傳大隊隊長，在職兩年，曾參加中原大戰和反共軍事“圍剿”。
1931年“九一八”事變後，抗日救亡熱潮在全國興起。但蔣介石此時並不熱心抗日，而是考慮如何對付共產黨人，於是南昌行營別動總隊成立，康澤任少將總隊長，在江西剿共時期為蔣所重用。在共產黨人曾建立過的根據地，康澤的別動總隊特別活躍，督促地方進行清剿，恢複政權行使。
“剿匪”失敗，蔣介石的地位受到威脅，他開始整天冥思苦想，盤算著建立一個新組織，用以加強他的獨裁統治。他慣以采用罵人誘導的方式，讓下屬想出辦法來迎合他的意圖。
該年11月初，蔣介石召集康澤、賀衷寒等十幾個得意門生開會，叫罵了一通就宣布散會，過了幾天，蔣介石又連續兩次召集這些人開會，再三重複罵過的話。
當這幫學生中終於有人提議要團結起來時，蔣介石順勢表露了一點心跡：“你們怎樣能團結起來？今天團結，明天就鬧意見。好吧，你們試試也可以。我想，我們要有蘇聯那種‘克格勃’的組織就好了。我們今天的力量是夠的。”
康澤這個忠實的學生對校長的話心領神會，便站起來說：“據我所知，蘇聯的‘克格勃’是它政府的一部分，是挑選最忠實最幹練的黨員去組織的。”
蔣介石聽後便指示說：“你們慢慢去研究吧。”過後，學生們對校長意思研究的結果是建立一個新組織，康澤被推舉為五個籌備人之一，負責起草紀律條例。
1932年3月，蔣介石又召集這幫學生開會，康澤把起草的紀律條例呈報給蔣介石，其主要內容是：“（1）不得違抗命令；（2）不得有小組織；（3）不得泄露秘密；（4）不得傾陷同誌；違犯以上四條之一者，處以極刑；（5）不得貪贓納賄；（6）不得狂嫖濫賭；（7）不得娶妾；違犯以上三條之一者，視情節輕重，處以無期徒刑或有期徒刑。”