1934年12月1日是蘇聯共產黨（布）中央政治局委員、列寧格勒州委書記基洛夫的一個照常工作日，但也是他生命曆程中最後一天。這也是即將席卷全國鎮壓狂潮掀開序幕的一天。這一天傍晚當基洛夫走進在列寧格勒州委機關所在地斯美爾尼宮，向州委第二書記的辦公室走去。當他在走廊裏停下腳步開門時，一顆罪惡的子彈射中他的脖子。他搖晃一下，轉了半個身子，就一頭栽倒在鑲木地板上了。他的帽子被掀落了一半，鮮血從傷口向外冒。凶手尼古拉?耶夫是內務人民委員會的工作人員。而且有證據表明，在這項謀殺之前，他曾幾次企圖暗殺基洛夫。
謝米?基洛夫喜歡在斯美爾尼宮中散步。尼古拉耶夫仔細地研究了他散步的路線，企圖靠近基洛夫卻被警衛人員逮捕。在他皮包背麵有一處開口地方，可以不打開皮包就能抽出手槍，上了子彈的手槍就放在此處，裏麵還裝有基洛夫的散步路線圖。尼古拉耶夫被帶到列寧格勒內務人民委員會。審問他的是委員會助理負責人紮波羅熱沃，但不久之後奉內務人民委員雅哥達之令釋放了他。
這引起基洛夫警衛人員的警惕。但內務人民委員會告訴他們：這件事用不著他們去管，並以收繳個別警衛人員黨證相威脅。最後尼古拉耶夫帶著武器潛入斯美爾尼宮，在基洛夫要通過那條走廊時向他開槍，慘案就發生了。
更令人奇怪的是當基洛夫的警衛隊長被提交去接受審訊時，他是被用有棚的大卡車接走的，裏麵還有幾個手持鐵棒的契卡人員，一人坐在司機身旁。在沃伊諾夫大街，當汽車駛過倉庫的一麵高牆時和司機坐在一起的人員突然轉換一下方向盤，使汽車朝一座房屋衝去。司機抓回方向盤矯正了汽車方向，汽車的側麵碰到房屋牆上，避免車禍發生。但基洛夫的警衛隊長鮑利索夫已被人用鐵棒打死了。當時醫生作了假鑒定，指鮑利索夫是因車禍而死，他們當中有些人活到蘇共“二十大”時說鑒定書是被迫做出的，鮑利索夫是被很重的金屬鐵棒打在頭上致死的。
從這個案件的發生，以及整個偵查過程都可以看到有一隻有力的手在指揮整個事件的進行，絕非尼古拉?耶夫的個人行為。因此無論斯大林是否指使這次謀殺，但他都會最大程度地利用這件事消滅他的對手。
基洛夫被刺事件至今是一個案情撲朔迷離的曆史疑案。凶手尼古拉也夫雖然當場被捕,並由當天趕到列寧格勒的斯大林親自審問，但審訊記錄始終沒有公布，尼古拉?耶夫當月即被槍決。無論基洛夫案的真相如何，有一點十分清楚，即這個事件給斯大林提供了徹底清洗一切反對派（包括潛在的對手）、鞏固自己權力地位的機會和采取種種非法手段以達到上述目的的借口。
當天，斯大林等領導人趕到出事地點，親自過問這一案件。最初，政府宣布暗殺是白衛恐怖分子幹的，並處決了104名白衛恐怖分子。半個月後，蘇聯報紙宣布，暗殺是托洛茨基、季諾維也夫反對派策劃的。
基洛夫案件發生後，1935年1月18日，聯共(布)中央就基洛夫暗殺案向各級黨組織發出一封秘密信。信中說：“必須肅清機會主義的泰然自若，這種態度是從這樣的錯誤假定出發的：隨著我們力量的增長，敵人似乎會變得愈來愈馴服和不傷害人。這種假定是根本錯誤的。它是右傾的死灰複燃，它要大家相信，敵人將悄悄地爬進社會主義，他們最後會變成真正的社會主義者。布爾什維克不應當高枕無憂和粗心大意。我們需要的不是泰然自若，而是警惕性，真正布爾什維克的革命警惕性。必須記住，敵人的處境愈是絕望，他們就愈想把極端手段作為他們反蘇維埃政權鬥爭的垂死掙紮的唯一手段。必須記住這一點，必須保持警惕。”根據這一信件的要求，各級黨組織都開展“坦白和承認錯誤的運動”，許多人承認自己“警惕性不高”，“和‘敵對分子’有聯係”，不少人被開除黨籍和被捕，其中大多是原先的反對派分子。在這期間，根據黨中央的指示，對所有黨證進行了一次審查。