慘案的第二天，北京各校停課，許多學校為死難烈士開了追悼會。23日，北京市總工會、學聯等團體，聯合在北京大學舉行追悼大會。“先烈之血，革命之花”，這八個大字高懸在會場上，鼓勵人們要不惜犧牲去為革命奮鬥。中國共產黨為“三一八”慘案發表了告全國人民書，宣布段祺瑞為“彰明較著的賣國凶犯。”並強調指出：“惟一的辦法隻有實際的行動。民眾應立即起來團結，武裝和革命……苟安就是送死。”“三一八”教育人民，必須拿起槍杆，進行武裝鬥爭。
“三一八”慘案後，北京一片恐怖。李大釗立即轉入地下，從事秘密工作。3月底，他把國共兩黨在北方的領導機關都遷入東交民巷蘇聯大使館旁邊的舊俄兵營內。這樣大的目標設在那裏，自然成了一切反動派的眾矢之的，並為他們以後的暴行提供了可以蠱惑人心的借口。李大釗畢竟是一個書生。雖然經過多年革命鬥爭的鍛煉，但他對國際帝國主義的陰險狠毒，和舊式封建軍閥的落後野蠻，仍然估計不足。李大釗不顧一切，像嚴寒中的鬆柏一樣，挺立在那裏，迎接著暴風雪的襲擊，毫不動搖。1926年春夏，奉直兩係軍閥聯合起來，並拉上晉係軍閥閻錫山，先後對國民軍開戰。4月，在戰爭進行中，段祺瑞與奉係勾結的陰謀被國民軍發覺，鹿鍾麟立即把他趕下了台。曾幾何時，“三一八”的血跡還未幹，劊子手就落得如此可恥的下場。這時，北方軍閥，群龍無首，十分混亂；而馮玉祥的國民軍由於處境困難，極力向革命方麵靠攏；我黨利用了這種形勢，開展工作，雖然“反赤”“討赤”之聲甚囂塵上，但北方的革命勢力，還是在暗中穩步地向前發展。
以1926年5月向湖南進軍的葉挺獨立團為前鋒，北伐戰爭於7月大舉展開，勝利前進。9月，得到蘇聯和我黨幫助的馮玉祥，軍威複振，由綏遠、寧夏而至甘肅、陝西，使西北的革命形勢迅速發展起來。到1927年初，打到長江流域的北伐軍與開始進入河南的國民軍，即將會師，整個中國的革命形勢愈加高漲。在黑暗中的北方人民，也得到鼓舞。盡管受到嚴重的迫害，北方革命組織依然發展很快。僅北京一地，從“三一八”到1927年2月，我黨黨員就由300多人發展到1000人以上。共青團的力量發展得更快。國民黨員也由2200餘人發展到4300百餘人。
帝國主義對中國革命的勝利發展，惴惴不安，它們逐步聯合起來進行幹涉。1927年3月24日的南京事件，就是帝國主義聯合幹涉中國的信號。它用南京江麵的炮聲，召喚中國的反動力量，從軍閥官僚到資產階級，趕快和它合作，以撲滅它們這批野獸共同畏懼的革命烈火。31日，四川軍閥劉湘製造了著名的“三三一”慘案。同時，以南昌為中心和江浙財閥正在勾結的蔣係軍閥，兩廣新起的桂係軍閥，乃至隱藏在武漢革命政府旗幟下麵的湖南軍閥等等，一個個都在蠢蠢欲動。正是在這樣的背景下，那個胡匪出身的張作霖，剛剛當上了北洋軍閥的末代皇帝――“安國軍總司令”，才不管什麼國際公法，不顧什麼國際慣例，悍然下令，調動大批軍警，到那平日不許中國人入內的使館區，闖進蘇聯大使館駐地，逮捕了李大釗等一批革命幹部和一些無辜的和平居民。
為了逮捕李大釗，敵人是費了一番苦心的。他們不但派特務經常監視出入人員的行動，而且利用招工友的機會，派人偽裝打入內部，用三個月的功夫，把內部的一般情況，弄得一清二楚。他們還逮捕了在李大釗身邊工作的李渤海，誘使他叛變，進一步摸清了內部組織情況。然後，他們找當時任公使團團長的荷蘭公使歐登科交涉，希望準其進入使區抓人。於是各國公使開會集議。這幫帝國主義分子，一直把強加在中國人民頭上的《辛醜條約》，視為神物，在“三一八”前夕的大沽口事件中，還根據它來向中國提抗議，提最後通牒，但到這時卻把它踩在腳下，竟公然允許“安國軍”派兵進入使館區捕人，而且允許其頭領在荷蘭使館內坐鎮指揮。帝國主義的行徑就是這樣的卑鄙無恥。和帝國主義勾結成功後，4月6日，“安國軍”大批軍警特務，采取突然行動，將蘇聯使館包圍後，立即衝入舊俄兵營內，不問情由，一舉將李大釗等60餘人，加以逮捕。4月12日，蔣介石在上海舉行了反革命政變。15日，廣州也發生了反革命政變。一時，東西南北四方，黑雲滾滾，反革命的潮流湧上來了。帝國主義為國民黨的“清黨”（屠殺共產黨）鼓掌，為“穩健派”（帝國主義的新工具――國民黨新右派）的得勢歡呼。為了博得帝國主義的支持，為了和蔣介石攜手言歡，張作霖自稱是孫中山舊友，不反國（民黨），隻反共（產黨），決心殺害李大釗。
李大釗入獄後，在敵人的嚴刑拷打麵前，堅貞不屈；對敵人的各種引誘，嚴詞拒絕。敵人不敢公開審判，想以所謂軍法會審來屈辱他。但“李大釗受審時……態度極從容，毫不驚慌”。他身“著灰布棉袍，青布馬褂，儼然一共產黨領袖之氣概”（北京《晨報》）。在20多天的監獄生活中，他受盡了折磨，但始終沒有泄露過任何一點黨的機密，沒有說過任何一句不利於革命的話。他所寫的《獄中自述》（供狀），以國民黨的黨員和領導人自稱，從未涉及共產黨，連國民黨內的工人黨員也加以推掩。他堂堂正正地宣告：“釗自束發受書，即矢誌於再興民族之事業。”為了開脫同案人員，他勇敢地寫道：“倘以此而應重獲罪戾，則釗實當負其全責，惟望當局對於此等愛國青年，寬大處理，不事株連，則釗感且不盡矣。”李大釗在嚴重的生死關頭，臨危不懼，寧死不屈，舍己為人，舍身救人，準備用自己一個人的生命，去挽救多數人的生命，這種偉大崇高的人格，足以驚天地、泣鬼神，使一切有良心的人欽佩。但是，毫無心肝的奉係軍閥，終於不顧廣大輿論的反對，於28日上午，將李大釗和譚祖堯、鄧文輝、謝伯俞、莫同榮、姚彥、張伯華、李銀連、楊景山、範鴻024、謝承常、路友於、英華、張挹蘭（女）、閻振三、李025、吳平地、陶永立、鄭培明、方伯務等20人一起絞殺。李大釗臨刑時從容地走上絞架，神色不變（北京《晨報》）。至今人們看到的那張就義前的遺照，那慈祥的態度、和悅的目光，泰然自若，宛如平日，令人一見，立刻就會產生無限敬仰的感情。對於李大釗的殉難，陳毅後來的紀念詩寫得很好：