遊行的隊伍浩浩蕩蕩地開到了趙家樓胡同，曹宅的大門早已緊閉。由於房屋圍牆太高，無法翻入，盛怒之下的學生將旗子擲向院內，高喊“賣國賊曹汝霖快出來”！學生們的情緒越來越激昂，但無法衝進門去。匡互生心急如焚，這時，他猛然發現大門右側有一個窗戶，他以少年時代練就的武功，縱身躍上窗台，一拳將窗戶玻璃擊得粉碎，兩手用力一拉，把窗戶上的小鋼筋拉彎，然後一躍而入，接著又有四五個準備犧牲的同學爬了進去。宅內幾十個全副武裝的警察，早被外麵的呼聲所震駭，看見匡互生等跳了進來，更是目瞪口呆，竟自動取下刺刀，退出槍彈。匡互生等迅速將笨重的大門打開，如鯽如鱗的群眾一擁而入。
入宅前已傳說曹、章、陸三賊正在曹家開會，匡互生全然不顧流血受傷的手，和大家湧入內宅搜尋，但沒有找到。於是，憤怒之極的匡互生取出預先攜帶的火柴，將屋內易燃的帳子、掛畫、信件集中起來，準備點火，這一舉動被擔任遊行大會主席的段錫朋所發現，他阻止匡互生說：“我負不了責任。”匡互生毅然回答：“誰要你負責，你也確實負不了責任！”並斷然點燃了火。這把火對中國曆史產生了重大影響。與此同時，其他同學痛打了來不及逃走、化裝成日本人的章宗祥。曹宅燃起大火之後，軍警趕來滅火，並逮捕了32名來不及散去的學生。匡互生聞之，認為首先打進曹宅和點火的都是他，不是被捕同學之罪，要去自首，換出32人，經諸同學力勸乃止。
火燒趙家、痛打章宗祥的義舉，震動全國，“五四”愛國運動迅速蔓延中華大地，軍閥政府繼續實行高壓政策，部分學生發生動搖。匡互生看到這種情況後十分擔憂，他說：“如此下去，以壯烈始，而以畏懼終，於國事無益，宜衝破網羅，繼續運動，與軍警決鬥，獲最後之成功！不成，則以死繼之。”他和進步同學一起組成講演隊，出校演講，隨時都有被捕的危險，但他無所畏懼。在這些進步學生的推動下，終於取得了運動的勝利。6月4日，軍閥政府在全國人民的壓力下，罷免了曹汝霖、章宗祥、陸宗輿的職務，釋放了被捕的學生。這時，一直為學生運動奔忙操勞的匡互生，雖已是十分憔悴，卻充滿了勝利的喜悅和快慰。
借炸彈炸張敬堯
匡互生是個平和、親切的人，巴金在《懷念匡互生先生》中記敘了兩則匡互生和小偷的故事，其中之一是這樣的，“又有一回學生宿舍捉住一個穿西裝的賊，他讓賊坐下來，同‘他’長談，了解‘他’的生活情況，好好開導‘他’，後來還給‘他’介紹工作。他常說：‘不要緊，他們會好的。’”
就是這麼個對賊都如此和善的人，卻被時事逼得屢屢做出“衝動”的俠義之舉。1919年夏，匡互生從北京高師畢業回到湖南。他受長沙楚怡小學校長陳潤霖之聘，到楚怡小學任教兼編國語教科書。他是一心要紮在教育事業裏的，但他任教的楚怡學校被張敬堯強迫解散了。忍無可忍的他從趙恒錫那裏借來了五顆炸彈，他要炸死被北京政府任命為湖南督軍的皖係軍閥張敬堯。
張敬堯在湖南劣跡累累，1920年1月9日，上海民國日報刊載了《湖南各界人士痛斥張敬堯禍湘罪行》一文，文中寫道：“七年（1918年）五月之後，醴陵全城萬家燒毀殆盡，延及四鄉，經旬始熄；株洲一鎮商戶數千家，同遭浩劫；攸縣黃土嶺一段被奸而死者，至於女屍滿山，殺人之多，動至數萬……長沙一城，軍署所駐，白晝搶劫，無日無之……”