宋靖康元年（1126）正月，金軍南征已接近黃河。宋廷急，速派兵北渡黃河增援溶州（治今河南浚縣），可是兵士多年不訓練，毫無作戰力，而軍將隻飲酒作樂，風聞金兵臨近，竟不戰自潰，溶州隨即陷落。駐守黃河南岸的宋兵亦慌亂燒毀黃河上的橋梁，奪道而逃，致使黃河防衛頃刻空無一人。金軍到達黃河北岸，起初隻搜索到十餘艘小舟，每舟乘六七人渡河，後來又找到幾艘稍大的船，故連渡數日方使金軍南渡完畢。然而渡河未遭受宋軍的絲毫抵抗，竟使金軍將領也感到難以置信。正月初三，金軍渡黃河南下的消息傳入朝廷，原打算第二天赴亳州（治今安徽亳縣）的太上皇趙佶當即決定逃離開封。深夜，他與大臣蔡攸僅偕幾位內侍慌忙出通津門東逃。一路上，他嫌船行太慢，改乘小轎，又改乘運磚船，趕到南京（今河南商丘），再改乘駿騾，到符離（今屬安徽）才乘上官船，一路折騰，直到泗上方敢稍事休息。稍後，童貫、高俅率“勝捷兵“趕到，趙佶方有扈從侍衛。他隨即繼續南逃到揚州（今屬江蘇），竟顧不得太上皇後，自己先逃過長江到達京口（今江蘇鎮江）。而未能跟上的皇子、皇女們，則隻好暫時棲居於沿途州縣。趙佶的南逃，亦引起朝廷內極大的恐慌，許多臣僚也悄悄緊隨其後，逃離京城，尋找安全之地。
剛剛即位的趙桓對勸說趙佶“內禪”的吳敏、事綱等人給予重用，以吳敏為門下侍郎，李綱為兵部侍郎。此時朝野人士對蔡京等人的禍國殃民罪行已是深惡痛絕，太學生陳東等人上書，曆數蔡京、童貫、王黼、梁師成、李彥、朱勳之罪，謂之“六賊”，請求將其誅殺。趙桓出於無奈，隻好將“六賊”或貶官流放或賜死，以平息民忿。
麵對金軍咄咄逼人的攻勢，宋廷君臣人心惶惶，眾說紛紜，出現抗擊與逃避兩種截然相左的意見。李綱主張趙桓應像當年宋真宗那樣，親自統兵北上征討，在其他王戰派官僚的要求下，趙桓被迫下詔“親征”。其時，金兵已逼近開封。口稱“親征”的趙桓心裏卻想著出逃至襄陽（今湖北襄樊）及鄧州（治今河南鄧縣），遂委以李綱為東京留守。統帥開封城軍民抗擊金軍，便於自己脫身，故當給事中王寓直諫“親征”之事，竟給予罷官。李綱得知宋帝的真實意圖後，立刻勸諫他不要退卻，並明確告之臣僚：“上意已定，敢有異議者斬屍⑤於是最終製止了宋帝的出逃。李綱隨即被任命為尚書右丞。第二天，又改任他為親征行營使，以侍衛親軍馬軍都指揮使曹矇為副使，負責開封城的防衛之事。
受命於危難之時的李綱立即組織軍民積極備戰，修城樓，掛氈幕，安炮坐，架弩床，運磚石，施燎炬，垂檑木，備火油，守戰之具無不齊備。又於開封城四麵，每麵配備正兵1200餘人，另有廂軍及保甲兵協助作戰。同時組織馬步軍4萬人，分作前、後、左、右、中五軍，每軍8000人，每日操練習武。以前軍駐守通津門（東水門外），保衛內儲糧40萬石的延豐倉；後軍駐軍於朝陽門（宋門）外，防守城濠；其餘三軍為總接應。心虛膽怯的趙桓對此仍不放心，一麵遣使赴各路，督催地方官府盡快發兵救援開封，一麵又派尚書駕部員外郎鄭望之，親衛大夫、康州防禦使高世則出使金軍，進行談判。
李綱積極備戰才數日，金軍已到達開封城下，駐紮於城西北郊牟駝崗。是夜，金軍分乘幾十艘船，沿汴河而下進攻宣澤門（西水門）。李綱派出2000名敢死隊布列於城下，待敵船臨近，即用長鉤鉤住，拖至岸邊，投擲石塊砸爛船隻。又於水中釘入木樁，阻擋敵船。另搬運蔡京宅第內的山石堵住宣澤門。經過一夜的激戰，金軍在損失百餘兵士的情況下，於清晨被迫撤兵。李綱來不及休息，趕入朝中稟報戰況。有軍士人報，金兵複又進攻酸棗門、封丘門，李綱急忙率一千名射手，趕赴酸刺門、封丘門，指揮抗敵。他們剛到達，金兵已渡過城濠，搭雲梯攻城。正當危急之時，李綱急令兵士射殺金兵，並翠官員登城督戰。又派壯士數百人，縋城而下，放火燒毀數十座雲梯。城上守軍用檑木，弓箭進行還擊，多次擊退金軍的攻城。金軍隨即又轉攻通津門、景陽門等處，李綱仍親自前往督戰，從卯時（今5至7時）直戰至酉時（今17至19時），殺死金兵數千人。金軍多處強攻均遭挫敗，死傷頗多，隻得再次退兵。李綱率領城中軍民終於勝利地保衛了京城。