侯景軍用尖頂木驢攻城。因上蒙濕牛皮，木石鐵火都難破壞，羊侃作雉尾炬，除用枯草縛紮處，上還裝鐵箭頭，用油澆浸，燒著後擲到木驢上，鑿穿牛皮，就燒毀了木驢。賊軍又在東西兩麵壘起土山，比城高，城中人驚駭萬分，羊侃命挖地道直到土山下，把土挖空，山就塌下了。賊軍又製造了登城樓車，高十多丈，想在車上對城內射箭，羊侃說：“車太高而城外溝虛，它來必然倒下，可躺著看它倒，不必防備。”等車一移動後果然倒下，大家都佩服羊侃的預見。賊軍多次進攻不能勝利，就把京城團團包圍起來。朱異、張綰主張開城出擊，梁武帝問羊侃，羊侃答道：“不可以。賊軍多日攻城，因攻不下，所以團團包圍，目的是想誘降城中的人。現在出擊，如果出去人少，不足以打敗他們；如果人多，一旦失利，自相踐踏，城門狹，橋小，必然傷亡慘重，這是向敵人示弱，不是宣揚王威呀。”但這意見沒有被采納，梁朝派出千餘士兵出城作戰。還未及交鋒，就望風逃回。果然在爭上橋時紛紛落水，死了一大半。
在此前，羊侃長子羊侃被侯景所抓獲。侯景把他帶到城下給羊侃看，羊侃說：“我把全宗族的人都用來報答聖上的大恩，還恨不夠，哪裏還計較一子，希望你早點把他殺了。”過幾天侯景又抓他到城下，羊侃對羊侃說：“我以為你早已死了，你還在呀，我以身許國，誓死與敵作戰，終歸不會因為你而動搖我的進退。”說完拿起弓來射。賊軍都被羊侃的忠義所感動，並不加害於羊侃。侯景派遣儀同傅士哲呼羊侃說話，他說：“侯王遠道而來問侯天子，為何閉門拒絕，不及時進納？尚書是國家大臣，應該啟奏朝廷。”羊侃說：“侯將軍在奔走逃亡之後，歸順國家，朝廷把重要的城市方鎮委任給他管理，不知什麼原因，使他忽然起兵？今天他驅使一些烏合之眾，來到王城之下，擄掠馬匹飲淮河水，向王城中射箭，豈有作為臣下而這樣做的？我受國家的大恩，應當稟承皇帝的決策。掃蕩反叛的逆賊，不能夠輕易聽你的花言巧語，開門迎接盜賊。請你回告侯王，望他及早好自為之。”士哲又說：“侯王奉事天子盡心盡力，不被朝廷所知道，正想當麵啟奏天子，以清除奸臣。既然在軍中任職。故而帶兵來到京師，怎麼能說是造反呢？”羊侃說：“聖上君臨四海五十年，聰明而有智慧，沒有一件事能瞞得過他，有哪一個奸臣可以在朝廷上？要想掩飾錯誤，希望你不說假話。而且侯王親自高舉大刀，進攻城門宮殿，事奉君王盡臣下之節，有這樣做的嗎？”士哲無言可答，於是說：“在北方的日子裏，久仰你的風采和謀略，恨平生不能和你相敘，請你脫去戰袍，讓我好好看你的風采。”羊侃就脫去了盔甲，傅士哲瞻仰了很久才離去。羊侃就是這樣被北方人所欽佩和羨慕。
後來下起大雨，建康城內土山崩壞，賊軍乘虛而入，戰士們苦戰不能退敵人，羊侃下令多擲火，使城成為火城用來阻斷賊軍的路，與此同時，在城裏再築城，賊軍無法前進。十二月，羊侃遇病死於合城中，時年五十四歲。下詔給東園的棺材，布和絹各五百匹，錢三百萬，贈官侍中、護軍將軍，又賜給一部鼓吹樂隊。
羊侃少年時勇猛非凡，臂力驚人，所用的弓達到十餘石。曾經在兗州的堯廟的壁上行走，上到四丈高，橫行了七步。泗橋上有幾個石人，長八尺，大十圍即五尺，羊侃抓住它們互相擊撞而碎。
羊侃生活豪華奢侈，懂音樂，曾自己創作《采蓮》、《棹歌》兩首歌曲，別具新意。姬妾在一旁侍侯。十分奢靡。有個彈箏人陸太喜，其彈箏的鹿爪長七寸。跳舞人張淨琬，腰圍隻有一尺六寸，當時人都說他能站在人手掌上跳舞。又有一個孫荊玉，能反腰貼近地麵，咬到席子上的玉簪。皇帝賞賜的歌手王姚兒，東宮也賞賜歌手屈偶之，都是能唱美妙動聽的歌曲，一時無人可比。最初到衡州，在兩隻小船上造起三間通梁水齋，上麵裝飾了珠玉、有彩圖的錦，和華麗的屏風，還有歌女和舞女，船解纜後趁潮前進，麵對著水波飲酒作樂，兩岸的觀看者擁擠不堪。大同年間，北魏使者陽斐，與羊侃在北方時曾是同學，有詔書命羊侃請陽斐宴會，參加的還有賓客三百餘人，宴會上的飲器都是金玉等所製作。有三部女樂隊奏樂，侍侯的婢女達百餘人，都手拿著金花燭。羊侃不能飲酒，而善於與賓客應酬，他整天陪伴著賓客，與他們一樣時醉時醒。羊侃性格寬厚，有氣量，曾經從南方回到漣口，設酒宴，有一個叫張孺才的賓客，醉後在船中引起火災，連帶燒了七十餘艘船，被燒金銀和帛不可計數。羊侃聽說後，都不介意，命令酒宴不要停止。張孺才既慚愧又害怕，逃走了，羊侃派人安慰他並叫他回來，對待他像起初一樣。