不久，張煌言與眾人商議，欲盡數落發為僧，前往普陀山，靜待時變，再起複明。荒島之上，張煌言作《滿江紅·懷嶽忠武》一詞，表達複國報仇之念：
屈指興亡，恨南北黃圖消歇。便幾個孤忠大義，冰清玉烈。趙信城邊羌笛雨，李陵台上胡笳月。慘模糊吹出玉關情，聲淒切。
漢宮露，染園雪。雙龍逝，一鴻滅。剩逋臣怒擊，唾壺皆缺。豪傑氣吞白鳳髓，高懷眥飲黃羊血。試排雲待把捧日心，訴金闕。
不料，張煌言部下一名小校叛變，逃至清朝浙江總督趙廷臣處告密，引來大批清軍搜山。猝不及防，張煌言被清軍生擒。
被押送至寧波，清朝總督趙廷臣曾到海上與張煌言談判過，見到他非常禮敬，設宴舉酒，問候道：“張老爺別來無恙。”
張煌言不入席，凜然曰：“我父死不能葬，國亡不能救，死有餘罪，今日之事，速死而已，何必多言！”
與張煌言一同被俘的羅倫見狀高聲說：“張公一死而已，何必與如此豬狗之輩絮語！”
清朝的趙總督識趣，以重兵護大轎，把張煌言禮送至省城杭州。臨別故鄉時，鄉親成千上萬泣別送行，張煌言作《甲辰八月辭故裏》詩：
義幟縱橫二十年，豈知閏位在於闐。桐江空懸嚴光釣，震澤難回範蠡船。
生比鴻毛猶負國，死留碧血欲支天。忠貞自是孤臣事，敢望千秋春史傳。
船行途中，夜半時分，張煌言忽聽有人低聲吟唱《蘇武牧羊曲》，大英雄立刻起身和歌，慷慨激昂。仔細一看，唱曲人乃看守士兵之一的史丙。
張煌言知道對方“勸死”的心意，說：“你真是有心人！你放心，我作為大明兵部尚書，絕對會為國盡忠，含笑而死，不會給大明朝丟臉！”
入杭州後，張煌言賦《入武林詩》，更加堅定了以死報國之心：
國破家亡欲何之？西子湖頭有我師。日月雙懸於氏墓，乾坤半壁嶽家祠。
慚將赤手分三席，擬為丹心借一枝。他日素車東浙路，怒濤豈必屬鴟夷。
從字裏行間可以看出，嶽飛、於謙兩位前輩先烈，是張煌言的精神榜樣。
清朝的浙江巡撫張傑親自迎接，待以貴客之禮。張煌言不卑不亢，與清朝督撫官員分庭抗禮，岸然高坐，寒暄閑話。張傑等人皆知，張煌言心堅為明，不可勸轉，所以，相見許久，皆閑談海中之事，閉口不敢提招降的問題。
言談之間，還有不少降清的從前張煌言的部將來拜，均涕泣行禮。
對這些人，張煌言略微頷首示意。
敘談許久，清朝巡撫張傑終於開勸：“張老爺，您如果肯降大清，富貴功名，即可立致！”
張煌言臉色一變，起身斥責：“這等事豈可與我講，我唯求速死而已！”言畢離席。清官清將，皆離席恭送，沉默久之。
張傑下令，將張煌言與被俘諸人軟禁於豪宅之中。
這些清朝的文官武將並不堅勸張煌言降清，是因為他們深知這位張先生的堅定信念。早在先前的往來書信中，張煌言已經明白無誤地表示了對明朝的忠誠：
執事（指清朝總督趙廷臣等人）為新朝佐命，仆（張煌言自指）為明室孤臣，時地不同，誌趣亦異。功名富貴既付之浮雲，成敗利鈍亦聽天之命。寧為文文山（文天祥），決不為許仲平（南宋末降元的許衡）；若為劉處士（南宋末降元的劉秉忠），何不為陸丞相（陸秀夫）乎！
遭受軟禁期間，張煌言欲絕食，其參軍羅倫勸道：“大丈夫死忠，任其處置，死得分明即可。張公您該吃吃，該喝喝。”
羅倫本是鎮江書生，南京之役時，開始追隨張煌言。鄭成功敗走之際，他曾駕一葉小舟追趕海舟，登船苦勸：“您兵勢尚強，奈何因小小挫敗即撤退。清兵勝後必驕怠，如果您現在回帆反擊，定破南京。”喪膽落魄之餘，鄭成功不聽，令人把羅倫趕走。羅倫當時在船上頓足號慟，士眾感動。有這樣的忠貞之士陪伴，張煌言肯定心中更感安定。
被俘期間，張煌言終日方巾葛衣，南麵而坐，以示不忘故君。