十月，文天祥到平江，元兵已從金陵出發進入常州。文天祥派遣他的將帥朱華、尹玉、麻士龍與張全援助常州，行到虞橋，麻士龍戰死，朱華率領廣南軍隊，戰於五牧，被打敗，尹玉也打敗了，爭相渡水，扒張全軍中的渡船，張全的士兵斬斷他們的手指，都淹死了，尹玉率領殘兵五百人夜間發起戰鬥，到第二天早晨都戰死了。張全不發一箭，逃跑退卻了。元兵攻入常州，占領了獨鬆關。陳宜中、留夢炎召令文天祥，棄守平江，退守餘杭。
第二年正月，擔任臨安知府。不多久，宋朝投降，宜中、張世傑都走了。繼續任命天祥為樞密使。不久，擔任右丞相兼樞密使，作為使臣到元軍中講和談判，與元朝丞相伯顏在皋亭山針鋒相對爭論。丞相發怒拘捕了他，同左丞相吳堅、右丞相賈餘慶、知樞密院事謝堂、簽樞密院事家鉉翁、同簽樞密院事劉觔，向北至鎮江。天祥與他的侍客杜滸等十二人，於夜間逃入真州。苗再成出來迎接他，高興得流著眼淚說：“兩淮的士兵足可以興複宋朝，隻是二製置使有些矛盾，不能同心協力。”文天祥問道：“這個計謀是從哪裏來的呢？”苗再成回答說：“現在先約淮西兵趕赴建康，他們必然全力以防禦我們淮西的士兵。指揮東麵各將帥，以通州、泰州兵攻打灣頭，以高郵、寶應、淮安兵攻打楊子橋，以揚州兵攻打瓜步，我率領水軍直搗鎮江，同一天大舉出兵。灣頭、楊子橋都是沿長江的脆弱之軍，又日夜希望我們軍隊攻來，攻打他們，定會很快取勝。一齊從三個方向進攻瓜步，我自己率兵從長江水麵中以較少的士兵佯攻，雖然有智慧的人也不能預料到這一點。瓜步攻下後，以東麵的軍隊入攻京口，西麵的士兵入攻金陵，威脅浙江的後退之路，那麼元軍的大帥就可以生擒了。”天祥對此大加讚揚，隨即寫信送兩個製置使，派遣使者四麵聯絡。
天祥沒有到的時候，揚州有逃跑歸來的士兵說：“秘密派遣一丞相進入真州勸說投降來了。”李庭芝信以為真，認為文天祥勸降來了。派苗再成迅速殺掉天祥。苗再成不忍心殺他，欺哄天祥到相城壘外，把製司的文書給他看，把他關在門外。好久以後，又派兩批人分別去窺測證實天祥是否是來勸降的，如果是勸降的就殺了他。兩批人分別與天祥談話後，證實其忠義，都不忍心殺他，派士兵二十人沿路護送至揚州，四更鼓響時抵達城下，聽等候開城門的人談，製置司下令防備文丞相很嚴密，文丞相與隨從聽說後相互吐舌，於是向東入海道，遇元兵，躲入四圍土牆中得以免禍。然而，因為饑餓而不能走路，於是向樵夫們討得了一些剩飯殘羹。走至板橋，元兵又來了，眾人跑入竹林中隱伏，元兵進入竹林搜索，抓住杜滸、金應帶走了。虞侯張慶眼睛被射中了一箭，身上兩度挨箭，文天祥兩次都未被發現，得以脫身。杜滸、金應拿出身上的金銀送給元軍，才被放回，雇募二個樵夫抬著坐在籮筐裏的文天祥到高郵，泛海坐船至溫州。
聽說益王未立，於是上表勸請即帝位，以觀文殿學士、侍讀的官職召至福州，拜右丞相。不久與陳宜中等人議論意見不統一。七月，於是以同都督職出任江南西路，準備上任，召集士兵進入汀州。十月，派遣參謀趙時賞，諮議趙孟頫率領一支軍隊攻取寧都，參讚吳浚率一支軍隊攻取雩都，劉洙、蕭明哲、陳子敬都從江西起兵來與他會合。鄒倣以招諭副使在寧都召聚民眾，元兵攻打他們，鄒倣兵敗，同起事率兵的人劉欽、鞠華叔、顏師立、顏起岩都死了。武岡教授羅開禮，起兵收複了永豐縣，不久兵敗被俘，死於獄中。天祥聽說羅開禮死了，穿起喪服，痛哭不已。
至元十四年（１２７７）正月，元兵攻入汀州，天祥於是遷移漳州，請求入衛朝廷。趙時賞、趙孟頫也率兵歸來，唯獨吳浚的士兵沒有到。不久，吳浚降元，來遊說文天祥。文天祥派人縛起吳浚，把他吊死了。四月，進入梅州，都統王福、錢漢英專橫跋扈，被處斬了。五月，遷出江南西路，進入會昌。六月，進入興國縣。七月，遣參謀張汴、監軍趙時賞、趙孟頫等率大軍進逼贛城，鄒倣率領贛州各縣的軍隊攻取永豐，他的副官黎貴達率領吉州各縣的士兵攻取泰和。吉州八縣克複了一半，僅剩贛州沒有攻下。臨洪各郡，都送錢勞軍。潭州趙倖、張虎、張唐、熊桂、劉鬥元、吳希堉、陳子全、王夢應在邵州、永州等地起兵，克複數縣，撫州何時等人起兵響應文天祥。分寧、武寧、建昌三縣豪傑，都派人到軍中接受調遣參戰。
江南西路宣慰使李恒派遣士兵入援贛州，而自己率兵在興國進攻文天祥的據點。文天祥沒有預料到李恒的兵突然攻至興國，於是率兵撤退，靠近永豐的鄒倣。鄒倣的軍隊已在他的前麵潰敗，李恒於是窮追文天祥至方石嶺。鞏信堅守拒戰，身中數箭，死了。到達空坑，士兵都被打敗潰散，天祥的妻妾子女都被抓住。趙時賞坐在轎子中，後麵的元兵訊問是誰，時賞說：“我姓文”，眾兵以為是文天祥，活捉了他返回軍營，文天祥因此得以逃脫。
孫屘、彭震龍、張汴死於軍中，繆朝宗自己上吊死了。吳文炳、林棟、劉洙都被抓住帶回隆興。趙時賞怒罵不屈服，有的多次被抓來的，往往很快放掉，說：“小小的簽廳官，抓來有什麼用呢？”因此得以逃脫的人很多。到行刑的時候，劉洙多次辯解，時賞嗬斥他說：“死了算了，何必這樣呢？”於是林棟、吳文炳、蕭敬夫、蕭燾夫都不能免難。
文天祥召集殘兵奔赴循州，駐紮於南嶺。黎貴達暗中陰謀投降，被抓住殺了。至元十五年。（１２７８）三月，進駐麗江浦。六月，入船澳。益王死了，衛王繼承王位。文天祥上表自責，請求入朝，沒有獲準。八月，加封文天祥少保、信國公。軍中瘟疫又流行，士兵死了幾百人。天祥唯一的一個兒子和他的母親都死了。十一月，進駐潮陽縣。潮州盜賊陳懿、劉興多次叛附無常，為潮陽人一大禍害。文天祥趕走了陳懿，抓住劉興，殺了他。十二月，趕赴南嶺，鄒倣、劉子俊又從江西起兵而來，再次攻伐陳懿的黨羽，陳懿於是暗中勾結張弘範元帥，幫助、引導元軍逼攻潮陽。文天祥正在五坡嶺吃飯，張弘範的軍隊突然出現，眾士兵隨從措手不及，都埋頭躲在荒草中。文天祥匆忙逃走，被千戶王惟義抓住。天祥吞食腦子，沒有死。鄒倣自刎頸項，眾士兵扶著他至南嶺才死。僚屬士卒得以從空坑逃脫的人，至此時劉子俊、陳龍複、蕭明哲、蕭資都死了，杜滸被抓住，憂憤而死。僅有趙孟頫逃脫，張唐、熊桂、吳希堉、陳子全兵敗被活捉，都被處死。張唐，廣漢張埁的後裔。
文天祥被押至潮陽，見張弘範時，左右官員都命他行跪拜之禮，沒有拜，弘範於是以賓客的禮節接見他，同他一起入恥山，要他寫信招降張世傑。文天祥說：“我不能保衛父母，還教別人叛離父母，可以嗎？”因多次強迫索要書信，於是，寫了《過零丁洋》詩給他們。這首詩的尾句說：“人生自古誰無死，留取丹心照汗青。”弘範笑著收藏它。恥山戰敗後，元軍中置酒宴犒軍，弘範說：“丞相的忠心孝義都盡到了，若能改變態度像侍奉宋朝那樣侍奉大元皇上，將不會失去宰相的位置。”天祥眼淚撲簌簌地說：“國亡不能救，作為臣子，死有餘罪，怎敢懷有二心苟且偷生呢？”弘範感其仁義，派人護送文天祥到京師。
文天祥在路上，八天沒有吃飯，沒有死，才又吃飯。到達燕京，館舍侍員殷勤、陳設奢豪，文天祥沒有入睡，坐待天亮。於是移送兵馬司，令士卒監守他。當時元世祖皇帝多次搜求有才能的南宋官員，王積翁說：“南宋人中沒有誰比得上文天祥的。”於是派遣王積翁去傳達聖旨，文天祥說：“國家亡了，我隻能一死報國。倘若因為寬赦，能以道士回歸故鄉，他日以世俗之外的身份作為顧問，還可以。假如立即給以高官，不僅亡國的大夫不可以此求生存，而且把自己平生的全部抱負拋棄，那麼任用我有什麼用呢？”王積翁想與宋官謝昌元等十人一起請釋放文天祥為道士，留夢炎不同意，說：“文天祥放出後，又在江南號召抗元，置我十人於何地！”此事於是作罷。天祥在燕京共三年，皇上知道天祥始終不屈，同宰相議論放了他，遇上有人以文天祥起兵江南西路的事為借口，結果沒有被釋放。
至元十九年（１２８２）福建有一僧人說土星冒犯帝坐星，懷疑有變亂。不久，中山有一狂人自稱“宋主”，有兵千人，想救出文丞相。京城也有未署名的書信，說某日火燒蓑城葦，率領兩側翼的士兵作亂，丞相就沒有憂慮了。當時大盜剛剛暗殺了左丞相阿合馬，命令撤除城葦，遷徙瀛國公及宋宗室到開平，懷疑信上說的丞相就是文天祥。朝廷召見文天祥告諭說：“你有什麼願望？”文天祥回答說：“天祥深受宋朝的恩德，身為宰相，哪能侍奉二姓，願賜我一死就滿足了。”然而還不忍心，急忙揮手要他退去。有的說應該答應文天祥的要求，詔令可以。不一會又下詔加以阻止，天祥已死了。文天祥臨上刑場時特別從容不迫，對獄中吏卒說：“我的事完了。”向南跪拜後被處死。幾天以後，他的妻子歐陽氏收拾他的屍體，麵部如活的一樣，終年四十七歲。他的衣服中有讚文說：“孔子說成仁，孟子說取義，隻有忠義至盡，仁也就做到了。讀聖賢的書，所學習的是什麼呢？自今以後，可算是問心無愧了。”
評論說：自古以來的仁人誌士，希望信奉大義於天下的人，不因為成敗、鋒利鈍挫而動搖自己的誌向，君子認為這就是“仁”，用它規合天理的正道，那麼人心就安寧了。商朝衰落，西周擁德而代商，盟津的軍隊不約而同來會者有八百諸侯國家。伯夷、叔齊兩個男子漢想攔住馬頭加以阻止，三尺長的小孩也知道是擋不住的。後來，孔子認為這是賢能的舉動，就說：“隻有追求仁義才能得到仁義。”宋到德祐年間滅亡了，文天祥來往於兵營之間，開始想以言論保衛宋朝，當事情沒有達到目的，就侍奉兩個幼主稱王於嶺南海邊，企圖興複宋朝，兵敗被俘。我世祖皇帝以天地那麼大的度量氣魄，既讚揚他的節義，又愛惜他的才能，挽留他數年，好像老虎、犀牛關在籠子裏，千方百計馴服它，然而始終不能達到目的。看他從容大度的氣質，視死如歸的氣概，是因為他所追求的東西比生命還重要，難道這不可以稱之為“仁”嗎？