四月底，文天祥抵達台州（治今浙江臨海），得知益王趙尚未稱帝，乃上表勸進。趙遂委以其為觀文殿學士、侍讀，召其來福州。五月初一，在陳宜中、張世傑等擁立下，益王趙於福州繼立為帝，是為宋端宗。五月底，文天祥入福州，被宋帝趙任為右丞相兼知樞密院事。文天祥提議宋帝返回溫州，組織水軍，自海道收複兩浙州縣，卻為陳宜中所阻。因與陳宜中議論多不協，七月，文天祥出朝，以同都督諸路軍馬之職，於南劍州（治今福建南平）設置都督府，組織軍隊，繼續抗元。九月，元軍分兵入攻閩、廣地區，抗元鬥爭更為艱難。十月，文天祥在招集兵馬之後，率軍移鎮汀州（治今福建長汀）。隨即遣參謀趙時賞、諮議趙孟率兵直進贛州（今屬江西），攻取寧都；又遣參讚吳浚領兵進取雩都（今屬江西）。文天祥於江西的抗元鬥爭，引起積極反應，劉洙、蕭明哲、陳子敬皆自江西起兵，與文天祥會師，一時聲勢大振。然而元軍大兵壓境，起兵多遭鎮壓。鄒渢以招諭副使聚兵寧都（今屬江西），武岡教授羅開禮起兵收複永豐縣，皆為元軍所敗，慘遭殺害。
宋景炎二年（元至元十四年，1277）正月，元軍攻入汀州，文天祥遂移屯漳州。不久，趙時賞、趙孟溁自江西趕至漳州，而吳浚則投降元軍，且受命入漳州勸降，文天祥立即將他處死。四月，文天祥領兵入梅州（治今廣東梅縣）。時有都統王福、錢漢英跋扈不羈，文天祥將其斬首，以明軍紀，士氣稍振。五月，文天祥統兵回擊江西，入會昌。六月，入興國。七月，文天祥組織反攻。遣參謀張汴、監軍趙時賞、趙孟溁等率重兵進擊贛州；鄒渢率贛州諸縣兵士進攻永豐；其副將黎貴達領吉州（治今江西吉安）各縣兵士進攻泰和。不久，吉州所轄八縣，為文天祥所部收複一半，唯有贛州尚未攻陷。一時間，臨近諸縣，紛紛向宋軍投降。潭州（治今湖南長沙）、撫州（治今江西撫州西）等地，紛紛起兵響應抗元，先後收複新化、安化、益陽、寧鄉、湘潭、萍鄉等地。
然而文天祥所招集兵士，多為鄉間百姓、豪傑、忠義之士，未及認真習武操練，不善作戰。元江西宣慰使李恒派兵增援贛州，以解其圍，自己則領兵直趨興國，攻擊文天祥。文天祥未料元軍會突然來攻，遂被擊潰，率所部後撤。李恒擊敗鄒渢所部，又緊追文天祥至方石嶺。文天祥部將鞏信阻擊元軍，中箭身亡。撤至方坑，文天祥所部潰散，其妻妾子女皆為元兵所俘。部將趙時賞冒充文天祥，迷惑元兵，掩護文天祥安全脫險，而趙時賞為元兵所俘。其他部將或戰死，或自盡，或被執，文天祥所部損失慘重。趙時賞被俘後，怒罵不止，毫不屈服，且為其他被俘將領開脫、掩護，由是得脫者甚眾。最後大義凜然，不屈而死。
文天祥收拾殘兵敗將退至循州（治今廣東惠陽東北），進駐南嶺（今廣東永安東南）。其妻妾子女被李恒所部押解赴燕京（今北京），二子死於途中。文天祥到南嶺後，其部將黎貴達暗地與元軍通報，欲投降元軍。文天祥察覺後，立即將其斬首。此後，文天祥率所部轉移至海豐（今屬廣東）、於潮州（今屬廣東）、惠州（治今廣東惠陽東）等地繼續抗擊元軍。
宋景炎三年（元至元十五年，1278）三月，文天祥移師麗江浦。四月，趙病故，衛王趙繼立。文天祥上表自劾，且乞請入朝，未獲準。八月，宋廷封文天祥為少保、信國公。其間，軍中發生瘟疫，兵士數百人染病身亡。十一月，文天祥率兵進駐潮陽，討伐陳懿、趙興叛軍，俘虜且處死趙興，陳懿兵敗而逃。十二月，文天祥返南嶺，舊部鄒渢、劉子俊自江西領兵來會，遂合兵再擊陳懿叛軍。不料陳懿引導元軍元帥張弘範率兵襲擊文天祥。文天祥被迫撤出潮陽，轉移海豐，欲入山結營固守。行至海豐北五坡嶺，正進食時，張弘範率兵突然追至，眾將士來不及應戰，即為元兵俘虜，多被殺害。文天祥倉皇出逃，被元軍千戶王惟義抓獲。
元兵將文天祥押至潮陽見張弘範。左右命他行拜禮，文天祥拒不從命。宋祥興二年（元至元十六年，1279）正月，張弘範將文天祥押上海船，自潮陽駛往厓山（今廣東新會南），以勸降蜷縮於此的宋廷。途經珠江口零丁洋時，文天祥賦《過零丁洋》詩，其末尾雲“人生自古誰無死，留取丹心照汗青”，成為千古絕唱。至厓山，張弘範命文天祥手書招降張世傑。文天祥寫道：“吾不能扞父母，乃教人叛父母，可乎？”④因張弘範逼迫不已，遂錄此詩作答。不久，元軍攻入厓山，宋宰相陸秀夫見大勢已去，背負年僅九歲的宋帝趙跳海自盡，宋朝至此滅亡。