果然，博羅丞相接二連三地采取了種種方法勸文天祥投降。
先是文天祥的兩個女兒前來看望他。她們見到父親，悲痛欲絕，文天祥最疼愛女兒，此時也淚如雨下，可是父女剛一見麵，元人就又把兩個女兒帶走了。文天祥的夫人就和女兒住在一起，元人卻偏偏不讓她來。元人的用意很清楚，是讓文天祥知道，隻要你肯投降，就能和妻子、女兒生活在一起。然而文天祥寧願忍受著和親人生離的痛苦，而堅決不向元人屈服。
留夢炎，這個臨安危急時逃跑的南宋丞相，降元後做了高官。博羅心想，這兩人都是宋朝的狀元宰相，用狀元宰相來勸狀元宰相，真可稱為一著妙棋。然而博羅打錯了主意，兩人思想完全不同，文天祥恨透了留夢炎這樣的人，怎麼能聽他勸降呢！留夢炎剛到文天祥這裏，未等他說話，文天祥就指著他厲聲斥責道：
“好個老賊，當初你不顧國家利益，棄官潛逃，今又認賊作父，甘心投降。你不知恥辱，還厚著臉皮來勸降，我問你，你有什麼臉麵再見父老兄弟啊！”
留夢炎被斥罵得抱頭鼠竄。接著，博羅丞相又讓宋恭帝前去當說客，命令文天祥投降。臨安陷落後，皇帝被押到大都，元世祖封他為瀛國公，現在隻有9歲。博羅丞相想，文天祥忠君，皇帝的話，他一定服從。然而他們又想錯了，就是皇帝讓文天祥投降，文天祥也不會答應。小皇帝一來，文天祥便有了主意，他既不責罵小皇帝，也不跟他講道理，隻是讓小皇帝坐北向南，自己麵北而跪，一麵叩頭，一麵痛哭流涕地連聲說：“聖駕請回，聖駕請回。”意思是讓小皇帝回南方，豎起抗元戰旗。小皇帝被弄得糊裏糊塗，不知說什麼好，隻得回去了。
宋君、宋臣勸降都沒效果，隻好由元朝大臣出馬了。當時元朝的平章政事（宰相），名叫阿合馬，是個很狂妄的家夥，他想借自己的權勢來使文天祥屈服。他進了會同館，在大堂一坐，就讓人叫文天祥前來回話。
文天祥一聽是阿合馬，料定不好對付，但一想，我死都不怕，怕他幹啥？於是昂首闊步走到堂上，作了個揖，坐在阿合馬對麵。
見文天祥大義凜然的樣子，阿合馬先是吃了一驚，繼而卻又故作威嚴地問：
“你知道我是誰嗎？”
“剛才聽人家說是宰相來了。”文天祥順口回答。
“知道我是宰相，為什麼不跪？”阿合馬盛氣淩人地問。
“南朝宰相見北朝宰相，憑什麼下跪？”文天祥據理反駁。
沒想到文天祥這麼強硬，阿合馬一時又不知如何回答，便轉移話題：
“你既然是南朝宰相，那為什麼又到了這兒呢？”
“南朝早點用我做宰相，北人就到不了南方，南人也到不了北方了。”文天祥一本正經地說道。
阿合馬見文天祥態度強硬，自己又無話可說，就尋開心似地對左右道：“此人生死得由我呢！”意思是說，文天祥你別太要強了。
文天祥這時也不耐煩了，於是，聲色俱厲地說：“你要殺就殺吧，說什麼由你不由你呢！”
阿合馬不作聲了，他知道說不過文天祥，勸降的話一字未提，就灰溜溜地走了。
在這場勸降與反勸降的鬥爭中，文天祥勝利了。元朝統治者失敗後，知道勸降是不會成功的，於是，就采取強硬手段，對文天祥進行肉體折磨，企圖消磨文天祥的意誌，使他屈服。
十月初五，文天祥被帶出會同館，押送到兵馬司衙門，關在一間小土牢裏。
元兵看守極嚴，過了十多天才把文天祥捆著的雙手解開。一個月後因為文天祥生了病，才把枷除掉，但脖子上仍係著鐵鏈子。
文天祥所帶的衣服錢銀都被收走，每天給的夥食極差，又不許張弘毅再來送飯，要文天祥自己生火做飯，火爐就在囚室內，煙熏火燎，難受之極。
囚室陰暗寒冷，屋角牆壁布滿厚厚的灰塵。文天祥身上的虱子抓不完，不久又長了癩，背上長了疽。生活的折磨使他病倒了……
元朝統治者以為，宋朝宰相是吃不了這些苦的，一個月的折磨一定能使文天祥屈膝投降。十一月初五，開始領他到樞密院說是去見院官博羅丞相，一連去了四天，博羅故意避而不見。直到十一月初九，院官才傳令召見。博羅心想，折磨了一個月，又三番五次讓他見不到元人頭領，這次，文天祥一定會軟下來。
然而他們又錯了，痛苦與折磨不僅絲毫沒有動搖文天祥的意誌，反而使他更堅強了。
在樞密院大堂中央坐著滿臉殺氣的博羅丞相，旁邊坐滿了元朝的高級官員，手持刀槍的士兵威嚴地站立兩旁，陰森可怕，殺氣騰騰。文天祥昂首闊步走進門去，根本不把他們放在眼裏，從容地走到大堂中央，作了個揖，站立在那裏。
一名通事（翻譯人員）高喊：“跪！”
文天祥嚴肅地說：“我是南人，隻行南人的禮，禮行完了還跪什麼？”
博羅一下子火了，令左右去拽文天祥下跪，文天祥索性坐在地上不起來了。這時又上來好多人，有的按頭，有的抓住手、按著腳，甚至還用膝蓋頂著文天祥的背，硬逼他下跪，但是文天祥始終不屈服。
博羅無奈，隻得令手下退在一旁，就開始審問：“你有什麼話要說？”
文天祥說：“天下事有興有廢，我文天祥忠於宋朝，宋亡了，我隻求速死，沒什麼話可說！”
一聽文天祥說了句“天下事有興有廢”，博羅便想鑽空子：“盤古到今，幾帝幾王，為我逐一說來。”他是引文天祥一直數到現在的元世祖，好借此讓文天祥承認元朝，進一步再讓他投降。
文天祥馬上機智地回答：“一部十七史從何處說起？我今天不是赴博學宏詞科（選拔博學能文之士的考試），沒工夫跟你說閑話！”
博羅被駁得麵紅耳赤，但仍不肯善罷甘休：“你們立二王，如何是忠臣？又有什麼功勞呢？”
“立君王以存宗廟，存一日，則臣子盡一日責，不計較什麼功勞。”
“你既然知道國家挽救不了，為什麼還要去硬做？”
“隻要我活一天，就要盡我一天的心力。做為孝子，不管父母活著、病著，還是死了，都應盡孝心。父母如果有病，明知不能救了，難道你就不給用藥了嗎？今天文天祥到此地步，隻求快些死，何必問我這些廢話？”文天祥氣憤地說。
博羅發怒了：“你要死，我偏不要你死。偏要把你關下去！”
文天祥冷笑著說：“隨你便吧！我連死都不怕，還怕坐牢嗎？”
博羅惱怒之至，嘟嘟嚷嚷不知道說了些什麼。審問就這樣結束了，元朝統治者能征服一個王朝，卻對付不了一個文天祥。博羅想立即把文天祥殺了，以解心頭之氣，可元世祖仍想“求才”。他們隻得以長期監禁的痛苦來消磨文天祥的鬥爭意誌，指望他能屈服，為元朝出力。
在三年多的監獄生活中，文天祥始終也沒有屈服。土牢陰暗潮濕，隻有一扇矮門和小窗戶，終年不透陽光。夏天悶得透不過氣來，下雨時，雨水往屋裏灌，床和小桌都泡在水中。糞便、死老鼠，各種髒物堆在屋裏，臭氣熏天。在這樣的監獄裏，文天祥經受著折磨，仍然堅持鬥爭。對他來說，生命不終止，鬥爭就不會停息。
他還寫了許多詩歌，他要把自己的感情和思想，把監獄中的生活和鬥爭，把親身的經曆和戰友的英雄事跡，把宋朝滅亡的經過和叛賊的賣國行為，告訴給人民，告訴給後人。
當時元世祖忽必烈為了鞏固元朝統治，正在南宋官員中大量搜羅人才。降元的南宋官員王積翁等人向元世祖上奏說：“文天祥乃當今人中之鳳也，南宋人中無一及其項背者。”於是元世祖令王積翁去傳達旨意。文天祥說：“國家滅亡了，我隻有以死報國了。假如元朝皇帝寬容，讓我能夠出家為道士重歸故鄉，往後以方外之人備元朝皇帝顧問，那麼還說得過去。假如立即就委以官職，不僅亡國的士大夫們不能相容，而且把自己平生的誌向和事業全部拋棄了，那麼你們重用我這樣的人還有什麼用呢？”於是他們真的請來了靜修自得、徹悟深通的老道士，給文天祥說道談玄，企圖動搖他的意誌，使文天祥可以脫塵絕俗，與世無爭，不再反抗元朝；同時可避免元朝殺戳忠良的罪名以藉此收買人心。然而他們哪裏知道受道家思想影響的文天祥，他追求的是自己所向往的浩然正氣，提出的做道士的要求，隻是為再次舉起抗元義旗的借口。至於生死、得失、功名、榮辱等一切雜念都給他拋於九霄雲外。就好像他在《正氣歌》中所寫的：“……時窮節乃見，一一垂丹青……是氣所磅礴，凜冽萬古存。當其貫日月，生死安足論……”