揚州位於運河之南、長江之北，是宋都臨安的北門，一直被南宋作為防守的重點。李庭芝初到揚州時，這裏經過連續不斷的戰爭，處處殘垣斷壁，一片凋零景象。李庭芝花了很大力氣繁榮經濟，擴充軍備，甚至還拿出自己的積蓄賑濟災民，民得以安，百事俱興。跟盂珙一樣，李庭芝重視人才，四處網絡淮南人才。他聽說楚州鹽城（今江蘇鹽城）籍進士陸秀夫（文天祥同榜進士）很有才華，就將其招為幕僚。陸秀夫性情沉靜，矜持莊重，沉默寡言，人們都認為他性格怪僻，很難接近，也很少人能與他合得來。但李庭芝發現他治事有方、穩重幹練，所以一直很器重他。後來李庭芝官職升遷，也仍然把陸秀夫帶在身邊。在李庭芝的大力招攬下，淮南聚集了天下賢能之士，時人因此稱讚說：“得士最多者，淮南第一，號稱小朝廷。”
雖然李庭芝與賈似道的關係表麵上看來一直還不錯，但畢竟不是同道，李庭芝並沒有成為賈似道這一路的人，這直接導致了他後來率軍援救襄陽時，始終受到賈似道心腹範文虎的牽製，一直勞而無功。襄陽失守後，朝中震動。群臣紛紛上書，請求追究襄、樊失守的責任，要求將怯弱逃跑的範文虎斬首，但賈似道有意庇護，範文虎隻降一職，改任安慶知府。李庭芝受的處罰卻比範文虎要重得多，被罷官免職。直到鹹淳九年（1273年）十月，元軍大舉進攻，兩淮地區危急，而兩淮安撫製置使印應雷剛好在這時候暴死，南宋朝廷逼不得已，才重新起用李庭芝為兩淮安撫製置使，專守揚州。
李庭芝到任後，與驍將副都統薑才協力守禦。此時南宋朝廷危在旦夕，李庭芝幕府幕僚紛紛辭職，唯獨陸秀夫堅守本職，毫不動搖。李庭芝深為感動，感到以陸秀夫的人品才幹，在自己的幕府實在太過委屈，於是鄭重推薦給朝廷，陸秀夫由此調往臨安，官任禮部侍郎。陸秀夫多次上書，請求到前線抗敵，但均沒有結果。據說伯顏率元軍逼近臨安時，聽說了陸秀夫等忠義之士的事跡時，不禁歎道：“宋朝有這樣的忠臣，卻不知重用。如果重用的話，我還會在此嗎？”
伯顏進逼臨安時，派人分別招降負責守衛淮西的宋將夏貴和負責淮東的李庭芝。淮西製置使夏貴殺害了堅持抗元的部屬洪福，以淮西三府、六州、三十六縣投降了元軍，淮西不戰而落入元軍之手。李庭芝則堅決拒絕了招降。伯顏立即派阿術率大軍包圍了李庭芝所駐的揚州，以牽製淮東宋軍。阿術因久攻揚州不下，於是就在城外築起長圍，自揚於橋至瓜洲（皆在揚州以南），東北跨灣頭至黃塘，西北至丁村務，又立堡灣頭作為元軍大本營，斷通、泰、真、高郵、寶應等地對揚州的糧援，想通過實行長久圍困，使揚州糧盡援絕而不攻自破。為了突破元軍的封鎖，薑才屢次出擊，均無功而返。
元軍統帥伯顏入臨安後，取得太後謝道清手詔，命人到揚州諭降，但遭到李庭芝的拒絕，義正詞嚴地說：“奉詔守城，未聞有詔諭降也！”謝道清為了討好元軍，又下了一道手詔，派使者告訴李庭芝：“我與嗣君皆已附元，卿還為誰守城？”但李庭芝照舊不為所動，下令用弩箭射退持詔招降的使者。雖然李庭芝不肯奉謝道清詔投降，但當他聽說元軍要押送南宋皇室北上時，立即派薑才率軍到瓜洲奪駕，但未能成功。
不久，揚州城中糧盡食絕，軍民仍拒守不屈。趙昰在福州被遺臣立為宋端宗後，召李庭芝為丞相。李庭芝積極響應，於是留部將朱煥守揚州，自己與薑才率部趕往福建，剛剛到達泰州，就被聞訊追來的元軍重重圍住。此時，留守揚州的朱煥已經投降了元軍，泰州守將孫貴感到大勢已去，也開城投降。李庭芝聽說後，知道事已不可為，於是投水自殺，但水淺未死，與薑才一道被俘。元將阿術對李庭芝、薑才二人的忠義非常佩服，想勸降並重用他們。但朱煥擔心李庭芝與薑才受重用後對自己不利，竟向阿術說：“揚州自用兵以來，屍骸遍野，都是李庭芝與薑才造成的，不殺他們更待何時？”於是李庭芝與薑才同時被元軍殺害。之後，通、滁、高郵等州軍也相繼降元，淮東之地全部被元軍所控製。
臨安陷落前，由於大批宋臣逃走，甚至包括宰相陳宜中，謝道清不得不臨時任命文天祥為右丞相兼樞密使，出城與元軍談判。文天祥當時還有保全南宋皇室的幻想，對元軍主帥伯顏說：“北朝若要宋為屬國，全軍北還為上策。若要毀宋宗社，則江浙閩廣尚多未下，是利是禍還不知道，恐怕兵連禍結又自此開始。”伯顏見文天祥舉動不凡，疑有異誌，於是將其拘留在軍中，隨即派人押解北上。經過鎮江時，文天祥乘元兵不備，和下屬杜滸等十二人於夜間逃出，直奔當時尚在宋軍手中的真州。
當時有謠傳說元軍派一個宋朝投降的丞相回去勸降，還在堅守揚州的李庭芝誤以為文天祥就是此人，命真州守將苗再成殺文天祥。幸好苗再成不忍心下手，將文天祥騙出城外，故意讓他離去。文天祥被誤解後，還想到揚州找李庭芝說個明白，不料李庭芝已發出告示緝拿他。文天祥隻好改名換姓，從海上趕到溫州，途中經曆了九死一生。這期間，文天祥寫了很多詩，後輯成一集，題名《指南錄》，記敘了他這次異常艱險的行程。文天祥到達福州後，立即被任命為樞密使，同都督諸路軍馬。
即使在大敵當前的情況下，福建小朝廷仍然陷入了黨爭：外戚楊亮節以國舅自傲，“居中秉權”；文天祥對張世傑擅權極為不滿，又與宰相陳宜中意見不合，遭到張世傑和陳宜中的大力排擠，被迫離開了小朝廷；蘇劉義受壓製，鬱鬱不得誌；陸秀夫也與陳宜中發生分歧，被彈劾免職。張世傑頗為欣賞陸秀夫，不滿陳宜中的作為，說：“現在是什麼時候了，你還動不動就罷免人？”陳宜中這才又召回了陸秀夫。一個尚在漂泊中的流浪政權，在如此不穩定的情況下，群臣隻顧爭權奪利，黨爭不已，失敗已經不可避免。
不久，元軍進攻福州，張世傑等率軍護送宋端宗登舟入海，駛向泉州。泉州宋朝宗室組織了一萬餘人出迎，卻被宋閩廣招撫使蒲壽庚阻止。蒲壽庚為回回人（一說占城人，在今越南境內），寄居中國多年，不但當著宋朝的官，還壟斷了海上貿易，財力雄厚，獨霸一方，泉州一帶的海船都受他控製。之前元軍統帥伯顏曾派人招降，蒲壽庚已經有投降元軍之意，因此不讓宋端宗一行人進入泉州城。而張世傑因為船隻不夠，於是強行征用了蒲壽庚的部分船隻。蒲壽庚勃然大怒，發兵殺死了泉州城內的宋朝宗室。張世傑等無力與蒲壽庚糾纏隻好離開泉州，流亡潮州。
此時的小朝廷如驚濤中的一葉小舟，隨時都有傾覆的危險。楊太妃垂簾聽政，“與群臣語，猶自稱奴”，毫無太後的身份。群臣朝會時，經常黯然垂淚，淚滿衣襟，一派淒涼景象。但盡管如此，絕大多數人都堅持留在了流亡小朝廷的身邊，隻要小皇帝宋端宗還在，就還有最後的一線希望。
文天祥離開福建小朝廷後，以同都督的身份在南劍州（治今福建南平）開府，號召各地起兵，雖然取得了一些成績，但畢竟勢單力薄。景炎二年（1277年），文天祥從福建進入江西，打算先圖江西，再與江淮、浙東、閩廣聯成一片，支撐起南宋東南半壁河山。文天祥在江西取得一些進展，率眾奪取了不少縣城，進駐興國，派部將趙時賞、鄒渢分別領兵攻打贛州和吉州的州城。元軍李恒（西夏人）部發動反攻，趙時賞、鄒渢均戰敗，與文天祥一起撤到廬陵。元軍追至廬陵，文天祥部下的老將鞏信率領士兵數十守方石嶺的山口，為了掩護文天祥撤退，鞏信等全部犧牲。然而到了第二天，文天祥一行又被元軍追及。為了讓文天祥脫身，部將趙時賞自稱“文丞相”，被元軍抓去，被害犧牲。文天祥收拾殘部，進入五嶺山中。次年二月，才又進兵廣東海豐，向潮州移動，準備和張世傑部會合。