十多天以后，元军把文天祥押解去大都。在途中，文天祥趁机逃走，经历许多艰险，到了永嘉（今浙江省温州市）。不久，张世杰、陆秀夫在福州另立赵昰（shì）为皇帝，召文天祥前往。文天祥来到后，和张、陆同心协力，重新组织军队，继续抗元。1277年，他进军江西，收复了好几处州县，后来被强势的元军打败。但是，文天祥并不气馁，他退到广东，坚持抵抗。
1278年，赵昰死去。张世杰、陆秀夫又立赵昺（bǐng）为皇帝，并且把政府迁到厓山（在今广东省新会区以南海中）。文天祥则领兵在广东潮阳一带驻守。不久，元将张弘范率领大军攻入广东。在一次战斗中，文天祥兵败被俘。
文天祥被俘以后，张弘范押他一同到厓山，要他写信去招降张世杰。文天祥坚决拒绝，并且写了一首诗表明自己不屈的意志。诗的最末两句是：“人生自古谁无死，留取丹心照汗青。”
1279年春，张世杰、陆秀夫率领宋军，在海上同元军展开大战，结果宋军战败。为了不被敌人俘虏，陆秀夫背起赵昺投海而死。张世杰召集残军继续战斗，兵败突围，遇到台风，坐船被巨浪打翻，他不幸落海牺牲。南宋至此灭亡。