德祐元年（1275年）十月，文天祥到平江，元军已从金陵出发进入常州。文天祥派遣他的将帅朱华、尹玉、麻士龙与张全援助常州，行到虞桥，麻士龙战死，朱华率领广南军队，战于五牧，被打败，尹玉也打败了，争相渡水，扒张全军中的渡船，张全的士兵斩断他们的手指，都淹死了，尹玉率领残兵五百人夜间发起战斗，到第二天早晨都战死了。张全不发一箭，逃跑退却了。元军攻入常州，占领了独松关。陈宜中、留梦炎召令文天祥，弃守平江，退守余杭。
德祐二年（1276年）正月，文天祥担任临安知府。不多久，宋朝投降，陈宜中、张世杰都走了。朝廷继续任命文天祥为枢密使。不久，担任右丞相兼枢密使，作为使臣到元军中讲和谈判，与元朝丞相伯颜在皋亭山针锋相对争论。伯颜发怒拘捕了他，同左丞相吴坚、右丞相贾余庆、知枢密院事谢堂、签枢密院事家铉翁、同签枢密院事刘祒，向北至镇江。文天祥与他的侍客杜浒等十二人，于夜间逃入真州。苗再成出来迎接他，高兴得流着眼泪说：“两淮的士兵足可以兴复宋朝，只是二制置使有些矛盾，不能同心协力。”文天祥问道：“这个计谋是从哪里来的呢？”苗再成回答说：“现在先约淮西兵赶赴建康，他们必然全力以防御我们淮西的士兵。指挥东面各将帅，以通州、泰州兵攻打湾头，以高邮、宝应、淮安兵攻打杨子桥，以扬州兵攻打瓜步，我率领水军直捣镇江，同一天大举出兵。湾头、杨子桥都是沿长江的脆弱之军，又日夜希望我们军队攻来，攻打他们，定会很快取胜。一齐从三个方向进攻瓜步，我自己率兵从长江水面中以较少的士兵佯攻，虽然有智慧的人也不能预料到这一点。瓜步攻下后，以东面的军队入攻京口，西面的士兵入攻金陵，威胁浙江的后退之路，那么元军的大帅就可以生擒了。”文天祥对此大加赞扬，随即写信送两个制置使，派遣使者四面联络。
文天祥没有到的时候，扬州有逃跑归来的士兵说：“朝廷秘密派遣一丞相进入真州劝说投降来了。”李庭芝信以为真，认为文天祥劝降来了。派苗再成迅速杀掉文天祥。苗再成不忍心杀他，欺哄文天祥到相城垒外，把制司的文书给他看，把他关在门外。好久以后，又派两批人分别去窥测证实天祥是否是来劝降的，如果是劝降的就杀了他。两批人分别与天祥谈话后，证实其忠义，都不忍心杀他，派士兵二十人沿路护送至扬州，四更鼓响时抵达城下，听等候开城门的人谈，制置司下令防备文天祥很严密，文天祥与随从听说后相互吐舌，于是向东入海道，遇元军，躲入四围土墙中得以免祸。然而，因为饥饿而走不动路，于是向樵夫们讨得了一些剩饭残羹。走至板桥，元军又来了，众人跑入竹林中隐伏，元军进入竹林搜索，抓住杜浒、金应带走了。虞候张庆眼睛被射中了一箭，身上两度挨箭，文天祥两次都未被发现，得以脱身。杜浒、金应拿出身上的金银送给元军，才被放回，雇募二个樵夫抬着坐在箩筐里的文天祥到高邮，泛海坐船至温州。
文天祥听说益王未立，于是上表劝请即帝位，以观文殿学士、侍读的官职召至福州（今福建福州），拜右丞相。不久与陈宜中等人议论意见不统一。德祐二年（1276年）七月，于是以同都督职出任江南西路，准备上任，召集士兵进入汀州（今福建长汀）。十月，派遣参谋赵时赏，咨议赵孟溁率领一支军队攻取宁都（今江西赣州宁都县），参赞吴浚率一支军队攻取雩都（今江西赣州于都县），刘洙、萧明哲、陈子敬都从江西起兵来与他会合。邹洬以招谕副使在宁都召聚兵众，元军攻打他们，邹洬兵败，同起事率兵的人刘钦、鞠华叔、颜师立、颜起岩都死了。武冈教授罗开礼，起兵收复了永丰县（今江西吉安永丰县），不久兵败被俘，死于狱中。文天祥听说罗开礼死了，穿起丧服，痛哭不已。
景炎二年（1277年）正月，元军攻入汀州，文天祥文公奏表于是迁移漳州，请求入卫朝廷。赵时赏、赵孟溁也率兵归来，唯独吴浚的士兵没有到。不久，吴浚降元，来游说文天祥。文天祥派人缚起吴浚，把他吊死了。四月，进入梅州，都统王福、钱汉英专横跋扈，被处斩了。五月，迁出江南西路，进入会昌。六月，进入兴国县。七月，遣参谋张汴、监军赵时赏、赵孟溁荣等率大军进逼赣城，邹洬率领赣州各县的军队攻取永丰，他的副官黎贵达率领吉州各县的士兵攻取泰和。吉州八县克复了一半，仅剩赣州没有攻下。临洪各郡，都送钱劳军。潭州赵璠、张虎、张唐、熊桂、刘斗元、吴希奭、陈子全、王梦应在邵州、永州等地起兵，克复数县，抚州何时等人起兵响应文天祥。