豐臣秀吉去世后，以五大老和五奉行為中心的領(lǐng)導(dǎo)團(tuán)決定對(duì)在朝諸將隱瞞秀吉的死訊，并秘密安排撤退工作。而相對(duì)的，由于第一次蔚山城之戰(zhàn)的失敗，明朝再向朝鮮增兵派將。1598年9月，明、朝聯(lián)軍總兵力10余萬(wàn)人分兵三路，向蔚山、泗川、順天三個(gè)據(jù)點(diǎn)發(fā)動(dòng)攻擊，同時(shí)水軍也出擊策應(yīng)。東路軍由總兵麻貴指揮，共計(jì)29500人（明軍24000人，朝軍5514人），于9月21日自慶州出發(fā)，22日進(jìn)擊至蔚山城。但由于加藤清正率領(lǐng)的1萬(wàn)日軍堅(jiān)守不出，加之城防已被修繕，故明軍未能取得有效進(jìn)展，于10月6日退回慶州。

進(jìn)攻泗川的明、朝聯(lián)軍共3萬(wàn)多人，由明軍將領(lǐng)董一元率領(lǐng)。泗川位于日軍防線中的釜山和順天中間，如此地陷落，則西邊的小西行長(zhǎng)所部將被明軍分割包圍。而如此重要的一個(gè)據(jù)點(diǎn)，僅僅只有島津義弘和島津忠恒所率領(lǐng)的島津軍7000人鎮(zhèn)守。島津義弘還拒絕了手下向立花宗茂和宗義智求援的建議，準(zhǔn)備獨(dú)自面對(duì)敵人。島津義弘迅速命令其所屬守備泗川古城、永春、昆陽(yáng)、望晉的部隊(duì)向義弘本人所在的泗川新城集結(jié)。但泗川古城的部隊(duì)由于后撤較慢而被聯(lián)軍包圍。駐守泗川古城的主將川上忠實(shí)雖有接近一萬(wàn)石的兵糧儲(chǔ)備，但其麾下兵力僅有數(shù)百人。9月27日，明軍開(kāi)始強(qiáng)攻泗川古城，川上忠實(shí)在進(jìn)行了短暫的防御以后，率軍出城對(duì)明軍實(shí)施了反突擊，并成功擊殺了明軍游擊李寧、盧德功及其以下數(shù)百人，但自軍傷也傷亡慘重。最后，川上忠實(shí)不得不選擇放棄泗川古城而向泗川新城方向突圍。盡管突圍成功，但川上忠實(shí)身中36箭，所部共150余人全部戰(zhàn)死。在泗川新城的島津忠恒曾向島津義弘提出了向古城派遣援軍的建議，但被島津義弘以兵力不足為由駁回。直到見(jiàn)到身負(fù)重傷的川上忠實(shí)，島津義弘淚流滿面：“你能活著回來(lái)，真是太好了！請(qǐng)?jiān)徫业囊?jiàn)死不救！”。川上忠實(shí)哽咽道：“義弘大人，請(qǐng)放心，我已命瀨戶口重治燒毀糧草，沒(méi)有留給敵人。”“好樣的，不愧是薩摩響當(dāng)當(dāng)?shù)哪凶訚h，你去安心養(yǎng)傷，之后的戰(zhàn)斗就都交給我了。”川上忠實(shí)放心的閉上了眼睛昏死了過(guò)去。聯(lián)軍在占領(lǐng)泗川古城后，于10月1日對(duì)泗川新城發(fā)動(dòng)了攻擊。

島津義弘在泗川新城修筑了堅(jiān)固的防御工事，并配置了大量鐵炮、地雷，并于各處險(xiǎn)要設(shè)下伏兵，而且收集鐵片和鐵釘作為大炮的備用彈藥。聯(lián)軍則由明將茅國(guó)器、葉邦榮、彭信古等進(jìn)攻泗川新城的大手門，郝三聘、師道立、馬呈文、藍(lán)芳威等分別在左右，董一元?jiǎng)t親率中軍，位列主攻部隊(duì)正后方。就在激戰(zhàn)之時(shí)，一只白色的狐貍和一只紅色的狐貍從城中向聯(lián)軍的方向跑去，看到的島津軍士兵以為是稻荷大明神顯靈，士氣大振，跟隨狐貍開(kāi)始突擊。城內(nèi)日軍伏兵四起，聯(lián)軍被各個(gè)分?jǐn)啵瑣u津義弘身先士卒連斬4人，島津忠恒身受槍傷也斬殺7人。這時(shí)聯(lián)軍的火藥庫(kù)突然爆炸，頓時(shí)大亂。島津軍趁此機(jī)會(huì)打開(kāi)城門，反殺了出去，一直追擊到南江右岸，聯(lián)軍無(wú)數(shù)士兵逃入江中溺水而死。10月1日夜間，島津軍在泗川平原地區(qū)召開(kāi)慶功大會(huì)。而撤退后又重新集結(jié)的聯(lián)軍已經(jīng)不足萬(wàn)人，此戰(zhàn)讓?shí)u津義弘揚(yáng)名朝鮮，被稱作“鬼石曼子”。

再說(shuō)順天方面，明朝大將劉綎率領(lǐng)的21900人與朝鮮權(quán)粟率領(lǐng)的5928人從陸上出發(fā)，明朝水軍由陳璘率領(lǐng)的19400人與朝鮮水軍由李舜臣率領(lǐng)的7328人從水路出發(fā)，兩路大軍于9月18日在順天城匯合。在全羅道平定后，日軍在順天郡光陽(yáng)灣的中央部分開(kāi)始修筑順天城，由宇喜多秀家、藤堂高虎負(fù)責(zé)，于1597年12月完工。之后，由小西行長(zhǎng)、松浦鎮(zhèn)信、有馬晴信、五島玄雅、大村喜前5人統(tǒng)領(lǐng)的13700人駐守。

9月18日劉綎寫信給小西行長(zhǎng)，約其進(jìn)行會(huì)談。雖然松浦鎮(zhèn)信擔(dān)心其中有詐，勸阻小西行長(zhǎng)別去，但遭到了拒絕。9月19日直到小西行長(zhǎng)一行發(fā)現(xiàn)了劉綎在會(huì)談地點(diǎn)半路設(shè)下的伏兵，才恍然大悟。明軍伏兵的暴露使得劉綎生擒小西行長(zhǎng)的計(jì)劃落空，不得不于19日下午開(kāi)始向順天城發(fā)動(dòng)進(jìn)攻。經(jīng)過(guò)兩天的火炮對(duì)射，聯(lián)軍沒(méi)能占到絲毫便宜。劉綎遂下令停止攻城，開(kāi)始制作云梯、箭樓、沖車等攻城武器。10月2日，攻城武器完工，聯(lián)軍從水陸兩面開(kāi)始總攻。但是遭到日軍炮火猛烈的壓制，聯(lián)軍戰(zhàn)死800余人，日軍趁機(jī)殺出城外，放火燒毀了還沒(méi)有沖到城下的攻城武器。另一方面，由于船只在海上無(wú)險(xiǎn)可守，在日軍強(qiáng)大的炮火下，水軍也被迫撤退，朝鮮蛇渡儉使黃世得戰(zhàn)死。

10月3日劉綎約陳璘于夜晚偷襲。于是陳璘在當(dāng)晚8時(shí)許率領(lǐng)水軍趁漲潮之際向順天迫近，并于半夜抵近順天城，同日軍開(kāi)始交戰(zhàn)。明水軍苦戰(zhàn)，但遲遲不見(jiàn)陸軍動(dòng)靜，直到潮汐退去。明、朝水軍共有戰(zhàn)船二十三艘擱淺在海灘上。擱淺的戰(zhàn)船隨后被日軍放火點(diǎn)燃。明軍死傷及被俘者甚多，生還者不過(guò)140人。4日，聯(lián)軍水軍再次對(duì)順天發(fā)起進(jìn)攻，但仍被日軍擊退。陳璘不明原因，寫信質(zhì)問(wèn)陸軍的劉綎。原來(lái)，劉綎和權(quán)粟的陸軍在前兩日攻城中傷亡慘重，同時(shí)又接到了泗川城攻擊失敗的消息，所以遲遲沒(méi)有出兵。10月7日，僅剩1萬(wàn)余兵力的聯(lián)軍陸軍開(kāi)始撤退，水軍也于9日解除了對(duì)順天的海上封鎖。劉綎雖然失敗，但比董一元的情況要好的多。聯(lián)軍撤退的路上扔下了不少軍糧，都被日軍當(dāng)作戰(zhàn)利品搶了回去。

擊退了明、朝聯(lián)軍三路猛攻的日軍于10月15日終于接到了國(guó)內(nèi)傳來(lái)的回國(guó)命令。于是，在朝鮮各地的日軍相繼開(kāi)始準(zhǔn)備撤軍。10月下旬，小西行長(zhǎng)通過(guò)上交人質(zhì)的方式，同明將劉綎達(dá)成合約，開(kāi)始撤退。但這一消息卻為已退回古今島的聯(lián)軍水軍得知。11月10日，聯(lián)軍水軍再度出擊至順天城附近海域?qū)嵤┖Ｉ戏怄i，對(duì)日軍撤退進(jìn)行阻攔。小西行長(zhǎng)不得不再以上交人質(zhì)的方式同明朝水軍將領(lǐng)陳璘進(jìn)行交涉，期望和平撤退，但這一議和的行為卻遭到了朝鮮水軍將領(lǐng)李舜臣的強(qiáng)烈反對(duì)，并繼續(xù)主張進(jìn)攻日軍，故聯(lián)軍水軍并未后退，而繼續(xù)在這一海域?qū)嵤┖Ｉ戏怄i。得知小西軍撤退受阻的消息后，已從泗川撤退的島津義弘、立花宗茂、高橋直次、寺澤廣高、宗義智等諸將立即編成了水軍船隊(duì)，前往救援被中朝聯(lián)軍圍困的小西行長(zhǎng)。而探知日軍援軍前來(lái)的明、朝聯(lián)軍水軍隨后前往迎擊。兩軍于11月18日凌晨，在露梁海峽遭遇發(fā)生激戰(zhàn)。此戰(zhàn)，亦為整個(gè)文祿慶長(zhǎng)之役中的最后一戰(zhàn)。

1598年11月18日凌晨，想要穿過(guò)露梁津的日本水軍500支船行進(jìn)至南海島西北的小島，遭遇了事先在竹島和觀音浦埋伏好的聯(lián)軍水軍500支戰(zhàn)船的夾擊。首先交戰(zhàn)的是用心偵查的立花宗茂、高橋統(tǒng)增兄弟二人。立花家臣池邊貞政奮勇沖鋒率先登上陳璘的旗艦，但被明軍亂槍刺死。聯(lián)軍水軍先鋒因此節(jié)節(jié)敗退。老將鄧子龍見(jiàn)狀與李舜臣一起出動(dòng)主力助戰(zhàn)，島津義弘見(jiàn)狀也率領(lǐng)日軍水軍主力迎敵，雙方陷入猛烈激戰(zhàn)。島津義弘的部隊(duì)遭到了沉重的打擊，傷亡慘重，大將樺山久高雖然率領(lǐng)部隊(duì)突破了露梁津，但也被聯(lián)軍切斷了歸路，與大部隊(duì)失去了聯(lián)系。樺山久高誤打誤撞來(lái)到了觀音浦，船只觸礁，只能徒步逃到南海島東岸。島津義弘的旗艦也因?yàn)槌毕脑蚺c艦隊(duì)脫離，被聯(lián)軍戰(zhàn)船包圍，陷于危機(jī)之中。老將趙子龍看準(zhǔn)機(jī)會(huì)向島津義弘的旗艦發(fā)動(dòng)沖鋒，但立花宗茂、宗義智從側(cè)面殺來(lái)營(yíng)救島津。雙方都知道，這是最后一戰(zhàn)了，必須以死相拼……天色漸漸明亮，日軍見(jiàn)戰(zhàn)況不利撤退，約損失200艘船。而明朝老將鄧子龍，朝鮮水軍統(tǒng)帥李舜臣戰(zhàn)死，損失戰(zhàn)船100余艘。

1598年11月19日，小西行長(zhǎng)避開(kāi)南海島北部，迂回走南邊于20日到達(dá)了巨濟(jì)島，并收納了殘留在南海島的樺山久高所部。23日，加藤清正等人從釜山回國(guó)。24日，毛利吉城等從釜山回國(guó)。25日，小西行長(zhǎng)、島津義弘等從釜山回國(guó)。至此，出征朝鮮的日本大名已全數(shù)從朝鮮撤回日本，豐臣秀吉征服朝鮮和明朝的野望成為了泡影。