4月24日，美軍投入了新型的噴火坦殼和重型坦克，終於克服了日軍的頑強抵抗。這些坦克冒著日軍的槍林彈雨，碾入日軍的戰壕，衝入日軍的陣地。噴火坦克將凝固汽油射入日軍隱藏的山洞和坑道，日軍終於支撐不住，其防線逐漸被突破。
牛島隨即在夜色有煙霧掩護下，悄然組織部隊有序地撤往下一個防線。因此，戰鬥發展成這樣一種模式：日軍光是憑險死守，接著美軍在猛烈火力動搖下取得突破，日軍後撤到下一道防線內死守，如此周而複始，日軍的防區逐漸縮小。美軍終於5月27日攻占了那霸，並繼續向衝繩島的首府首裏城前進。
5月31日，美軍突破了日軍核心防禦地帶首裏防線，終於取得了重大進展。海軍陸戰隊攻入了已是一片廢墟的首裏城，第10軍司令巴克納滿心喜悅，以為衝繩首府被占領就意味著戰鬥即將結束。但他的想法大錯特錯了，日軍困獸之鬥反而更加瘋狂！
牛島率餘部後退了約10公裏，退到島南端精心準備的最後防線。這是由兩座山峰構成的天然屏障，地勢崎嶇險峻，日軍充分利用地形，築有25處隱蔽的炮位和坑道工事。牛島決心以此為依托，戰至最後一兵一卒。因此，日軍抵抗絲毫沒有減弱。
美軍主要依靠噴火坦克開路，不少渾身著火的日軍衝出陣地，抱住美軍士兵同歸於盡。美軍每前進1米依然非常艱難。而對日軍更加瘋狂的抵抗，美軍還以更猛烈的炮火。美軍的海陸空密集炮火對日軍據守的島南部幾平方公裏地區進行了最猛烈的轟擊，日軍雖然隻剩下3萬餘人，大炮也損失過半，彈藥更是所剩無幾，但仍是死戰不退。
6月17日，美軍又投入預備隊——陸戰2師。該師一個團在衝繩島南端的喜屋武岬附近登陸，協同正麵和側翼友軍圍殲日軍。此時，日軍的局熱已十分被動，遭到全殲隻是時間問題。為了避免不必要的傷亡，巴克納用明碼電報和廣播向日軍勸降。牛島根本不為所動，以槍炮射擊作為答複。
6月23日淩晨4時，牛島知道美軍即將占領他所在的摩文仁坑道。他脫下軍裝，換上和服，與身邊的參謀一一幹杯。喝完了最後的訣別酒，他剖腹自殺。他的參謀長也追隨他剖腹自殺，還有一些軍官也隨之集體自殺。至此，日軍有組織的抵抗才告平息。而零星日軍的抵抗仍在繼續，清剿殘餘日軍的工作一直持續到6月底。
與這些死心塌地的軍國主義分子不同，日本普通士兵在戰役進入尾聲後，有相當多的人放下了武器，這在以前是非常罕見的。6月15日前，2個半月的戰鬥中美軍總共才俘虜日軍322人，而從6月15日到6月30日，日軍不僅有個人或小組投降，甚至還有成建製的部隊在軍官帶領下投降，僅海軍陸戰隊第3軍就收容日軍投降人員4029人。
衝繩戰役從3月18日美軍航母編隊襲擊九州開始，至6月22日衝繩島戰鬥基本結束，共曆時96天，其中在衝繩島上的激烈戰鬥就有82天之久。日軍包括“大和”號戰列艦在內的16艘水麵艦艇和8艘潛艇被擊沉，約4200架飛機被擊落擊毀，日軍在衝繩島上的約10萬守軍，除9000餘人被俘外，其餘全部被殲，衝繩島的平民有7．5萬人死傷。美軍有32艘艦船被擊沉，368艘被擊傷，其中有13艘航母、10艘戰列艦、5艘巡洋艦和67艘驅逐艦遭到重創，損失艦載機763架，陣亡ｌ．3萬（陸軍4600人，海軍4900人，海軍陸戰隊344人），受傷3．6萬人（陸軍1.81萬人，海軍4900人，海軍陸戰隊1．36萬人），另有2．6萬人的非戰鬥傷亡。
衝繩島戰役是美軍在太平洋戰爭中傷亡最大的戰役，因此，英國首相丘吉爾認為衝繩戰役將以史詩般的戰鬥列入世界上最激烈、最著名的戰鬥，而流傳後世。
鑒於在戰役中所付出的慘重傷亡，美軍沒有舉行大規模的慶祝活動。
衝繩戰役和前不久進行的硫磺島戰役，使美軍深深明白，如果要在日本本土實施登陸，美軍將麵對無法估計的瘋狂抵抗。美軍參謀長聯席會議認為，在日本本土登陸，美軍將會付出100萬人的傷亡。因此，促使美國最終決定對日本使用剛剛研製成功的原子彈，以盡快結束戰爭。