七月，範文虎南路軍才到，阿剌罕病死，忽必烈命阿塔海為征東行省丞相前往接替，可是範文虎未等阿塔海到達，即命進攻。肥前海上，旌旗蔽天，舳艫相銜。日本第一次麵臨著這麼強大的外敵，情勢十分危急，元軍先占平戶島，後移至鷹島。此時正值西南太平洋的台風季節，元軍的艦艘為了防止日軍偷襲，都是並靠連在一起的。八月一日台風突然到達，刹那間海上狂風巨浪，暴雨傾盆，四千四百艘戰艦，有的如枯落的柳葉，四散飄零；有的則被互相撞擊粉碎，瞬間即被怒濤吞噬。軍士號呼著溺死海中，屍體隨湖汐進入浦口，浦口因此阻塞，以致行人可以從上麵踏過。這次台風曆時四天之久，八月五日才風停雨住。平章政事張禧因舍舟築壘於平戶，戰艦亦采取了避風的措施，各相去五十步止泊，故所部獨幸免。大風過後，範文虎見殘局無法收拾，決意北還。於是選擇堅實的船隻，乘坐回國，棄下殘部士卒十餘萬於五龍山下。一時間群龍無首，隻好商議提選一名百戶為主帥，稱為張總管，聽從他的指揮，伐木作舟，準備逃回。但已為時太晚，八月七日，日本人反攻，奮戰兩晝夜，箭盡糧絕，七八萬人被殺，“伏屍蔽海，海可步行”。餘二三萬人於八月九日被日軍擄至八角島，凡蒙古人、高麗、漢人全部處斬，隻留下新附軍（指日本稱之為“唐人”的中國南方人）免死，充作奴隸，十萬大軍中僅三人歸還。這次全軍覆沒的真相直到敗卒於閭脫歸，方才大白，忽必烈勃然大怒，將盡罷大小將校，召劉國傑為征東行省左丞。
後經勸說，方才全部恢複他們的官職。就這樣，忽必烈苦心策劃準備的第二次東征日本之役又歸於失敗。這一年是日本後宇多天皇弘安四年，日本史上稱之為“弘安之役”。
兩次大規模的東征之役遭到慘重失敗，仍未使忽必烈清醒過來。1283年九月，詔命平灤、高麗、耽羅及揚州、隆興、泉州共造大小船隻三千艘。次年複立征東行中書省，阿塔海為中書省丞相。同時，積極募軍備糧，命舟師習水戰，準備秋季再次大舉征日。
但是長年的戰爭，國力已經衰弱，人民再也無法承擔這種沉重負擔。受害最大的江南各地人民揭竿而起，僅1283年就有二百多處地方發生了反抗元朝統治者的武裝鬥爭。這種情況迫使忽必烈於1286年下令停征，並撤銷征東行中書省。江浙一帶軍民久苦於是役，消息傳來，歡聲如雷。後來雖又有幾次複征之議，但都遭到左右大臣們的反對，加上連年征討安南、緬甸、爪哇，兵力不足，才又延緩下來。1294年忽必烈死，成宗即位，元朝對海外的大規模戰爭才停止下來。
1283年，忽必烈曾遣提舉官王君治與補陀寺和尚如智出使日本，遇風不達。
1284年，再遣江南行省參政王積翁與如智出使，從慶元出發，經由高麗合浦，至對馬島附近時，船夫不願前行，殺掉王積翁。兩次遣使都沒有成功。1299年，元成宗又遣補陀寺和尚寧一山附商船出使日本。寧一山到達日本後，雖然很受敬重，但鐮倉幕府仍然拒絕了與元朝通使的要求。
元世祖忽必烈兩次對日本的征討都是一種侵略的行為，而日本政府屢次怠慢、殺害來使，又催促了戰爭的早日來臨。由於負責指揮的將領不力，將領之間不和，軍中發生瘟疫，缺乏科學知識以及日本軍民的英勇抵抗，占據優勢的忽必烈東征大軍卻遭到慘敗。大規模的戰爭給國內人民和高麗人民都帶來了深重的災難，而日本鐮倉政府的日子也越來越不好過，鐮倉幕府由此而衰敗下去。同時東征還導致了後來為害元末以致整個有明一代的倭患。
但是，忽必烈對日本的東征並沒有中斷中日兩國的貿易往來和文化交往，中日傳統的經濟、文化交流在元代得到進一步的發展。這證明作為一衣帶水的近鄰，兩國人民無論在什麼時候，或什麼樣的特殊情況下，都始終保持著密切交往和文化的聯係。
名家回眸
元初東侵日本的戰爭，是13世紀後期中日關係史上的重大事件。
元朝政府為這場戰爭前後共投入20萬兵力，動用5500餘艘船。但是由於日本政府與人民的奮勇抗擊，元軍遭到慘敗。這場殘酷的戰爭使中日兩國以及高麗人民都蒙受了巨大的痛苦，經濟上遭到了極大的損失，影響深遠。