1270年年底，忽必烈又第五次派遣秘書監趙良弼持書往使。1271年八月，趙良弼一行二十四人抵築前今津，日兵包圍了他們，查問他們的來由，然後又想得到國書。趙良弼說：“一定要麵見你們的國王，才能給你們。”於是將國書的抄本交給太宰官過目，太宰官經鐮倉轉至京都。因為這次國書與前次大意相同，盡管朝廷想回信，但幕府借口國書詞語不遜，置之不答，隻派了彌四郎等十二人跟隨趙良弼入朝，乘機窺視元朝的強弱。
1271年十一月，忽必烈建國號大元。1273年遂命趙良弼再次出使日本。趙良弼至太宰府多時，仍不得消息，後被驅逐出境。
至此，忽必烈前後共六次遣使欲與日本通好，都未能成功，大為惱火，於是決定訴諸武力來迫使其就範。戰爭終於不可避免地爆發了。
1274年三月，忽必烈成立征東都元帥府，命鳳州經略使忻都為都元帥，高麗軍民總管洪茶丘為右都副元帥，製造千料舟、拔都魯輕疾舟、汲水小舟各三百，共九百艘，載士卒一萬五千，計劃用七個月的時間征服日本。
十月，忻都、洪茶丘率領由蒙、漢軍二萬五千、高麗軍八千、梢工水手六千七百人，組成東征大軍，從高麗合浦港出發，首先進攻對馬島。日守護代宗助國率族人奮起抵抗，均戰死。元兵轉攻壹岐，守護代平景隆亦戰死。元軍占領 二島後，接著又向肥前沿海襲擊，於博多灣強行登陸。此時鐮倉幕府已動員征集了九州之兵，號稱十萬三千人，會於博多，以抗元兵的進犯。元兵用毒箭、鐵炮進行襲擊，加之以集團戰術進攻，使日軍死傷慘重，潰不成軍。元軍很快占領了今津、佐原、白道原、赤阪等地，這時元左都副元帥劉複享負傷，大軍仍不停止進攻，所到之處，焚毀擄掠，愈加凶狠。在強悍善戰的元軍打擊下，日軍大敗，伏屍如麻，隻得退守水城。此時天色將晚，高麗將金方慶請求繼續戰鬥，但忻都卻認為應該回軍，於是下令大軍回船休息，準備第二天再繼續進攻。劉複享因傷勢太重，帶著自己的部隊已先回國。這天晚上風雨大作，突然來臨的台風使夜宿於戰艦上的元軍束手無策，狂風卷著巨浪，似排山倒海，戰船大部分被拋到海邊岸石上摔得粉碎，高麗將領金僥也落水而死。兀軍無奈隻得乘夜集合殘部倉促撤歸，第一次東征之役遂以失敗而告終。這一年是日本龜山天皇文水十一年，日本曆史上稱為“文水之役”。
1275年二月，忽必烈又派遣禮部侍郎杜世忠、兵部侍郎何文著、計議官撒都魯丁，以高麗徐讚等為向導，持國書去日本說降。四月到達長門的寶津。八月幕府派人將杜世忠等五人送至鐮倉。九月七日斬杜世忠等五人於龍口，並梟其首。
同時，動員全國做好準備，抵禦元軍來襲，並在九州設置探候所。十一月命北條實攻至鎮西，任九州探題，督率軍事。十二月又令西海的將士於次年三月，征集兵旅，以備征元。同時還令山陰、山陽、南海諸道修船舶，備軍械。當時的鐮倉幕府尚無力量向外征伐，這些舉動都是為了鼓舞士氣，加強防備。
忽必烈原以為可以用武力征服日本，不料第一次出征失敗，使者又杳無音訊，因而不得不再次發兵。1279年二月，下令揚州、湖南、贛州、泉州四省造戰船六百艘。八月，範文虎建議再派周福、欒忠同日本僧人一道往諭其國，預計來年四月還報，根據他們是否服從，然後決定派兵之事。1280年三月，傳來國信使杜世忠等在日本被殺的消息，征東都元帥忻都、洪茶丘等立即要求率兵再征日本，朝廷討論決定稍微延緩，想再等周福的消息，但周福等亦於博多被北條時宗所斬。忽必烈遂再置征東行中書省，並召中書省右丞範文虎，商議征伐方略。八月招募士卒，糧一十萬石，出征日本。
1281年忽必烈決定兵分兩路：東路軍由忻都、洪茶丘、高麗將金方慶、樸 球、金固鼎等率領，轄蒙、漢、高麗軍四萬，從陸路至合浦，再乘戰艦九百艘出海；南路軍由阿剌罕、範文虎、李庭、張禧等率領，轄江南十萬新附軍，乘戰艦三千五百艘從慶元、定海出發，於六月十五日在日本壹岐島會合，同征日本。範文虎建議請馬二千給禿失忽思軍隊及回回炮匠以同行，但忽必烈沒有同意。
五月，東路軍從合浦出發，先攻占了對馬、壹岐兩島。六月，進至博多灣，欲攻太宰府，在築前誌賀島遭到日本軍民的有力抵抗。元軍以鎖連舟，設弩而守，日船進攻者，多為機石所擊破。由於南路軍尚未到，東路軍僅餘一月之糧，箭矢也將用盡，又斃於疫者三十餘人，士氣受挫，終不能上岸，退於鷹島。