趙良弼於至元九年（1272年）六月返回中國，向忽必烈報告了出使日本受到的羞辱。還介紹了他了解到的日本的防務情況和風土民情。這期間，忽必烈又讓高麗國王出麵，或派使或致書，勸說日本認清形勢，歸附元朝，但都無效。
自此，忽必烈希圖以和平手段讓日本臣服的舉措都落空了。
不得已隻有采取武力征伐之策
曆時七年的外交努力徹底宣告失敗。慣於使用武力、動輒討伐的忽必烈感到受到了侮辱，此時他的忍耐已達極限，元日之間的戰爭也就不可避免。
還在趙良弼出使日本期間，忽必烈就已經派6000元軍進入高麗，之後又征女真兵和水軍萬人以上，此時元軍集結攻日兵力已達近20000人。又命高麗征兵5000餘人。1274年1月，忽必烈對高麗下達了造船的命令，高麗征發民夫35000人，僅用10個月，就建造了大型船300艘，中型船300艘，補給水用的小型船300艘，合計共900艘，從而完成了他發動征日戰爭的最後準備。
日本人聞訊也不示弱，既然決定不回複元朝國書，也就開始做戰爭準備。年僅18歲的幕府執權北條時宗命令九州的禦家人構築陣地，積極備戰。還命令駐守鐮倉的禦家人依次西下，以加固九州的警備。戰爭已一觸即發。
至元十年（1273年）十月，忽必烈下令征伐戰爭開始。命都元帥忻都和右、左副元帥洪茶丘、劉複亨，以及高麗將領金方慶，率25000元軍和900艘兵船從朝鮮的合浦出發，大舉征日。十月五日至十四日，元軍襲擊日本的對馬、壹岐兩島。對馬和壹岐守軍隻出動百餘騎迎戰，被元軍悉數消滅。
元軍隨後侵入鬆浦半島沿海諸島，日本武士傷亡數百人。十九日元軍兵船駛進博多灣。此時日本已調集禦家軍人數萬，從二十日上午開始迎擊元軍。但日本武士一開始就處於不利地位，因為日本傳統的戰法是：先發鏑矢（一種射出去有尖厲叫聲的箭）為號，然後一名武士出列，自報家門，接著叫陣格鬥。元軍戰法卻不管這些，每戰必一哄而上，麵對日軍隻顧射殺，然後合圍，盡數殲之。再加元軍作戰時必擊鼓鳴鑼，常使日軍戰馬驚躍狂奔，無法控製。
另外，元軍還有日軍沒見過的火藥武器，火炮一響，其爆炸的轟鳴和閃光往往使日本武士暈頭轉向，陷入混亂。元軍的弓箭小而力大，能射逾百米，而日本的弓箭大而無力，射程極短。激戰至晚，日軍節節敗退，被迫退卻到大宰府附近。
高麗將領金方慶看到當時形勢對元軍有利，力主連夜攻取太宰府，保住陣地以待援軍。都元帥忻都卻否定了金方慶的意見，沒有趁晚乘勝追擊，擴大戰果，鞏固陣地，而是令20000餘元軍回到船上休息，等待明日再戰。
沒想到，時至半夜，突然台風來襲，狂風巨浪壓向停泊海上的元軍船舶。這些並不堅固的木船，一下或翻或互相撞毀竟達200餘艘，元軍落水淹死者愈萬人。海浪又把溺死者不斷拋上岸來，岸邊屍體堆積如山。好不容易挨到天明，剩下的船隻不得不返航高麗。這次元軍東征，便這樣以失敗而告終。
但元軍已失敗返航的消息傳遞很慢，元軍已撤的消息日本國內還不知道。突受元軍攻擊並失利，日本全國仍在驚慌中，戰敗陰雲仍然籠罩朝野，類似元朝軍隊已經沿著東海道席卷日本的傳言四起。
日本於恐瞑中舉國掀起了祈禱神佛保佑的活動，誦經聲晝夜不休，希望神佛庇護，渡過劫難。達官貴人們惶恐間竟有浮舟海上，將此身交於上天的打算。他們還不知道，這時的元朝剩餘軍隊早已返航了。後來得到消息，日本人這才歡呼雀躍，對神靈的庇護更是篤信，感謝也也更虔誠了。
元軍雖然突然之間不見了，日本國平安了，但日本人卻一時驚魂難定，感覺前途未卜，擔心元軍會卷“土”重來。於是日本舉國上下掀起了祈禱運動，求神拜佛祈求保佑國家。龜山天皇還趕寫了許多“異國降伏”的字條到處粘貼，並請高僧主持做法事，一連搞了七天七夜。軍事領袖們也刺血寫經，求佛法拯救。而這時的普通老百姓則見菩薩就磕頭了。
就這樣，這次元軍遠征，就以日本人不明不白的“勝利”，元軍不可理解的“失敗”而告終。
日本殺元使激發忽必烈再次興兵討伐
元軍都元帥忻都回到國內後，掩飾了遭風退敗損失了一萬多將士的實情，以“人其國敗之”的戰績上報忽必烈。意思是他們登上了日本領土，三下兩下就把日本人打敗了，初戰獲勝，然後就班師回來了。忽必烈信以為真，認為日本人看來好收拾，這次教訓了他們一下，肯定老實了。因此，他誌得意滿，於大賞征日有功將士的同時，趁熱打鐵，再次決定派使者赴日，協商日本歸附之事。
這次忽必烈選派的是禮部侍郎杜世忠、兵部郎中何文著、計議官撒都魯丁和書狀官董畏，又給日本寫了一封國書讓他們帶上。至元十二年（1275年）二月，杜世忠一行出發至高麗，帶上高麗向導於四月登日本至太宰府，八月到鐮倉幕府。沒想到幕府當權者北條時宗根本不把元朝和元使放在眼裏，不但不接國書，還一不做、二不休，竟不顧後果地把杜世忠一行三十餘人殺掉，並梟首示眾。