眾所周知，我國春秋戰國時代的青銅兵器製作之精良譽滿寰宇，例如重見天日的吳王劍與越王劍，至今仍難解其繁複的鍛造過程。雖然進入鐵器時代以後，我國亦不乏精美兵器作品問世，但因素有入土陪葬的習俗，名刀隨著它的主人一同下葬，而鐵器的耐鏽蝕性遠低於銅器，一旦入土之後大多鏽蝕殆盡，因此傳世精良的鋼鐵兵器為數不多。但日本卻鮮有入土陪葬的風俗，加之日本人勤於保養，所以日本傳世至今的鋼鐵兵器為數不少。
事實上，日本刀最早仿自我國西漢的環首直刀，至唐朝時期改為模仿“唐大刀”，其後以“唐大刀”為基本藍圖，對刀的冶煉方法、淬火技術、造型變化等逐步加以改進，至日本鐮倉時代初期（12世紀左右，相當於我國的宋朝時期），日本刀的製作已脫胎於我國刀劍而自成一格。並且日本對曆代刀工的名錄以及各係刀的鍛造方法均做了極係統的整理，形成係譜，精確且便於查閱。
筆者在2008年年底東京劍展上見到了由一位名叫吉永的刀匠在日本慶應二年（1866年）所做的刀，其刀莖上的銘文頗令人深思，內容如下：“刀劍尚古，以其不屈折而能斷也，然多經磨礪而鋒刃稍耗，雖偶有全者，價值高貴，非餘輩所得而佩也，故命澗洋鍛工吉永製之，試檢萬端，堅利不減古刀，實符吾意，常佩以為緩急之用，子孫勿以新刀輕焉。慶應二年丙寅臘月奧田忠久識。”日本慶應二年屬於幕府末期，當時的戰爭形式已經是以槍械為主，而從這把刀的銘文上可以看出刀主人對這把刀的珍愛以及他的尚古情懷。同時從銘文中所提“以其不屈折而能斷，多經磨礪而鋒刃稍耗”等語可見日本人的鍛刀方式與中國不謀而合。
總體來說，日本刀的發展基本可以分為5個時期，即上古刀期、古刀期、新刀期、新新刀期和現代刀期。
上古刀期
提到日本刀的淵源，不得不提及我國春秋時代的刀劍大鑒賞家“風胡子”和東漢袁康所著《越絕書》、南北朝時期陶弘景所著《古今刀劍錄》等著作，以及幹將、莫邪等刀匠。《越絕書》中描述純鈞劍更以“如芙蓉始出，如列星之行，如水之溢於塘，岩岩如瑣石，煥煥如冰釋，如登高山臨深淵，巍巍翼翼，如流水之波，如珠不可衽，文若流水不絕”等詞彙來形容其霞光異彩。到了漢魏時期，曹丕選用越楚良工製作的刀劍，其“精而煉之，至於百辟，或文似靈龜，或采似丹霞，或皎若嚴霜，或狀似龍文，或色比彩虹，或形若龍鱗”。我國古代刀劍鍛造的方法和經驗都對日本刀的製作產生了重要影響。
日本的上古刀期指238—707年，也就是日本曆史上的彌生、古墳、飛鳥、奈良時代，相當於我國的兩漢、魏晉南北朝以及隋唐時期。當時日本不論政治製度、科學技術，還是文化藝術等都深受我國中原文化的影響，刀劍製作技術自然也不例外。當時許多名刀都是從中國引進，甚至有些中原有名鑄劍師遠從中國歸化日本，就地鍛刀授徒，教授冶煉術，可見日本對中原文化吸收之用心。
現在的日本刀主要是由我國唐代的橫刀發展演變而來的。日本的聖德太子執政時期（相當我國唐朝時期），進行大化革新，全麵學習中國的政治製度和科技文化，每次派出的遣唐使團成員，除了各級官員以外，還有各種專業人員，其中總有占總數近半的“射手”，實際就是使團的護衛武士，還有“鍛生”和“鑄生”。這些人員入唐以後，在刀劍製作方麵學到很多知識，之後傳回日本。當時我國製造、輸往日本的刀被稱為“唐大刀”，而日本仿中國刀的產品被稱為“唐樣大刀”，其刀裝采用名貴的材料及精湛的技術製作而成，專供日本貴族、高官等特權尊貴階級佩帶。但這時期的日本刀尚未形成獨立的風格特征，從內到外與我國唐朝時期的刀基本無異，刀身很直，因為直刀更利於步兵作戰。
到了我國明朝時期，日本的煉刀技術已超越了我國。明朝末年，日本不斷侵擾我國東南沿海地區，明朝朝廷命戚繼光率領大軍對倭寇進行圍剿。其實當時的日本侵略者並非政府軍隊，而是一群流浪的海盜，每次侵犯我國沿海的人數並不多，少則數十人，多則近千人，但當時自身難保的明朝朝廷已窮於應付。後來，戚繼光發現日本使用的兵器較明軍的優良，於是向日本購買了一批兵器，以其人之“刀”還治其人之身。連戚將軍本人所用的持刀也改成類似日本刀造型的單手刀，後世稱為“戚家刀”，並且創造了專門克製日本刀的“鴛鴦陣”，如此才得以對抗長年邊患。