日本與中國的文化交流自南北朝時期開始。在日本聖德皇太子攝政時，日本結束戰亂，百廢待興。此時，也正逢中國結束戰亂，隋朝一統江山，社會各方麵都逐漸步入正軌，進入繁榮時期。為學習中國文化和科學技術，極具政治遠見的日本聖德皇太子便正式派出遣隋使出訪中國，全麵了解學習中國的政治、社會製度和文化。遣隋使這一開拓性的國際交流活動，先後有四次，得到了隋朝皇帝的認可，並給予了極大便利和優待，使得中日文化交流繁榮起來。
在唐代時，日本進入奈良時代和平安時代。強大而繁榮的大唐對日本來說，無疑具有巨大的吸引力。日本天皇決定延續隋例，繼續學習中國的製度和文化，派出的遣唐使多達十六次，每次包括大使、文書、醫師、翻譯、工匠、留學生等在內的使團成員多達近千人，使中日文化交流達到高峰。最有名的遣唐留學生是阿倍仲麻呂，他在中國留學期間，與李白、王維是至交好友。
在最後一次大規模派出遣唐使後，日本對中國社會政治製度、文化、醫學、科技都已經學習得比較全麵，加上活動浩大，國力負擔沉重，於是終止了這種大規模的國家文化交流活動。但是，中日兩國的民間文化交流與商業來往一直沒斷過。日本國對於中國文化有專門的學科研究，叫做漢學；而把對源自荷蘭的西方文化的研究稱為蘭學。漢學和蘭學並存，一直極大地影響著日本文化，並一直延續到了今天。
現在日本的古典建築、佛學、茶道、花道、書法、圍棋、相撲等都直接學習自大唐，或者受唐朝文化影響。但日本是一個很善於學習和總結的民族，他們將中國的文化和日本文化相結合，逐漸形成了自己獨特的日本文明。這其中，就有源自中國香文化，如今有著濃鬱日本文化特色的香文化——日本香道。
不過，日本人民對於香文化的起源有另一種說法。據《日本書紀》記載，“推古天皇三年春（596年），有沉木漂至淡路島，島人不知是沉香，作為柴薪燒於灶台，香味遠飄，於是獻之於朝廷”。這段曆史記載，被視為日本香文化的起源，也是眾多日本學者認為日本香道是獨立發展的依據之一。
盡管這些日本學者認為日本香道並非源於中國香文化，而是巧合地與中國品香活動同時產生，獨立發展至今。但我認為，鑒真東渡和遣唐使就帶去包括沉香在內的大量香料的確鑿證據，並且中國唐朝在權貴階層就有品香活動，比如“鬥香”；還有中國宋朝開始興起品鑒沉香香味的香席活動雛形；同時大量的香藥和炮製香藥的香方也被帶去日本，在這樣的事實情況下說日本香道是獨自產生，恐怕不能服人。與中國香文化一脈相承的日本香文化，在早期也是采用常見的如蘭、蕙等用於禮佛和衣物的熏香。在奈良時代，遣唐使團帶回了大唐的名貴香料，鑒真東渡也帶去了包括沉香在內的各種香料。從此，日本皇室開始將香料製成香，用於皇室和佛寺的活動。在平安時代，一些貴族開始接觸香料，並逐漸成為一種時尚。他們將各種香木粉末混合，再加入炭粉，最後以蜂蜜調和凝固，這就是所謂的“煉香”。
中國的南宋高宗時期，紹興二十六年，也就是公元1156年，日本的香學名著《香字抄》問世。這是一部詳細記載各種香料的香譜，與陳敬的《陳氏香譜》等類似，對於沉香、棧香（原著寫為“賤香”）、白木香等都有記載。這部書的問世，標誌著日本對香文化的研究進入係統化和體係化時期，為香道的興起奠定了學術基礎。
日本《香字鈔》
日本《香字鈔》內頁
公元1333年，頗有誌氣的後醍醐天皇消滅鐮倉幕府後，進行第一次的王政複古，推行新政，史稱建武新政。公元1335年，足利尊氏利用平定鐮倉幕府餘黨勢力北條時行叛亂之機，積極坐大，在擊敗官軍後逼走後醍醐天皇，後擁立光明天皇登基。由此，日本進入南北朝時期：南邊為後醍醐天皇執政，北邊為光明天皇執政。正是在這樣一個充滿著血腥和殺戮的亂世，日本的香文化逐漸發展成為如今的香道。
日本學者研究表明，南北朝時期的佐佐木道譽是香道的鼻祖。
大枝流芳有如下記述：“道譽姓佐佐木，名高氏，號京極，佐渡判官，應安年中卒。生於亂世而樂風雅，嗜香。往古用薰物，而入佛道修行以沈香，奇南賞玩，並封以種種名目，則由此人而興起，可稱香道開祖。”
掌握著室町幕府將軍之位的足利家族對沉香極為喜愛，而佐佐木道譽是足利尊氏麾下的武士。或許是這個原因，佐佐木道譽得以接觸名貴的沉香，並以癡迷聞名於全日本。為了得到一塊好的沉香，他可以不惜一切代價也要得到。據說，他在一次宴會上焚燒了幾斤的沉香，以示奢華。當足利家族獲得幕府將軍的地位後，佐佐木道譽也成為權臣之一，對當時的政治影響很大。另外，在日本南北朝時期，南北兩帝使天皇的權威受到挑戰，武士們自恃功高，眼裏已經沒有了舊的社會道德，開始挑戰舊文化，試圖開創屬於自己的時代風氣和文化，這樣的武士稱為“婆裟羅”大名。在此社會背景下，集權力和財富於一身的佐佐木道譽，又以擅長和歌、茶道、品香等文化素養名聞全日本，他對於沉香的品鑒方式自然也成為其他武士和貴族效仿的時尚。
這種品香方式就是聞香。
聞香一詞，應該是來源於《法華經》。日本當時的貴族武士非常喜愛聞香，並對喜歡的香料命以各種雅號。比如著名的“蘭奢待”，其他還有名越、忍、無名、河澱、六月、早梅、夏箕川、岸鬆、三吉野等等。當時的沉香愛好者還對香料的來源和品質進行研究，比如佐佐木道譽所藏有的香料有177種，逍遙院三條實隆所藏的禦家香料有60餘種。這些現象標誌著日本香文化進入聞香時代後，被賦予了眾多文化意義和內涵，遂形成香道。從時間上看，日本的南北朝時期，大致是中國的元朝，也就意味著日本香道出現晚於中國宋朝就出現的香席，並且可能是受到了香席的影響。兩者都有一個共同的特點，那就是其品鑒的都是沉香，細心品聞並賦予沉香以文化內涵。