伯牙問道：“難道你還知道這把琴的來曆？！”那樵夫說：“這是瑤琴，傳說是伏羲氏所造。”伯牙又是一驚，心想，這樵夫肯定不是一般的人。那樵夫接著說這瑤琴當年是如何截取上等梧桐木料精心製作而成的，最初隻有五根弦，後來周文王添了一根弦，稱之文弦，周武王又加一根弦，稱之武弦，共七根弦，所以叫做文武七弦琴。又講到瑤琴有什麼優點，在什麼情況下不彈琴，怎樣才能彈好它等等，對瑤琴的一切都了如指掌。
伯牙心中不僅佩服那樵夫的知識廣博，更是覺得驚奇。但是，轉而又想，也許他是憑記憶得來的學問，何不彈奏幾曲給他聽聽，考他一考。
主意已定，伯牙邊與那樵夫交談，邊把琴弦續好，請那樵夫辨識所彈的曲調。伯牙說話雖然不露聲色，但心裏已暗暗確定了彈奏的內容，這次不彈現成的曲子，而是按自己隨意所想，用琴把所想的情境表現出來。
他沉思了一會，手起時，琴聲雄偉、高亢、激越，使那樵夫產生了共鳴，情不自禁地讚歎道：“好啊！挺拔巍峨，氣勢磅礴，先生把高山的雄峻表現得太深刻了。”
伯牙不露聲色，凝思一會，又彈奏起來。這次完全是另一種風格的曲調了，那樵夫不禁又讚歎道：“好啊！彈得太好了，低似涓涓細流，亢如波濤洶湧，浩浩蕩蕩，幽回九轉，先生把潺潺流水述說得太形象了。”
伯牙大驚，那樵夫竟然兩次都把自己所想所彈的說得絲毫不差。這時，伯牙才想起問對方尊姓大名，那樵夫名叫鍾子期（生卒年不詳），伯牙也報了自己姓名。伯牙彈琴那麼長時間了，走過的地方也不少，還沒遇到過像鍾子期這樣知音的人，鍾子期久居鄉裏，更沒有碰到過技藝像伯牙這樣高明的琴師。兩人都大有相見恨晚之感。伯牙吩咐仆人上茶斟酒，兩人邊飲邊談，當即結拜為兄弟，並約定第二年的中秋節在漢陽江口相會。兩人一直談到天亮，揮淚而別。
第二年中秋節，伯牙按約定日期趕到漢陽江口。可是，等了好長時間，始終不見鍾子期出現。與去年相同的一天夜晚，同一個地點，同樣的月光，就是沒有知音鍾子期了！伯牙觸景生情，心急如焚，便彈琴來召喚鍾子期，那思念知音的琴聲在夜空中飄蕩，傳向遠方，可是，鍾子期還是蹤影全無。伯牙躺在床上，輾轉反側，怎麼也睡不著，好不容易等到天邊發白。伯牙急忙起床，梳洗之後，背上瑤琴就向鍾子期居住的集賢村走去。
當他走到一個十字路口，正不知該走哪條路的時候，一位滿頭白發，麵容憔悴，一手拄拐杖，一手提著竹籃的老人走了過來。伯牙趕快上前施禮，打聽集賢村的鍾子期，並說自己是他的朋友俞伯牙。
老人聽了俞伯牙的話，老淚縱橫，竟然痛哭起來。俞伯牙感到蹊蹺，不知所措，隻聽到那老人說：“我就是子期的父親。自從你們分手後，子期因勞累過度，積勞成疾，已不幸離開人世。他曾經告訴過我，去年的八月十五中秋節晚上曾經和先生在江邊相會，並約定今年八月十五中秋節再見麵敘舊。他臨死前留下遺言，死後把他埋在江邊，能聽先生彈琴。”
伯牙聽了老人的述說，悲痛不已。在老人的引導下，他來到江邊子期的墳前。眼望江麵，去年八月十五的情境又曆曆在目。可是，事過境遷，自己唯一的知音——鍾子期已長眠地下了，怎能不令人傷感呢？
伯牙架起瑤琴，席地而坐，彈奏起來。琴聲哀怨，如泣如訴，充滿了伯牙對子期深深的懷念之情和對子期逝去的悲傷之痛，但是，這些，誰人又能理解呢？曾經有過，那就是子期。可是，現在唯一的知音已經離開了人世，今後自己還彈琴給誰聽呢？琴聲戛然而止，隻見伯牙悲傷至極，他挑斷琴弦，舉起那珍貴的瑤琴，猛然砸在石塊上，瑤琴被砸得粉碎。
為了紀念這兩位“知音”的友誼，後人在漢陽的龜山腳下，月湖側畔，築起了一座古琴台。伯牙和子期見麵時所彈的曲調“高山流水”也就成了友誼的象征，“知音”一詞便成了親密朋友的同義語。應當指出的是，這個故事所說的“知音”絕不能簡單地理解為能聽懂樂曲，而是表現了鍾、俞之間基於共同誌趣、情操的相互理解，這才是“知音”的實質。