春秋戰國時，有一個叫做俞伯牙的楚國人，但他在晉國做官。俞伯牙是當時最著名的琴師，他的琴聲能夠模仿很多種自然界中的聲音，並且能表達各種情感。但是，卻很少有人能夠聽懂他的琴音，理解他的琴意。所以，他常常因此而感歎。
有一年，俞伯牙奉晉國國君之命出使楚國。在完成使命以後，俞伯牙乘船逆漢水而上，準備返回晉國。但剛啟程不久，就在漢陽遇上了大雨。
由於風雨所阻，俞伯牙不得不命船停泊在岸邊等待雨停。俞伯牙命令仆人取出隨身攜帶的七弦琴，看著旁邊的高山，聽著漢水的濤聲，就在船艙中撫起琴來。他彈著彈著，突然，琴弦斷了。
按照當時的說法，琴弦斷了說明有人在偷聽。於是，俞伯牙命仆人下船尋找偷聽之人。過了不久，仆人帶上來一位樵夫。
這位樵夫告訴俞伯牙，他叫鍾子期，生活在漢水邊，以砍柴為生，閑暇時喜歡讀些詩書。剛才在附近躲雨，被俞伯牙的琴聲吸引而來到了船邊，並非有意偷聽。
俞伯牙聽完鍾子期的敘述，便問他：“你能聽懂其中的寓意嗎？”
鍾子期答到：“能。”
俞伯牙馬上換好琴弦。他鼓琴一曲後，問鍾子期：“你聽到什麼？”
子期讚歎：“啊！多麼宏偉！像高山那樣巍峨！”
伯牙又鼓琴一曲，子期欣喜地說：“啊！多麼浩蕩！就像流水那樣奔騰不息！”俞伯牙立即走到鍾子期麵前，一揖到地，激動地說：“我今天終於找到知音了！”
兩人暢談了一宿，情投意合，甚是投機。但是，第二天一早已是雨過天晴，俞伯牙必須回去複命了。兩人分別時約定，明年此時此刻還在這裏相會。
第二年，俞伯牙如期赴會，卻久等子期不到。於是，俞伯牙就順著上次鍾子期回家的路去尋找。
半路上，他遇到一位老人，便向這位老人打聽鍾子期的家。原來，這位老人正是鍾子期的父親。老人告訴俞伯牙，鍾子期又要砍柴又要讀書，再加上家境貧寒，積勞成疾，已經在半月前去世了。
子期去世時擔心俞伯牙會在這裏久等，叮囑老人一定要在這一天來通知俞伯牙。俞伯牙聽到這個消息後悲慟欲絕。他隨老人來到鍾子期的墳前，彈奏一曲《高山流水》以酬知己。
曲畢，就在鍾子期的墳前將琴摔碎，並發誓終生不再撫琴。
對於一個高明的琴師來說，最讓他高興的事莫過於有人真正聽懂他的樂曲了。能夠欣賞領會音樂的人就被稱為“知音”，後來人們常說“高山流水覓知音”，就借用俞伯牙彈奏這首古琴曲的名稱表達找到知音的快樂。高山流水覓知音的故事就發生在湖北漢陽古琴台，此台為紀念俞伯牙與鍾子期的知音深情而建，又有“伯牙台”之稱。俞伯牙與鍾子期結為知音的故事，千百年來在文人與民眾之間廣泛流傳，二人知音的傳奇色彩，給中國文化增添了可歌可泣的頁。