伯牙原姓俞，名瑞，字伯牙，生卒不详，春秋战国时期楚国郢都（今湖北荆州）人。既是抚琴高手，又是作曲家，故被人尊为“琴仙”。
历代文献关于伯牙的记载颇多，最早见于荀子《劝学篇》：“昔者瓠巴鼓瑟，而沉鱼出听；伯牙鼓琴，而六马仰秣”。文中用夸张的手法来形容其琴声之美妙。
在《吕氏春秋》和《列子》中，记载有伯牙与钟子期的故事，一直为后世所传诵。
据《吕氏春秋·本味篇》载：伯牙鼓琴，钟子期听之，方鼓琴而志在泰山，钟子期曰：“善哉！巍巍乎若泰山”。少时而志在流水，钟子期曰：“善哉！洋洋乎若流水”。钟子期死，伯牙摔琴绝弦，终身不复鼓琴，以为世无足复为鼓琴者。
据《列子》载：伯牙善鼓琴，钟子期善听。伯牙鼓琴，志在高山，钟子期曰:“善哉，峨峨兮若泰山”；志在流水，钟子期曰：“善哉，洋洋兮若江河”。伯牙所念，钟子期必得之。伯牙游于泰山之阴，卒逢暴雨，止于岩下，心悲，乃援琴而鼓之。初为“霖雨”之操，更造“崩山”之音。曲每奏，钟子期辄穷其趣。伯牙乃舍琴而叹曰：“善哉，善哉，子之听夫！志想象犹吾心也。吾于何逃哉？”子期死后，伯牙断弦摔琴，终身不操，认为没有人比子期更懂得他的音乐。
后人以伯牙摔琴谢知音的故事为题材创作了琴歌《伯牙吊子期》。
《琴操》、《乐府解题》记载有伯牙学琴的故事：
俞伯牙在大师成连门下学琴三年，通晓了成连的所有技巧却始终达不到精妙的境界，于是求成连指点迷津。成连自称只能教弹琴技艺，而其师万子春善移情，便带伯牙去东海找万子春请教移情之法。两人来到蓬莱，成连将伯牙留在山上，自己则乘船而归。
伯牙独处山上，并未见到万子春，只看见汹涌的波涛，杳深的山林和悲啼的群鸟，伯牙心中豁然一亮，感慨地说：“先生移我情矣！”乃援琴而歌之。他将听到的声音，看见的景物，融入自己的情怀之中，果然韵律与心神合而为一。伯牙因此悟得琴之妙趣，有感而作《水仙操》。现在的琴曲《高山》和《流水》都是传说中俞伯牙的作品。
