玉佩在新石器時代就已經出現。原始先民把鑿成形似各種圖騰的玉飾掛在頸部，垂於胸前，來象征地位、權力、財富。後來，玉石被演繹成了一係列的圓形禮器：玉璧、玉琮、玉環、玉瑗等，成為美麗的裝飾品，一代代流傳到後世。
古人對玉佩的熱愛不是因為玉的貴重，而是源於玉的品格。古人根據玉料的色澤，如淡綠、茶綠、黃綠、墨綠、黃褐、棕褐、白色、黑色、白灰色等，及玉料的不同性質，依人品、寓意製作出不同的造型，如蟲魚鳥獸的形狀、圓環狀（玉璧）等來與其品德相配。
在《周禮·玉藻》中，更把玉佩上升到禮法的高度，規定了各種不同身份的王侯佩玉的規格。在周代，貴族佩玉以節步是基本的禮儀之需，他們聽自己的玉佩聲，使行步與玉佩聲相一致，來顯示自己走路的威儀。
玉佩的種類繁多，有單件的玉佩，也有成組出現的玉佩，也叫組玉佩。組玉佩就是將幾種不同形狀的玉佩，用彩線組為一串係掛在脖子上，或掛在腰間，走起路來，玉佩相撞，發出悅耳的聲響。
組玉佩既有禮玉性質，又有引人注目的裝飾功能，它是權貴身份的象征。戰國、秦漢時期的玉佩繁縟華麗，有的甚至包括數十個小玉佩，如玉璜、玉璧、玉珩等。同時，組玉佩不再是頸部的專用裝飾品，而是係在腰帶上，而且組玉佩的使用也不再為貴族所專有，在普通百姓中也廣為流行。
東漢時期用玉製度逐漸完備，漢明帝依據古製，對失傳已久的大佩製度重新考訂，頒行天下。東漢末年，天下大亂，佩玉製度再次失傳。三國時，曹操統一北方後，又建立典章禮儀製度，命侍中王粲依古禮製定佩玉製度，以該製度所製玉佩從此成為魏晉至隋唐時期廣為流行的玉佩式樣。
魏晉以後，各朝男子都隻是佩戴簡單的玉佩，而女子很長時間裏依然佩戴組玉佩，通常係在衣帶上，走起路來環佩叮當，悅耳動聽，因此“環佩”也漸漸成了女性的代稱之一。
明朝初年統治者廢除元代留下來的胡風胡俗，在政治、社會、風俗、製度方麵都以古製及唐宋之製作為參考，對組玉佩的規格也製定了新的規定。至清代以後，隨著大規模的改裝易服，組玉佩製度遂廢而不行。
其實玉佩不僅具有裝飾功能，玉對人體的醫療保健作用很早就被人類所發現。中國著名的中醫藥巨著《神農本草》、《唐本草》、《本草綱目》中都有過著述。《本草綱目·金石部第八卷》中記載，玉具有：“除胃中熱、喘急煩懣、滋毛發、滋養五髒、柔筋強骨、止渴、潤心肺、助聲喉、安魂魄、利血脈、明耳目”等療效。
現代科學研究也表明：玉含有對人體有益的元素，經常佩戴和使用玉器摩擦皮膚與穴位等，可起到防病治病的效果。
在民間，人們也喜歡佩戴玉佩作為護身符以避邪保平安。同時，玉佩還寄予了人們種種美好的寓意，如帶有“福祿壽喜”、“鶴鹿同春”紋飾圖案的玉佩就表達了人們對健康長壽的盼望。