我國民間佩劍之風始於周，在漢唐兩代開始盛行。
起初佩劍是用於防身，戰國以後為便於作戰，將劍身變長。至秦代佩劍更長，但這並不利於從劍鞘拔出，秦始皇就因劍長未能及時拔出而差點兒被荊軻刺死。劍不僅僅是戰場兵器，在古代，隻有貴族腰間才能佩戴，這也是身份和地位的象征。東漢後期，在戰場上劍逐漸被刀所取代，從而劍便慢慢地演變為佩飾。晉朝時，達官貴人用木劍、玉劍作佩飾。隋唐時期，佩劍文化發展達到頂峰，佩劍種類繁多，佩劍方式也出現“隻佩”、“雙佩”等級別規定。直到宋、明時期，男子仍有佩劍的習俗。
古人佩劍還具有禮治和修身養德方麵的意義，直到近代，詩詞歌賦中仍有很多對劍讚美的佳句。