人類祖先早有漱口、刷牙的習慣，在公元前3000年蘇美人烏爾城邦的國王墓穴中就曾發現過清理口腔用的最早工具——牙棒。在古希臘和羅馬時代，人們用動物骨灰做牙粉，清理口腔，現在還有些原始部落用木炭、鹽水、細砂、樹枝來清理牙齒。阿拉伯人現在還從一種叫Arak的樹上取下樹枝，將一端搗碎，做成刷狀，用來清理牙縫及刷牙，稱之為Miswak，是一種天然牙刷，據科學家分析，這種樹枝含氟及皂素，可預防蛀牙，並有止痛作用。
中國人在2000多年前就懂得保護牙齒的重要。《史記·倉公傳》中就批出引起齲齒的原因是“食而不漱”。《禮記》中：“雞初鳴，鹹盥嗽”就說明人們已有了漱口的習慣。古人清理口腔和牙齒用手指和柳枝。敦煌壁畫《勞度叉頭聖圖》中，畫有一和尚，蹲在地上，左手持漱口水瓶，用右手中指揩前齒。在唐代，人們用柳枝做成刷，蘸藥水揩齒。宋代，有人主張每日早晚用柳枝揩牙兩次，元代正式有“牙刷”一詞，郭玉詩中雲：“南洲牙刷寄頭日，去垢滌煩一金值。”元代社會上層人物用牙刷，一般人還是用柳枝，和中草藥研製成的揩齒粉末刷牙。另據考古發現，我國1000多年前遼代古墓中出土了兩支骨製牙刷柄。可見，我國比歐洲要早600多年就有了類似現代的牙刷。
在歐洲，牙刷是由英國皮匠愛迪斯於1780年在倫敦首先發明的。在此之前，歐洲人用布擦洗牙齒，愛迪斯認為用布擦牙效率太低，而且擦不幹淨，他把鬃毛縛在骨頭上，刷牙效果很好，從此改進了歐洲人的刷牙工具，愛迪斯創立的公司至今仍在生產牙刷。
現在通常的牙刷有四個部分：刷頭、刷頸、刷毛和刷柄。刷頭應稍短、稍窄，以便伸入整個口腔，刷淨難刷的部位。刷頭最好成圓弧狀，以免刮傷牙肉。刷頸要有適當的彎度，以配合牙齒床的弧度而深達後臼齒區。刷毛要軟硬適當，頂端經過特殊處理，免得損傷牙齦及牙釉質。刷毛部分的外側應稍長且柔軟，以利牙齦的按摩。刷柄以好握為度。一般的牙刷，應用過3個月左右更新一次，刷毛已向兩側傾倒的牙刷，不可再用，它不僅無法清除牙垢，而且易傷牙齦。
近年來，德國發明了一種新型的雙柄牙刷，牙刷的兩個末端呈U字形，上有扇形的刷毛，可同時將牙齒內外側刷幹淨，還有一種電動牙刷，靠振動按摩牙齦，治療牙痛病。
牙刷的名稱，最早見於元代郭玉詩中“南洲牙刷寄來日，去垢滌煩一金值”，這說明在元代，我國南方製造的昂貴的牙刷已為少數上層人物所使用。