櫓的外形很像槳，但比槳長且大，是在槳的基礎上改進而成的。它通過左右搖動產生升力，從而推動船舶前行。
在中國古代，櫓可是個推進效率比槳高的工具，古人有“一櫓三槳”和“輕櫓健於馬”的說法。為什麼有這樣的說法呢？大概是和槳比較得出的。槳是間歇劃水給船隻提供斷續的推力，而櫓始終在水中按一定的弧度往複運動，給船隻提供持續不斷的推力。如果變更櫓板的入水角度或調整櫓板在水中的位置，還能有效地控製船隻前進的方向。
櫓是漢代被發明出來的，東漢劉熙的《釋名》中，對櫓字已做出了解釋：“在旁曰櫓。櫓，膂也。用膂力然後舟行也。”
不過還有一種說法是，櫓在秦朝時就已出現。關於這種說法還有一個傳說。在今天的浙江省海鹽縣有個古鎮叫澉浦鎮，在該鎮的附近有座山叫泊櫓山。據說，在2000多年前，秦始皇南巡，坐船來到海鹽縣，秦始皇所乘之船到了此山後停船泊櫓，並從海邊（杭州灣北岸）登上另外一座山，在山上望著杭州灣欲過江，並“駐蹕此山”。正因為這樣，後人便將秦始皇曾到過的那座山叫秦駐山，而秦始皇停船泊櫓的那座山就叫泊櫓山。在當地的各種史料中都有這一項記載。這也說明，櫓在秦朝時就已經出現了。
因為櫓具有連續、高效的推進效能，所以自從它出現之後，無論是在內河還是在沿海都獲得了廣泛應用，直到現在仍然能見到輕櫓小舟行駛在江河之中。所以，櫓被中外科技專家稱為“中國古代發明中最科學的之一”。