槳是隨著獨木舟出現而出現的。它是用於劃水以推動船前進的工具，也稱為楫，上端為圓杆，利於手握；下端為槳板，用以撥水，通過水波的反作用力，使船前進。
據說，有人發明了舟以後，這舟得靠竹籬或木棒撐著在水中劃行，速度很慢。那個年代比較聰明的人某一天看見魚兒用尾巴劃水而遊，又快又靈活，於是得到啟發，依照魚的鰭和尾，砍削木棒作為船槳，借槳來劃水推動船前進，船前進的速度果然提高了很多。
不過，當時的槳與今天的槳區別很大：握杆比較短，槳板又窄又長。專家們認為，當時人們的劃槳方式與今天相比有很大的差別，那時的人們可能是一手握著握杆，一手推著槳板來劃船的。
槳真正光榮的歲月是在秦漢時期，當時隨著海軍的雛形“舟師”的發展，以及皇帝們為尋長生不老藥而多次發動的“東渡”活動，槳有了用武之地。它開始變大，握杆變長，槳板縮短變薄，人們用起來更加方便，更加有力，而且出現了多槳船，更加快了船在水上航行的速度。
槳的外形基本定型是在晉朝，但是當時的造船業已經成熟，手工槳已不適合了，所以當時的船上出現了精密的控製槳劃動的機器。
槳可謂是古人最高明的一項發明之一，是古人在長期的水上行舟的活動當中的必備工具。其出現之早、使用時間之長、發揮的作用之巨大，非其他船用動力工具可比。後期它衍生了很多配件，比如櫓、艄、舵槳、舵等。