在商末周武王伐紂時，已經使用船隻，運送軍隊和戰具，渡過黃河去作戰。到春秋時期，吳、楚、越三國爭霸於長江流域，經常用船隻運載軍隊進行水戰。據《左傳》記載，魯襄公二十四年（公元前549年），“楚子為舟師以伐吳”，這是關於水軍和專為水戰而建造船隻的最早文獻記載。魯昭公十七年（公元前525年），吳國出動舟師和楚國舟師戰於長岸（今安徽當塗西南），楚國“大敗吳師，獲其舟艅艎”（史書中出現的最早的戰船名，也作“餘皇”，是吳國國王乘坐的指揮船）。隨著水戰的發展，各種用途的戰船也不斷湧現。公元前六世紀末，伍子胥（？—前484）在吳國訓練水軍時，把大中小各型戰船按作戰用途分成大翼、小翼、突冒、樓船、橋船等，並以戰車作比喻，說大翼相當於重車，小翼相當於輕車，突冒相當於衝車，樓船相當於行樓車（指揮車），橋船相當於輕足驃騎，是一種小型快艇。（據《越絕書》）這些戰船在水戰中配合使用，發揮綜合的戰鬥作用。同時，越國和秦國也建造了各型戰船。從秦漢到明代，隨社會生產力的發展和戰爭規模的擴大，我國古代戰船也得到了長足的發展。首先是水軍戰船數量多，艦隊規模大。如漢元狩三年（公元前120年），漢武帝下令在長安城西南挖了四十裏方圓的“昆明池”，在池中建造樓船、戈船等幾百艘戰船，大船可容千人。東漢建武十八年（公元42年），漢光武帝派伏波將軍馬援（前14—後49）率部隊分乘兩千艘戰船，前往交阯，進行水上作戰。三國時期，東吳水師擁有戰船五千艘。隋文帝開皇八年（公元588年），在隋滅陳之戰中，隋將楊素（？—606）率水軍有幾千艘戰艦。
其次是大型主力戰艦屢有創新。漢代的樓船高達十多丈，船麵上建樓二層到四層，每層外麵都環有三尺高的女牆，掩護士兵作戰。大型樓船可載將士一千人，東吳的樓船可載將士三千人，宛如水上高城。據《晉書·王濬傳》記載，西晉建造的戰船“連舫”，“方百二十步，受二千餘人，以木為城，起樓櫓，開四出門，其上皆得馳馬來往。”隋代楊素建造的大型五牙、大榏等戰船，上建五層樓，高一百多尺，乘員八百多人，四周安有高十多尺的拍杆，用以擊打敵船。鄭和下“西洋”時主帥乘坐的寶船，長達四十四丈、寬達十八丈。主力戰船的不斷創新，使水師的戰鬥力不斷得到提高。
第三是戰船分類越來越科學。西漢時期已經根據不同作戰任務的需要，把戰船進行分類：大型樓船是水軍主帥乘坐的指揮船；運送士兵率先登陸搶戰灘頭陣地的船稱“先登”；船體狹長、專門用來衝擊敵方船隊的戰船稱“艨衝”；偵察敵情的船稱“斥候”；輕型快速的船稱“赤馬舟”；防禦設備比較好的船稱“艦”；小型戰船稱“艇”；比樓船稍小的船稱“鬥艦”；四周有女牆防護、槳手多、航速快的船稱“走舸”；裝有衝角、用以撞擊敵船的船稱“突冒”等。戰船進行科學分類後，既使戰船將士能明確自己的職責，又利於相互進行協同作戰。
第四是兵器裝備逐漸更新。早期戰船隻裝備刀、矛、弓、劍、戈。秦漢時期增加了弩。東晉（一說隋代）的戰船已經安有拍杆。宋代的戰船開始配備火球、火藥箭、火槍，水軍也進入冷兵器和火器並用的時期。元末明初的戰船上開始裝備金屬管形射擊火器——火銃。嘉靖年間，戚繼光所編水軍營的大型福船、中型海滄船、小型蒼山船，都增加了大發貢（一種大型火炮，“貢”也作“熕”）、佛郎機炮、鳥銃等火繩槍炮，加上火箭、火磚、噴筒等火器，戰船上使用火器的士兵已占編製總數的一半左右。同時，還創造了子母舟、連環舟、火龍船、赤龍舟等各種專門裝備火器用於火攻的小型戰船。此外，新創製的水雷和古代二級火箭——“火龍出水”已在水戰中使用。
明代創製的地雷和水雷，是我國和世界上最早的雷式火器。
明代軍事著作《武備誌》記載了當時製造的十多種地雷。它們的外殼用生鐵、石、陶等製成，埋在地下，通過絆、踏、拉等方式引起爆炸。其中，有一種叫作炸炮，殼體係生鐵鑄成，內裝炸藥，上麵有一小孔，以小竹管穿線於內，幾十個炸炮的引線都連在鋼輪發火裝置的火槽上。將炸炮挖坑埋好後，把鋼輪鐵軸上的繩卷引出，橫置於路上，遇有人馬絆踏，牽動鋼輪轉動，從而發火點燃火槽，使炸炮引爆。這幾十個炸炮實際上就是絆踏式地雷群。
明代的水雷類型也很多。其中有一種叫作水底龍王炮。其殼體係熟鐵製成，每個重四至六斤，內裝炸藥五升至一鬥。炮口安香頭引火，香頭視駛來的敵船距離遠近，可長可短。另用牛脬（膀胱）做成囊，點燃炮口的香頭，再把炮裝入囊中，在囊內插進一根羊腸後，將囊密封，載在木板上，用石墜入水中；同時將羊腸的另一頭引拉到水麵，置於鵝雁翎做成的浮排上，用以通氣。當駛來的敵船接近或觸撞到炮位時，香頭己燃及炮內的火藥，炮即在水底爆炸，毀傷敵船。