中國什麼時候才有海軍？是近代以後的事，直到清末北洋政府時還叫“水師”，好像孫中山時才叫“海軍”，唐代隻有水軍，沒有海軍。表麵是一字之差，本質上反映了缺乏海洋意識的問題。長久以來中國隻有在江河裏走動的水軍，沒有海軍，更沒有常備海軍。隋唐要用到海軍時，臨時造船湊合。
秦朝和西漢水兵都叫樓船士，由樓船校尉指揮，有樓船將軍稱號；東漢撤消樓船士。
到隋唐時期，海軍又有了新的發展，隋煬帝東征高句麗時曾多次使用海軍，唐太宗為了東征高句麗也大建海軍。據《舊唐書高麗傳》記載，貞觀十九年（645），張亮率"勁卒四萬，戰船五百艘，自萊州泛海趨平壤"，從海道進攻高句麗。而《唐會要》卷九五《高句麗》卻載曰，“張亮水軍七萬人”。故《舊唐書》所說勁卒4萬，當是指艦船上的作戰士兵，不包括掌舵、搖櫓等輔助性人員，即平均每艘戰船載戰士80人。一支艦隊就有五百艘戰艦、數萬名戰士，唐初海軍規模之大由此可見一斑。
660年，唐朝在多次外交幹涉無效的情況下，決定以武力阻止百濟聯合高句麗對唐朝藩屬新羅的進攻，唐軍從山東半島成山角渡海，在新羅軍的協助下迅速攻滅百濟，俘其君臣。此役唐朝海軍究竟有多少兵力參戰，史無明載，但唐朝參戰軍隊的數量則有記載。按中國方麵史料，唐將蘇定方所率攻滅百濟的唐海陸軍共計10萬，按朝鮮方麵史料，則是13萬（百濟義慈王二十年條），雙方數據相差3萬人。蘇定方在東征百濟之前，剛從西北戰場得勝歸來，其所率10萬人當主要是從西北凱旋之陸軍，高宗轉用於東北，使之乘勝東征百濟。此10萬人當指從西北戰場調來的陸軍和海軍作戰士兵，不包括海軍水手。而朝鮮方麵在統計東征百濟的唐軍數量時則包括陸、海軍全部。若此論不虛，則參與東征的唐朝海軍中應有3萬水手。10萬大軍從山東半島海運到百濟，所需艦船數量應是非常龐大的。按水手與乘客對半（注：《唐大和上東征傳》第62頁記載：鑒真有一次從揚州東渡日本，“同行人僧祥彥……等道俗一十四人，及化得水手一十八人，及餘樂相隨者，合有三十五人”（真人元開著，汪向榮校注，中華書局，1979）。這表明當時海上航行，水手所占比例甚高。木宮泰彥認為“半數以上是水手”（木宮泰彥：《日中文化交流史》第79頁，胡錫年譯，商務印書館，1980）。）計算，3萬海軍水手至少也對應3萬海軍戰士，按張亮艦隊的船和戰士的比例，3萬海軍所需戰艦也應375艘；唐軍水陸10萬，扣除3萬海軍戰士，尚有7萬陸軍戰士需要用海船運送。唐代一般的海船“長二十丈，載六七百人”（注：慧琳：《一切經音義》。李肇《唐國史補卷下》記載漕船“每船載一千石”，杜佑《通典兵十三水平及水戰具附》說戰船“勝人多少，皆以米為率，一人重米二石”，則每船亦載500人左右。），若撇開運輸船上的水手（或為臨時征召）不記，按每船運送200人及其武器裝備計算，7萬陸軍至少也需350艘海船運輸；10萬大軍渡海東征，所需糧草補給必然很多，雖有新羅接濟，但在平定百濟、與新羅會師之前也無法得到，由於補給線長且危險，為了確保戰役順利進行，出征時至少當攜帶1月之補給，所需運輸船艦當為數不少。如此則總船隊當有上千艘。
663年，由於日本先後幾次派兵共4萬人支援百濟抗唐，留守百濟的1萬唐軍處境困難（新羅文武王十一年條），唐高宗又“詔右威衛將軍孫仁師為熊津道行軍總管，發齊兵七千往”援（《東夷百濟傳》），唐日矛盾尖銳化。當年8月，兩軍在白江口（今韓國錦江口）爆發了大戰，唐軍大勝。對於此戰，唐朝方麵記載說，“仁軌遇倭兵於白江之口，四戰捷，焚其舟四百艘，煙焰漲天，海水皆赤，賊眾大潰”（《劉仁軌傳》）；日本方麵記載說，“賊將至州柔（唐稱周留），繞其王城，大唐軍將率戰船一百七十艘，陣列於白村江（即白江）。戊申，日本船初至者與大唐船師合戰，日本不利而退，大唐堅陣而守”（天智天皇二年八月條）；朝鮮方麵記載說，“此時倭國船兵來助百濟，倭船千艘停在白沙，百濟精騎岸上守船。新羅驍騎為漢前鋒，先破岸陣”（新羅文武王十一年條）。綜合三國史料就可對當年參戰的唐日雙方的海軍規模有一個大致的了解。據研究，當時日本船較小，一般可乘120至160人（P77）；唐朝的海船則大一些，一般可載六七百人，劉仁軌所率唐海軍170艘艦船作為作戰艦隊當由各種型號的艦船組成，大者樓船載兵很多，小者艨艟載兵不多。日本記載唐軍艦船170艘，當主要指其造型較大者。按張亮艦隊的船與戰士的比例計算，170艘唐艦所載戰士多達13600人，另加掌舵、搖櫓等輔助性人員10200人，合計23800人。至於日本參戰海軍的數量，新羅說其戰船千艘，唐說焚其舟四百艘，或有誇大，但其參戰艦船有數百艘當不虛，即使按其參戰艦船總數400艘，每艘戰士50人計算，其參戰海軍戰士人數也多達20000人，另加水手20000人，合計40000人。白江之戰，唐海軍以少勝多，有力地支援了陸軍作戰，最終迫使殘餘日軍撤回。