隨著頜的出現和偶鰭的發生和發展，無頜類進化到了魚類。我們前麵舉出的無頜類，現代的代表是圓口類，古代的代表是甲胄魚類。但是應該說明，發展成為魚類的無頜類，既不是圓口類，也不是甲胄魚類，它們都隻是無頜類中的一些旁枝。因為，圓口類隻是缺甲魚類中的一些殘餘種類，它們沒有資格作為魚類的直接祖先；而甲胄魚類的身體已經特化，走上滅絕的道路，無論是它的帶堅硬骨板的類型，還是退化到缺甲的類型，都不可能再發展到有頜的魚類。由此看來，魚類的直接祖先，應該是在特化成為甲胄魚類之前的原始的無頜類。
我們知道，甲胄魚類是在誌留紀到泥盆紀突然大量出現的，而且形態上已經多樣化。按照一般的生物進化規律，一種類型的生物總是從少到多、從簡單到複雜。可以想象，早在誌留紀或奧陶紀之前，一定有過一段時期，無頜類還處在一般化的沒有很大分化的發展階段。魚類應該是從這些早期的原始無頜類中的某些種類發展而來的。
現在的科學家都認為，在誌留紀或者更早一些在奧陶紀的水域裏，曾經有許多原始魚類都在作著進化的嚐試，但是它們之中的大部分都是這種嚐試的失敗者，它們在探索生命進化的道路上鑽進了死胡同，成為曇花一現的過客。隻有少數類型探索到成功的道路，終於成為現代魚類的祖先，而在水域裏稱霸。
棘魚
在誌留係上部地層裏曾經發現許多鱗和棘刺。結合以後特別是泥盆係地層裏發現的一些比較完整的化石，認為這些鱗和棘刺是屬於一類原始的魚類，叫棘魚類。棘魚類從誌留紀晚期出現，到泥盆紀早期發展到它們進化的頂峰，以後逐漸衰落，一直到二疊紀滅絕。它是在淡水裏生活的，在它們生存的時代裏，分布在各大陸區的河流、湖泊和沼澤裏。
棘魚的體形像紡錘，已經很像現代的魚類。它們的身體後部向上微微翹起，後麵長了一個上葉大、下葉小的歪尾。背部有兩個大的三角形背鰭，由皮質的蹼組成，前緣有一根強壯的棘刺支持。在身體下側和後麵一個背鰭相對稱的地方有一個臀鰭，也長有棘刺。除胸鰭和腹鰭外，中間還有幾對比較小的副鰭，這些鰭也都有棘刺。鰭的皮質構造和這些副鰭的存在正表示棘魚的原始性，這些副鰭可能是它們的祖先的連續的鰭褶的殘餘，棘魚的鰭基部還比較寬。
棘魚往往有皮質的甲胄或者菱形的鱗片覆蓋全身，頭上規則地排列著小骨板。靠前麵有一對大眼睛，每隻眼睛周圍有一圈骨板保護。這說明它們的視覺很好，和無頜類主要靠嗅覺活動的不一樣。
從棘魚身上，我們可以看到最原始的頜。它的頜後第一對鰓弓就是舌弓，上部剛剛開始增大向舌頜骨的方向發展。舌頜骨在高等動物裏起著聯接腦顱和頷的作用，已經完全失去呼吸機能，但是在棘魚裏舌弓和頷之間還留有鰓孔，表示舌弓還在起呼吸作用，隻是舌弓上端多少已經具有關節作用了。棘魚的鰓孔已經不像無頜類那樣露在外麵，兩側各有五個鰓小蓋覆蓋在五個鰓弓上，在這些鰓小蓋之上是一塊大而堅硬的骨質捧和皮褶組成的鰓蓋。它和現代某些魚類的鰓蓋一樣也是從舌弓後緣向後伸出的，所以可能是同樣起源的。
盾皮魚
在誌留係上部特別是泥盆係地層裏，還有一大類原始魚類化石。這種原始魚類，總稱盾皮魚類。
盾皮魚類有原始的上下頜，有偶鰭。它們身體前部都裹有盾甲般的骨板，所以叫盾皮魚。不過它和甲胄魚類的一整塊骨板不同，已經分裂成好幾塊，頭部的骨板一頭甲和胸部的骨板一胸甲之間由頭甲兩側的關節窩和胸甲兩側的關節突鉸合在一起，這樣頭部就能上下活動。
盾皮魚大多數生活在淡水裏，也有一些種類是海生的。它們也出現在誌留紀晚期，在泥盆紀有一個時期在它所生存的水域裏稱霸。但是它們的好景不長，接近泥盆紀末期，大多數趨於滅絕，到接近古生代末期，幾乎全部滅絕。
盾皮魚在泥盆紀早期就已經分化，沿著各式各樣的路線發展。現在一般分成節頸魚類、胴甲魚類、褶齒魚類、葉鱗魚類、扁平魚類、硬鮫類、古椎魚類。除前麵兩類外，其餘幾類都是一些小類群。
原始魚類中的棘魚類和盾皮魚類都出現在誌留紀晚期，到泥盆紀達到高峰。它們和無頜類的甲胄魚平行發展。
軟骨魚類和硬骨魚類
從地質情況看，誌留紀後期到泥盆紀，地殼構造變動比較大，形成普遍海退，陸地範圍擴大，地形起伏複雜，湖泊、河流和海灣有了廣泛的分布。水域的多樣化促進了早期水生脊椎動物的發展和分化，也使它們相互之間以及和水生無脊椎動物的生存競爭越來越激烈。因此促使某些水生脊椎動物向著防禦手段方向發展，甲胄魚類的甲胄，盾皮魚類的盾甲，棘魚類的棘刺，都是防禦的重要手段。
但是甲胄和盾甲又成了進一步發展的累贅，成了阻礙進化的絆腳石。其中無頜類的甲胄魚類由於沒有頜以及偶鰭的更加原始，在競爭中處於最不利的地位，所以滅絕最早。但是盾皮魚和棘魚也高明不了多少，到頭來最終還是失敗了。
在這一場生存競爭中，另外有兩類原始魚類卻取得了成功，這就是軟骨魚類和硬骨魚類。
據研究，盾皮魚的腦顱、神經器官和胸鰭等的內部構造和軟骨魚相似，看來盾皮魚和軟骨魚有親緣關係。棘魚的形體構造包括吻部、眼睛、鼻孔等卻和硬骨魚相似，表明棘魚和硬骨魚有親緣關係。但是這並不是說，軟骨魚是從盾皮魚演變來的，硬骨魚是從棘魚演變來的。因為盾皮魚和棘魚的形體構造都已經特化，在進化路線上已經走上了歧途，等待它們的命運是滅絕。更有可能的是，由同一種早期無頜類發展成為軟骨魚一枝和特化了的盾皮魚一枝，又由另一種早期無頜類發展成為硬骨魚一枝和特化了的棘魚一枝。那特化了的兩枝都被證明是嚐試的失敗者，而另外兩枝作為嚐試的成功者，成為今天水域裏的統治者。