IMP和它們之間互連的通信線路一起負責完成主機之間的數據通信任務，構成了通信子網（munication subnet）。與通信子網互聯的主機負責運行用戶應用程序，向網絡用戶提供可供共享的軟硬件資源，它們組成了資源子網。這是一種兩級子網的結構。ARPA網中存儲轉發的信息基本單位叫做分組（packet）。以存儲轉發方式傳輸分組的通信子網則又被稱為分組交換網（packet switching network）。IMP是ARPA網中使用的術語，在其他網絡或文獻中稱為分組交換節點（packet switch node）。IMP或分組交換節點通常是由小型計算機或微型計算機組成的，為了和資源子網中的主機相區別，被稱為節點機，或簡稱節點。
兩台計算機通信時對傳送信息內容的理解、信息表示形式以及各種情況下的應答信號都必須遵循一個共同的約定，此約定稱為協議（protocol）。在ARPA網中將協議按功能分成了若幹層次。如何分層以及各層中具體采用的協議的總和，稱為網絡的體係結構（architecture）。體係結構是個抽象的概念，其具體實現是通過特定的硬件和軟件來完成的。
比較可見，作為第一代計算機網絡的遠程聯機係統和第二代計算機網絡的區別之一是：前者以被各終端共享的單台計算機為中心；而後者以通信子網為中心，用戶共享的資源子網則在通信子網的外圍。
以ARPA網以及英國國家物理實驗室NPL的分組交換網為先驅，在20世紀70年代第二代計算機網絡得到了迅猛的發展。其中有些是試驗性的網絡，如IBM沃森研究中心、卡內基—梅隆大學和普林斯頓大學合作開發的TSS網以及加利福尼亞大學歐文分校研製的DCS網等；有些是個別用戶為特定目的（如資源共享）而自行研製和使用的網絡，如加利福尼亞大學勞倫斯原子能研究所建立的DCTOPUS網以及法國信息與自動化研究所負責發展的CYCLADES網等；有些是由用戶聯營為一定範圍內應用而建立的網絡，如國際氣象監測網（World Weather Watch Network，WWWN）等；有些是公用分組交換數據網，如美國的TELNET、加拿大的DATAPAC和歐共體的EURONET等；有些是商用的提供增值通信服務的網絡，如美國Tymshare公司的TYMNET和通用電氣公司的GE信息服務網等。在這段時期內，各大計算機公司都陸續推出自己的網絡體係結構，以及實現這些網絡體係結構的軟硬件產品，IBM公司的SNA（System Network Architecture）和原DEC公司的DNA（Digital Network Architecture）就是兩個最著名的例子。凡是按SNA組建的網絡都可稱為SNA網，而凡是按DNA組建的網絡可稱為DNA網或DECNET。
但第二代計算機網絡仍有不少弊病，適應不了信息社會日益發展的需要。其中最主要的缺點是，第二代計算機網絡大都由研究單位、大學、應用部門或計算機公司各自研製，它們各自為政，因而沒有統一的網絡體係結構。若要實現更大範圍內的信息交換與共享，把不同的第二代計算機網絡互連起來是十分困難甚至是不可行的。比如說，隻要增購一些網絡產品把一台IBM公司的計算機接入一個SNA網是不困難的，但要把一台HP公司生產的計算機接入SNA網就不是一件容易的事情。同樣，要把一台IBM公司生產的計算機接入DECNET也不容易，要把多種不同的計算機和網絡互聯在一起就更困難了。因而，計算機網絡必然要向更新的一代發展。
三、開放式標準化的網絡
第三代計算機網絡是開放式標準化的網絡，它具有統一的網絡體係結構，遵循國際標準化的協議。標準化將使得不同的計算機能方便地互聯在一起。標準化還將帶來大規模生產、產品集成化和成本降低等一係列的好處。
20世紀70年代後期，人們開始認識到第二代計算機網絡的問題。國際標準化組織（International Standards Organization，ISO）下屬的計算機與信息處理標準化技術委員會（Technical Committee，TC）成立了一個專門研究此問題的分委員會（Sub-Committee）。經過若幹年卓有成效的工作，ISO製定並在1984年正式頒布了一個稱為開放係統互聯基本參考模型（Open System Interconnection Basic Reference Model，簡稱OSIBRM）的國際標準ISO7498.這裏“開放係統”是相對於第二代計算機網絡中如SNA和DNA等隻能和同種計算機互聯的每個廠商各自封閉的係統而言的，它是可以和任何其他係統（當然要遵循同樣的國際標準）相互通信和開放的係統。該模型分為七個層次，有時也被稱為OSI七層模型。OSI模型目前已被國際社會所普遍接受，並被認為是計算機網絡體係結構的基礎。
20世紀80年代中期，以OSI模型為參照，ISO以及當時的國際電話電報谘詢委員會CCITT等為各層次開發了一係列的協議標準，組成了一個龐大的OSI基本標準集。CCITT是聯合國國際電信聯盟（International Teleeommunication Union，ITU）下屬的一個組織，目前已被撤銷，改組更名為ITU-T。mh。CCITT製定的標準都稱為建議（remendation），雖然現在已沒有CCITT了，但有些資料習慣上在許多時候仍將其稱為CCITT建議。在本書後麵，凡是原CCITT時期製定並發布的建議，我們稱為原CCITT建議。最著名的原CCITT建議是在公用數據網中廣泛采用的X。25、X。3、X。28、X。29和X。75等五個建議。