要給計算機網絡下一個嚴格的定義是非常困難的，因為它的發展相當迅速，很難限定它的範圍。計算機網絡的發展基本上可以說是自由的，國外有關人士稱它是一個沒有國家、沒有法律、沒有警察、沒有領袖的空間，有人稱之為“賽柏空間（cyberspace）”，即受計算機控製的空間。
在本節中，我們將通過計算機網絡的演變與發展來了解什麼是計算機網絡。
一、計算機網絡的起源
計算機網絡出現的曆史雖然不長，但發展很快，它隨著計算機技術、通信技術和計算機網絡應用的發展，經曆了一個從簡單到複雜、從小到大的演變過程。計算機網絡的演變與發展可以歸納為四個階段：第一個階段是麵向終端的計算機網絡；第二個階段是計算機—計算機的簡單網絡；第三個階段是開放式標準化的、易於普及和應用的網絡；第四個階段是計算機網絡的高速化發展階段。
1946年，世界上第一台電子數字計算機ENIAC在美國誕生時，計算機和通信之間並沒有什麼關係，更談不上計算機網絡。早期的計算機係統是龐大而高度集中的，且價格極其昂貴，所有的設備安裝在單獨的大房間中。開始時，一台計算機隻能供一個用戶使用。後來，為了使計算機這個昂貴的資源得到更多的有效使用，產生了批處理和分時技術。一台計算機雖然可同時為多個用戶服務，但若不和數據通信相結合，分時係統所連接的多個終端都必須緊挨著中心計算機室，所有用戶必須到集中在一起的終端室去上機。20世紀50年代中期，美國半自動地麵環境（Semi-Automatic Ground Environment，SAGE），防空係統開始進行計算機技術和通信技術相結合的嚐試，將遠距離的雷達和其他測量控製設備的信息通過通信線路彙集到一台IBM計算機裏進行集中的處理和控製。接著，許多係統都將地理上分散的多個終端通過通信線路連接到一台中心計算機上，這些地理上分散的多個終端，稱之為遠程終端。這樣一來，用戶可以在自己辦公室內的遠程終端上鍵入程序，通過通信線路送入中心計算機，分時訪問和使用其資源來進行處理和運算，處理和運算的結果再通過通令線路送回到用戶的終端上顯示或打印出來。由此就出現了第一代計算機網絡，即麵向終端的計算機網絡。
第一代計算機網絡實際上是以單個計算機為中心的遠程聯機係統。這樣的係統中除了一台中心計算機外，其餘的終端都不具備自主處理的功能。在麵向終端的計算機網絡係統中，主要存在的是終端和中心計算機間的通信，不存在各計算機間的資源共享或信息交流。雖然曆史上也曾稱它為計算機網絡，但實際上，它隻不過是一個多用戶計算機係統。20世紀60年代初期，美國航空公司投入使用的飛機票預訂係統SABRE，是由一台中心計算機和全美範圍內2000多個終端組成的遠程聯機飛機票預訂係統，就是這種遠程聯機係統及其應用的一個代表。
在遠程聯機係統中，隨著所連遠程終端個數的增多，中心計算機要承擔的與各遠程終端間通信的任務也必然加重，這使得以處理數據為主要任務的中心計算機增加了許多額外的費用來支持遠程通信，使得中心計算機實際工作效率下降。由此出現了數據處理和通信的分工，即在中心計算機前麵增設一個前端處理機（Front End Processor）來完成通信的工作，而讓中心計算機專門進行數據計算和數據處理，這樣可顯著地提高整個計算機的工作效率。但若每台遠程終端都用了一條專用通信線路與中心計算機連接，則線路的利用率將很低，且隨著終端個數的不斷增多，線路費用將達到難以負擔的程度。因而，後來通常在終端比較集中的地點設置終端控製器（Terminal Controller，TC）。它首先通過低速線路將附近各終端連接起來，再通過高速通信線路與遠程中心計算機的前端機相連。這樣可以利用一些終端的空閑時間來傳送其他處於工作狀態的終端的數據，從而提高了遠程線路的利用率，降低了通信費用。前端機和終端控製器也可以采用比較便宜的小型計算機或微型計算機。這樣的遠程聯機係統已經具備了計算機和計算機間通信的雛形。
給出了典型的遠程聯機係統的結構。M代表調製解調器（Modem），是利用模擬通信線路遠程傳輸數字信號所必須附加的設備；T代表終端（Terminal）；TC代表終端控製器；FEP代表前端處理機。
二、計算機—計算機網絡
第二代計算機網絡是多台主計算機通過通信線路互聯起來並為用戶提供服務的，即計算機—計算機網絡，它是20世紀60年代後期開始興起的，它和以單台計算機為中心的遠程聯機係統的顯著區別在於：這裏的多台主計算機都具有自主處理能力，它們之間不存在主從關係。這樣的多台主計算機互聯的網絡才真正具備我們目前常稱的計算機網絡的特點和特征。
在這種計算機—計算機網絡的係統中，終端和中心計算機間的通信已發展到計算機和計算機間的通信，單台中心計算機為所有用戶需求服務的模式被大量分散而又互聯在一起的多台主計算機共同完成的模式所替代。第二代計算機網絡的典型代表是ARPA網（ARPANet）。
ARPA網是20世紀60年代後期美國國防部高級研究計劃局（Defense Advanced Research Projects Agency，目前稱為DARPA，以前稱為ARPA）提供經費給美國許多大學和公司，以促進多台主計算機互聯網絡的研究，並最終導致一個實驗性的四節點網絡。當初，ARPA網隻連接4台主機，從軍事要求上它是置於美國國防部高級機密保護之下，從技術上它還不具備向外推廣的條件。ARPA網後來擴展到連接數百萬台計算機，從歐洲到夏威夷，地理範圍跨越了半個地球。目前我們有關計算機網絡的許多知識都與ARPA網的研究結果有關。ARPA網中提出的一些概念和術語至今仍被引用。
與ARPA網互聯的運行用戶應用程序的主計算機稱為主機（Host）。但主機之間並不是通過直接的通信線路，而是通過稱為接口報文處理機（Inter-face Message Processor，IMP）的裝置轉接後互聯的。
當某台主機上的用戶要訪問網絡上異地另一台主機時，主機首先將信息送至本地直接與其相聯的IMP，通過通信線路沿著適當路徑的IMP，並送入與其直接相連的目標主機。例如，主機H2上的某個用戶要將信息送往主機H1，則首先將該信息送至IMP2，然後沿圖中粗黑線指出的路徑，中間經IMP5和IMP4轉接，最終傳送到目標IMP1，再送入主機H1.轉接是這樣進行的，IMP2將主機H2送來的信息接收並存儲起來，在IMP2和IMP5之間的通信線路空閑時，將其傳送至IMP5，IMP5也是將該信息接收並存儲起來，直至IMP4和IMP5之間的通信線路空閑時，再將它轉發到IMP4，……這種方式類似於郵政信件的傳送方式，稱為存儲轉發（store and forward）。就遠程通信而言，目前通信線路仍然是個較昂貴的資源。采用存儲轉發方式的優點在於通信線路不為某對通信節點所獨占，因而大大提高了通信線路的有效利用率。比如在上述例子中，當主機H2送往H1的信息仍在IMP2和IMP4間的通信線路上傳輸時，IMP3和IMP4間的通信線路就可被由H3經IMP3、IMP5和IMP4送往H5的另外的信息傳輸所使用。而一旦從主機H2送往H1的信息已為IMP5接收並存儲後，IMP2和IMP5之間的通信線路又可為其他的，比如說H4和H2之間的信息傳輸服務。