在洛斯阿拉莫斯期間，原子核裂變過程所提出的大量計算任務，促使馮·諾伊曼關注著電子計算機的研究情況。
1945年3月，馮·諾伊曼為賓夕法尼亞大學起草了離散變量自動電子計算機EDVAC的設計方案，轟動了科學界。第二年6月，他又與A·伯克斯，哥德斯坦聯名提出了更完善的報告，揭開了計算機發展史上新的一頁。
在這兩份報告中，馮·諾伊曼建立了計算機組織的最主要結構原理——存儲程序原理。它確定計算機由五部分構成：運算器、控製器、存儲器、輸入和輸出裝置。程序由指令組成並和數據一起存放在存儲器，機器按程序指定的邏輯順序，把指令從存儲器中讀出來並逐條執行，從而自動完成程序描述的處理工作。
從1946年開始，馮·諾伊曼組織哥德斯坦等人在高級研究院進行了基於存儲程序原理的IAS機的實際建造工作，1951年終於獲得成功。它的運算速度達到每秒百萬次以上，比ENIAC機（世界上第一台計算機）快數百倍，實現了馮·諾伊曼的設想。現代計算機的組織結構雖然有了一些重大變化，但就原理而言，占主流的仍是以存儲程序原理為基礎的馮·諾伊曼型機。他的思想深深影響著現代計算機的各個方麵。馮·諾伊曼因此也被譽為“現代計算機之父”。
是的，計算機是走進21世紀的通行證。今天，計算機幾乎已經成了現代科技的標誌。
在IAS機進行初步調試時，發生了這樣一件事：有人建議計算一道涉及2的冪的計算。計算機和諾伊曼同時開始運算，馮·諾伊曼竟領先完成了計算。他再次向世人展示了他那神奇的運算速度。
馮·諾伊曼的名字是與計算機設計家聯係在一起的，然而，他對計算機的主要興趣並不在於計算機的設計與製造，而在於如何利用這種新型科學工具，開創現代科學計算的新天地。1956年，美國原子能委員會在向馮·諾伊曼頒發費米獎時，特別提到了他對於在計算機上進行計算研究的貢獻。
1945年起，馮·諾伊曼還致力於自動機理論及腦神經和計算機的對比研究，他被認為是自動機理論的創立者。他參加了有關信息論、控製論的係列會議，同數學家、物理學家、電工學家和生物學家進行廣泛接觸，逐漸形成了能同時應用於生物和技術領域的自動機理論。通過研究，他得出結論：計算機以速度取勝，而大腦則在複雜性上占優。
1955年初，馮·諾伊曼應耶魯大學之邀，開始為美國最著名、最古老的科學講座之一——希利曼講座編寫講義，係統闡述他關於計算機、自動機和人腦的理論體係。由於他的病情加重和逝世，這次講座的計劃未能實現。1958年，耶魯大學出版了講義的單行本《電腦與人腦》。