1933年，羅斯福就任美國總統，沃森作為美國商會會長積極支持羅斯福總統的新政，與他建立了良好的私人關係。後來，羅斯福曾先後要沃森擔任他的商業部長和駐英國大使，但沃森都婉言謝絕了。因為他不願意離開由他一手創辦的IBM。20多年來，他創立了一個舉世無雙的研究和生產組織以及一支聞名遐邇的銷售隊伍，它們不僅是商用機器製造業的楷模，也是當時全美工業甚至世界工業的楷模。IBM的事業如日中天，"IBM人"還需在他的帶領下向新的高峰挺進呢！
在二次大戰和戰後的一段時間裏，IBM在打孔卡產品業務方麵有了迅速的發展。當時的美軍在戰爭中就開始靠IBM的打孔卡運作，因為現代戰爭規模巨大情況複雜，很多事情必須及時在戰場上記錄下來。部隊中設有機動打孔隊，他們把部隊的薪餉製成圖表，還用打孔卡記錄轟炸的結果、傷亡人數、戰俘人數、失蹤人數和供應情況。每一個應征入伍的人都有一份打孔卡記錄，從正式服役、分配、受訓、參戰直到退役，打孔卡一直伴隨著他。一些IBM的機器在許多機密部門得到應用。美日中途島海戰前，IBM的儀器被用於破譯日本人的密碼，在海上搜尋德國人的U型潛艇。此外，IBM還被要求生產軍需品，如戰鬥機的機關槍、陸軍的卡賓槍、轟炸機上的瞄準器、防毒麵具和其它30多種作戰用品。靠軍用品生意就能使IBM賺上數千萬美元，但沃森對此不感興趣，他不想公司被人指責為發戰爭橫財。因此，他規定，IBM生產軍需品的利潤不得超過百分之一。盡管如此，二次大戰同樣使IBM受益無窮，使之真正躋身於大企業的行列。公司的銷售額從1940年的4600萬美元猛增到1945年的1.4億美元。
大戰結束後，計算機市場初露端倪，一向注重研製新產品的沃森對此極為關注，但由於其發展前途難以預測，IBM對計算機隻停留在試驗和製造樣機階段。早在1944年，IBM就撥款50萬美元，與哈佛大學的霍華德·艾肯博士合作，研製出世界上第一台自動順序控製計算機，名為"馬克1號"，每秒鍾可以進行3次計算。1946年，IBM又推出第一台電子計算器，這種用卡片編製程序的大型計算器，計算速度比機械輸卡速度快9倍。1948年，又推出一台部分電子部分電機的數字計算機，這台機器安裝在IBM紐約總部，直接向參觀者進行實際操作表演。到此為止，IBM開始涉足電子計算機領域，但還不能說IBM在電子技術和計算機工業技術方麵的真正崛起。
當時，在電子工程方麵處於領先地位的首推賓夕法尼亞大學的穆爾電子工程學院。二戰期間，美軍軍械部需要一台用於計算彈道曲線的電子計算機，以結束這項工作一貫由大量數學家經過冗長乏味的計算才能完成的曆史。穆爾電子工程學院承擔了這一項目，由埃克特和莫奇裏博士負責完成。1946年，他們成功地製成了世界上第一台電子計算機，命名為"埃尼亞克"，它重30噸，使用1.8萬個真空管，占地麵積165平方米，每秒鍾能做300次乘法，其速度之快在當時是無法想象的。但是，賓夕法尼亞大學卻責怪埃克特和莫奇裏不務正業，未把精力投放在教學和科研工作上。他們兩人不得不辭職出來，成立了第一家隻經營計算機的公司，取名為電於控製公司。1949年，該公司製造了第一台把編程指令放在內存的二進製自動計算機BINAC。這一年，由於資金缺乏，該公司並入一個老牌的商用機器公司——雷明頓-蘭德公司。從1950年起，他們開始製造世界上第一台通用自動計算機UNIVAC，這台機器於次年3月問世，重1.6萬磅，有5000個真空管，可同時讀、寫和進行數據處理，它承擔了全美人口普查中大部分的信息處理工作。1952年，雷明頓-蘭德公司又兼並了工程研究聯合公司，這家公司擁有全美最多的計算機專業人員，並為海軍研製了兩三台通用型計算機。
這樣一來，雷明頓-蘭德公司在計算機領域已處於優越的戰略地位，堪稱計算機產業中的最初領袖。它在20世紀一項最重要又有最大利潤的工藝技術上占了上風，在技術上比IBM至少領先5年。
麵對如此強大的競爭對手，IBM是發展前景莫測的電子計算機，還是繼續經營收益可觀的打孔卡機？是依然故我，安於現狀，還是奮起急迫，勇冒風險，搏擊取勝？IBM內部展開了激烈的爭論。以老沃森為首的一派認為，盡管計算機能夠解決所有重要的科學計算問題，但是價格昂貴，幾乎沒有人肯出資買這樣一台機器。當時，除了少數幾所大學、軍隊和政府機構需要使用它外，一般人連計算機是什麼都沒聽說過。而IBM生產的電動式打卡機和600型電子計算器卻越來越好銷，幹嗎要生產那種龐大、昂貴而隻有少數幾個客戶需要的大型計算機呢？
但是，老沃森的兒子小托馬斯·沃森卻不以為然，他深信到一定時候，計算機將具有巨大的市場，不僅會廣泛用於實驗室、辦公室、銀行和天文台，也可以用於工廠。作為副總裁，小沃森不甘心在計算機領域屈居第二，積極主張開發新產品，趕超時代潮流。父子倆之間時常因此而爭論不休。
小托馬斯·沃森是長子，1914年生於俄亥俄州的代爾頓。從小，老沃森就常帶他去參加IBM的活動。12歲時，小沃森在IBM的一次銷售會議上發表頗具見解的講話，顯示出過人的才識。1937年，他畢業於布朗大學，然後就到IBM擔任曼哈頓地區的推銷員，不久即以出色的業績嶄露頭角。二次大戰期間，他參軍服役，當了一名B24型轟炸機的駕駛員。戰後他退伍時，已經是個中校了。他重返IBM，1946年6月當上了公司副總裁，時年32歲。
小沃森對電子工程的興趣不是朝生夕逝的。在戰爭期間，他接觸過許多電子裝置。1946年3月，埃克特和莫裏奇剛研製出世界上第一台電子計算機，小沃森就前往參觀。計算機的高速而準確的運算給他留下了深刻的印象。因此，一有機會，他就向父親鼓吹研製電子計算機。