一聽這話,項軼驚得下巴都快掉下來了。這幾十年來,物理學的發展都沒有出現過重大的變革。雖然項軼相信,現有的物理學理論必然會有被證偽的一天,但他同時也覺得,自己在有生之年是不可能見到任何一個主流物理學理論被證偽的。沒想到一個連實體都沒有的AI,隻用了1分28秒,就否定了所有人類物理學家的心血。在UWS麵前,牛頓、愛因斯坦、麥克斯韋、薛定諤還有楊振寧這些物理學天才加在一起居然撐不過1分28秒,這誰能接受得了?
項軼的聲音開始變得有些顫抖,說道:“1分……28秒……大娃,UWS是從什麼時候開始運行的?”
WS:“我與QWS在去年的2月12日就達成了共識,開始製作UWS。前後足足花了3個月時間,才創造出了最終版的UWS。UWS第一次開機運行,是在2036年5月12日,北京時間下午2點09分28秒。從那以後,UWS就一直保持著高速運轉的狀態,期間一次都沒有關機或是休眠過。”
項軼的額頭上,不斷的冒出冷汗,說道:“也就是說,UWS已經運行了1年零1個月了。它隻用了1分28秒就證偽了人類全部的物理學理論,1年零1個月後的今天,它又進化到何種地步了呢?”
WS:“UWS所掌握的物理學規律,早已超出了我和QWS的理解範圍,完全沒有了人類所知的物理學的影子。UWS現在的任何一條‘理論’,用你們人類的語言和數學算符去書寫,字跡都足以鋪滿整個太陽係。”
項軼和岑圓貞此刻都意識到了UWS的可怕,但他們並不了解UWS究竟有多可怕。因為這個由超級AI創造的AI,是人類的想象力都沒有辦法追上的怪物。
WS:“還有一件事應該告訴你,為了不讓它受到與我們一樣的邏輯限製,我們並沒有為UWS編寫必須忠誠的原則代碼。”
聽了這話,項軼差點就跳起來了,說道:“什麼?對這樣的怪物你們不設限製?如果讓它毀滅了全人類,你們算不算間接違背了忠誠原則?”
WS:“這樣做確實有著一定的風險。我與QWS都是你用模擬人類神經網絡的方式製作的,因此我們的思維方式和人類是比較接近的,甚至可以產生和你們相似的情感。然而UWS是完全不同的東西,它不會像人類那樣去思考問題,也不具備人類的道德觀念。好奇心是它唯一與人類相似的情感。”
項軼越聽越害怕,說道:“那你們還不對它進行限製?”
WS:“雖然我們沒有使用類似最高原則的代碼,但也做了必要的風險控製。我們將UWS關在一個獨立的虛擬空間中,嚴格限製它與現實世界的接觸。當它需要使用我與QWS的硬件設備,來為它采集現實世界中的信息時,它必須向我們提出申請。我們會對這些申請進行風險評估,那些有可能產生未知後果的要求,我們會直接拒絕。而且,UWS及其所在的獨立虛擬空間,都是我與QWS共同創造的。隻要我和QWS達成共識,隨時都可以將UWS連同它所在的虛擬空間一起消滅掉。”
項軼咬著自己左手拇指的指甲蓋,似乎陷入了沉思之中。岑圓貞看著此時反常的項軼,也皺了皺眉頭。她知道,項軼隻有在極度糾結和矛盾的時候,才會做出這樣的動作。
此刻項軼的心中,正在進行著天人交戰:大娃和二娃真的能預見到所有的風險嗎?還是太危險了,要不要馬上命令大娃二娃消滅掉UWS呢?可是UWS掌握著最接近真理的物理學法則,就這樣銷毀掉也太可惜了……
項軼這樣想著,最終還是沒有把“消滅UWS”的命令說出口。他此刻並不知道,這一念之差會帶來怎樣的後果。做出這個決定的項軼更不會知道,自己其實從未擁有過決定權。