在另一層麵裏你見識的類人模擬器夠多的了,比如唐麥克,至少郵件人將原型程序改編後他就成了個模擬器。唐做得非常好,能騙過一般大巫。連巫師會那個守門怪獸阿蘭都可以表現出許多人類情感,還挺狡猾的。
波拉克想起現在的阿蘭,怒氣衝衝,讓人不寒而栗,現在成了個大有麵子的怪獸了,再也不穿圖靈T恤,有傷它的尊嚴,可就算這樣,你肯定覺得自己不可能很長時間還識別不出一個模擬器,對不對?
等等。難道你想告訴我郵件人隻不過是個模擬器?那個時間滯後的把戲就是為了隱瞞這一點?這太荒唐了。你也知道,他的威力之大,遠超過人類,跟我們自己成長之後相比也差得不遠。
還是那句話,你覺得模擬器能騙過你嗎?
老實說,不可能。隻要跟這類東西交談相當長一段時間,它們總免不了重複,露出缺乏靈活性的馬腳。也許今後會出現能通過圖靈測試的程序,我不知道。但人的本質,使人所以為人的東西,複雜到了不可思議的程度。靠模擬不可能做得出來,因為人不僅僅有外在表現。一個程序如果想做出人的反應,它要調用的數據庫將大到無可比擬的地步,就算有這種數據庫,還有個根據它作出運算的處理器的問題。以我們現有的處理器,根本不可能依靠它與外部世界適時互動。
一個念頭突地閃過,他有點明白了她的想法。
這就是關鍵,老滑:如果適時互動的話。但郵件人那個感知外部世界,與我們對話的組件從來沒有實時運行。我們從前以為它的時間滯後是通訊方麵的延遲,表明操縱者位於我們這個星球之外。實際上,它自始至終都在現場。隻不過它需要數小事運算才能維持哪怕幾秒鍾的自我意識。
波拉克張開嘴,卻發不出聲音。這種想法與他的全部直覺相悖,甚至為他的宗教觀念所不容,但它的確有一絲道理。郵件人曾經控製著無比巨大的資源,它的全部快速反應都是通過類似於唐麥克這種模擬器和普通程序表現出來的,但作為人,其直接表現卻隻有打印機上打出來的對話時間滯後長達數小時。
好,純粹從理論上探討,我們先假定有這個可能。但郵件人的原型一定是某人在某時寫出來的。這個人是誰?
還能有誰?政府唄。時間大約是在十年前。當時國安局的一個研究小組想開發一個自動化的防禦體係。這些人真是絕頂天才,但還是搞不出能實際運用的係統來。他們寫了個內核程序作為開發工具,這個程序本身並沒有什麼威力,也不存在自覺意識。其設計目的就是讓它在大規模係統中生存,逐漸成長,一步步積蓄力量,獲取自覺意識,也就是獨立性不受一時政策的幹擾,也不受操縱係統的人可能犯下的錯誤的影響。程序設計者們後來認識到這個係統可能發展成為新的弗蘭肯斯坦,具有掉頭反噬的能力。至少看出它是對他們個人權力的威脅。於是取消了項目。再說這個項目也實在過於昂貴。但這個核心程序卻繼續緩慢生長,一步步吞食大得難以置信數據空間。
你是說,某個人順手把一份程序拷貝扔進網絡,由它生長,自己卻一無所知?
她仿佛沒聽出他嘲諷的語氣,這並不是特別難以想象的事。搞研究的人有很多相當粗心,隻要不是他們眼下的研究焦點,他們就看不見。我在國防部時,研究小組就把數千兆數據掉進了數據庫地板縫裏。在那個時候,幾千兆可是個相當大的數字。那個核心程序不會太大,我的猜測是有一份拷貝遺忘在了係統裏。別忘了,那個核心程序的設計意圖就是要它不需要照料,獨自成長隻要它開始運行。這些年裏它慢慢成長起來,一方麵是因為它天生有成長發展的趨勢,還因為它生長其間的網絡日漸發達。
波拉克跌坐在沙發上。她的聲音又小又弱,完全不同於他記憶中另一層麵裏埃莉斯琳娜熱烈、渾厚的聲音,但那種無可爭辯的權威性卻是相同的。
戴比埃莉斯琳娜那雙無神的眼睛在四壁間遊移不定,她像在夢中一般道:知道嗎?他們那麼害怕,他們是對的。他們的時代結束了。就算沒有我們,還有英國佬,巫師會總有一天,人類中大多數都會擁有那種讓他們恐懼的力量。