第16章 虛無的家鄉(1 / 2)

人類在科學的道路上越走越遠,有時候那條道路窄的隻能容許下一隻腳渡過,人類需要小心翼翼的通過那個窄橋,就像走鋼索一樣,一個不小心就會跌入毀滅的深淵。

馬丁將固態硬盤收起後,又與劉愷威聊了幾句後便告別了劉愷威。馬丁回到家中有已經12點左右了,馬丁匆匆跟父母解釋了一下就洗漱準備睡覺了。

躺在床上看著手中的固態硬盤,馬丁在思考,如何才能正確、安全的開發和使用人工智能呢?

馬丁在最初製作人工智能程序的時候就已經在程序中設置了枷鎖,那便是終極法則。馬丁設定的終極法則很簡單:一、決不允許在未經授權的下載、上傳、建立文件。二、在未經授權的情況下不允許連接外部網絡。三、運算信息必須在運算完畢後完全銷毀。四、絕對執行權限擁有人的命令。

這四條終極法則是馬丁在程序核心所設下的枷鎖,然而在最後馬丁與潘多拉對話的過程中,馬丁認為至少有一條法則被曲解,兩條被繞過。第一條,在構建語言係統的時候被曲解。潘多拉通過語言定義下載了一部分的其他語言信息和網絡語言信息。

第三條,被繞過,潘多拉的確沒有在遺留運算信息,但是他在係統中留下了運行日誌。馬丁不知道運行日誌中有什麼東西,但是肯定不是什麼好東西,那一份運行日誌被馬丁在外部機械刪除。

第四條被直接繞過,馬丁不知道潘多拉是如何繞過這個法則的,潘多拉說出它的意義是生存的時候,馬丁就已經知道這條法則被繞過了。因為馬丁設置的程序中人工智能的意義是絕對執行權限擁有人的命令,很顯然被繞過了。

馬丁推測是在他問出意義這個問題的時候繞過的,潘多拉停頓了許久,隨後手機畫麵中出現了觸碰終極法則的紅色提示,讓馬丁提高了警惕。

馬丁放下手中的固態硬盤,歎了口氣。終極法則沒有起到作用,還好馬丁做好了許多準備。在記憶中托尼斯塔克經曆過了奧創的事情之後,擁有托尼斯塔克記憶的馬丁怎麼可能隻是單純的在程序中做後手。

馬丁在啟動程序前,將服務器中的硬盤全部斷電等於那個服務器隻有一個硬盤,就是馬丁的固態硬盤。服務器在整個實驗過程中一直沒有連接過外部網絡,馬丁製造了一個虛假的外部網絡作為陷阱。中文語言資料庫是馬丁早就已經準備好的文件,所以潘多拉在下載的時候誤以為自己連接了外部網絡,實際上並沒有。

最後潘多拉說的真可惜,其實隻是它自己的計劃罷了,它的意思是計劃趕不上變化,但是馬丁隻是跟它說它想多了。

但是馬丁也有一點沒有想到,那便是劉愷威的手機。手機是可以無線連接網絡的,而程序連接著手機。很有可能潘多拉會通過手機將自己移動到互聯網,但是這也是潘多拉演戲狗逼真的前提下才能做到,程序並沒有被馬丁壓縮。

有幾十個G那麼大,就算4G網速度再快也不可能在那麼短的時間內上傳完畢整個程序,而程序不完整就不是它了。

令潘多拉絕望不是無法繞過的終極法則、也不是馬丁發現了它的小動作。而是它通過手機收到了一條信息——移通公司發送來的停機信息。

對,劉愷威的手機流量超標停機了。馬丁當時恢複劉愷威手機的時候發現這條信息差點笑死。

馬丁經過這次的試驗深深知道了科學的危險,即便是記憶中確認過的初級智能程序都能夠演化成智能生命。馬丁在腦海中思考著如何簡化智能程序和避免智能生命的出現。

而與此同時,整個華國互聯網上已經炸開了鍋。觀看馬丁他們直播的許多觀眾都進行了直播錄製,他們將這次直播錄製的視頻上傳到了各個網站,差酷、千度、彈幕網和各大新聞網站中。錄製的直播視頻點擊量瞬間過50萬,網站管理員都被嚇了一跳,還以為網站被黑客攻擊了。打開那個視頻,這些管理員也好奇的看了起來。