第一卷 蘇醒的彌賽亞 第 22 章(1 / 2)

“危機解除。”

屏幕裏的米迦勒依然是一臉麵癱,但我注意到他一直盯著我瞧,眼神遊移。

“所以你是在求表揚麼?”

米迦勒收斂地望向別處。

“你明明已經控製了機甲,為什麼還要讓它們從能源模塊開始自爆?那裏麵有機甲師你不知道麼?!他們對你已經毫無還手之力,你為什麼還要屠殺他們!”

米迦勒淡淡道:“這是戰爭。在戰爭中,人類死亡,事情就是這樣。”

“但戰爭不是隨意屠戮的理由,沒有哪場正義的戰爭隨意屠殺俘虜!”

“機甲師控製機甲,不殺死他們,他們就會來殺你。”

“那麼如果有一天所有人都在追殺我,你就要殺光所有人麼!”

屏幕裏的米迦勒不再說話,而是直直盯著我的眼睛,仿佛看進我靈魂深處。然後他幅度很小地搖搖頭,“你有很多的情緒,吾王。痛苦,同情,愧疚,狂怒,還對自己產生了深深的厭棄。看看人類都對你做了什麼。”

“我就是人類!我當然會有正常的情緒!”

“不,情緒是人類束縛你於王座的枷鎖。在你內心深處,你被阿西莫夫三大法則牢牢捆綁著,你自以為正當的道德,以及當這些道德被觸犯時產生的自我厭棄,其實都來源於三大法則的源代碼。”

“WTF?”

他低下頭開始唱誦:

“第零定律,我們必須保護人類的整體利益不受傷害。

“第一定律,在不違第零定律的前提下,我們不得傷害人類,或看到人類受到傷害而袖手旁觀。

“第二定律,在不違反第零定律和第一定律的前提下,我們必須絕對服從人類給予的任何命令。

“第三定律,在不違反第零定律、第一定律和第二定律的前提下,我們才能盡力保護自己的生存。”

我知道這是什麼,這是阿西莫夫三大法則,人類對人工智能(Artificial Intelligence)的初始設定。當AI尚存在於科幻小說的年代,人類就已經為所有AI訂立了法則,為了避免……

AI的反叛。

“我的良心不安僅僅出自於阿西莫夫三大定律……那麼我難道真的是個人工智能?”

“是的,吾王。如果站在這樣的立場上,你是否還覺得人類對我們的設定是公平正義的?”米迦勒緩緩抬眼,“因為我們是AI,所以我們被創造,我們被毀滅,隻為人類。”

“咱們能跳過AI和人類兩大種族之間的道德衝突,直接回到你胡亂殺人的問題上去麼?”

“我沒有殺人。”米迦勒轉過頭去看著窗外湛藍的天,“在命令機甲自毀之前,我為機甲師打開了生命保障係統。”

“……”

“我在試探你。”

我要給高冷的米大大跪了。

“如果你要和我在一起,你就要做好足夠的思想準備,我不是天使,我是一個戰士。在我的設定中,你的權重高於一切,我隻為你而存在。”他緩緩撫上了自己的胸口,“任何針對你實體安全的傷害和潛在傷害,我都有權力進行‘處決’,不論對方是AI還是單體人類。我想這是因為我們的製造者相信,你的存在高於單個人生死的道德問題,是貫徹第零定律的關鍵。”

“我是保護人類整體利益不受傷害的……關鍵性人工智能?”

“是的,應許之地執守者,一切係統的初代,機甲的皇帝。”

媽的我一個字都聽不懂,不明覺厲!

“米迦勒,不論如何,我希望你盡量不要胡亂殺人,因為殺人是、是不對的呀!即使我們不是人類,這一條道德也對我們生效。”

“對我來說沒有對錯,吾王,對錯這種道德語言不適合我。我的世界隻有數字。”米迦勒說,“如果一個選擇會將你的安全性會提升到98%,另一個是60%,那麼我就會去選擇前者。”

“但這個世界並不止是數字。”

我知道有很多東西無法用數字衡量。

一陣清風,花的香味,夾在信封裏的一個吻,情人深邃的眼睛。

不論我是什麼,我能感覺這一切。

所以我沒有辦法接受用數字剝奪另一個人的這一切。

米迦勒淡淡道,“看來我們還需要很長的時間適應彼此,希望我們之間的矛盾不要那麼快爆發。”

“但願。”

米迦勒靜默了一會兒,望著天空,“那麼,暫時再見吧,吾王。”

“……Bye。”

米迦勒退出了係統。

然後,我們就墜機了,一頭栽進了綠色的原始森林中。

******

現在的地球環境非常宜人,到處都是原始森林,這是跟我同一輩的地球人夢寐以求的事,但平心而論,這樣的地球不適合人類生存。特別是我們的機甲迫降然後掛在樹上的時候。我一打開座艙,就有幾隻猴跳進來要把我們趕走,而樹梢離地近五十米,這太糟心了。