"別擔心,手術很成功。那位大人是外科手術的天才,使用的人造器官也是相當高科技的產物。那個小孩能活下去的。"瑟蘭迪爾回應道,然後這位俊美的金發青年冷眼看著洛裏安:"這一次又是【赤沙】。這是你過去犯下的罪孽哦,洛裏安。"
鹿人青年就像被針紮了一下似的,突然渾身打了個顫。
"……我最初從【赤罌果】中發現這種提神類藥物時,可沒想過會變成這樣子。"洛裏安歎了一口氣,仿佛在自辯,"我是關注到它的藥用價值,才把它的研究發表在《天然》科學雜誌上的。"
"是的。那個時候它是一種很不錯的藥物,對於治療神經衰弱很有用。"瑟蘭迪爾的表情變得越發嚴厲,"如果隻是從植物中提取的藥效成分,它用作藥材並無不妥。問題就是後來人類發明了人工合成其藥效成分的方法……而且製作出高純度的藥物。而高純度的【赤沙】……它是麻.藥。
不管如何否定,你是這種可怕的麻.藥的發明者。沒有你最初從【赤罌果】中提取藥物成分的研究,就不會有日後的的【赤沙】。
科學往往是一把雙刃劍。同一種藥物,它在低濃度的時候可以用來治病救人;但當它純度極高時,它就是害人不淺的毒藥麻.藥。
早知如此,還不如讓人類一直保持無知狀態。如果他們從一開始就不知道【赤罌果】這種植物的藥用價值就好了……"
洛裏安痛苦地搖了搖頭:"你來這裏就是為了責備我在百年前做的蠢事嗎,瑟蘭迪爾?"
"不。要說做了蠢事,我也同樣地有責任。畢竟是因為我的推薦,他們才把你的論文刊登在《天然》科學雜誌上的。這事我的責任也很大。
如果沒有我的推薦,哪怕你是大名鼎鼎的德魯伊,他們也絕對不會允許一個連大學都沒讀過的民間學者,在雜誌上發表論文吧。"
鹿人德魯伊於是露出更痛苦的表情,"連大學都沒讀過的民間學者"這句話深深地刺痛了他。
"……洛裏安,你如今有想過再次進大學讀書嗎?"高等精靈突然拋出一個問題。
"我嗎,"鹿人青年下意識地拉扯了一下自己的衣角,他那件曆久如新的黑色棒球服仿佛會回應他,"惹出這麼大的麻煩,我不認為這個世界上還有任何一所大學敢收我。而且這不是很好笑嗎?兩百多近三百歲的老德魯伊,突然說要讀大學什麼的……"
"年紀不是問題。你沒聽說過老巴林前年才完成了他另一個工程學博士的學位嗎?……那個老矮人今年都多少歲來著了?四百還是五百?"
洛裏安沒有回應,而是透過診所的窗子看著外麵的天空。
"你考慮一下吧。學校方麵應該不是問題。人類都是健忘的,他們不太可能記得百年前發生過的爭論。就算記得,你也不是這個問題的主要責任人。"
"我現在還有守護大樹海的職責……"鹿人德魯伊苦笑。
"那事也可以和蓋亞大人商量的。諾威的內亂對你造成很大的壓力,蓋亞大人已經再考慮換一名德魯伊來替代你的工作,讓你撤出這個國家去休養了。"
"是…這樣嗎……"於是洛裏安看起來更痛苦了。
幾個小時後。
戳,戳。
別整。刺撓。伊萊恩皺著眉頭。
戳,戳,戳。
"好煩啊……就不能讓我安靜地睡一會兒嗎——"白獅人少年為睜開眼睛,不滿地抱怨。
"嘻嘻嘻~"
他看到兩個小鬼跑掉了。
"啊,等等。"伊萊恩趕緊起床,"剛、剛才的是鐵諾?他才剛做完手術,怎麼可以讓他下床活動的?!"
"中午好。"一旁的軍團回應伊萊恩,"手術很成功。由於使用了治療魔術,手術創口愈合得很快。鐵諾的各項身體指標都處於正常水平,適當的運動是可以的。"
"那不是重點啊,你們怎麼一點常識都沒有啊,剛做完手術的小鬼理應躺在病床上休養的!"伊萊恩吐槽道,"快把他逮回來!讓他老實呆著!"
"否定。伊奧正在陪護他。沒有問題的。"軍團答道。
氣死人了。
不過伊萊恩能聽見屋外嘻嘻哈哈的小孩子們的聲音,他姑且露出了欣慰的笑容。
"疑問。閣下認為同樣的器官移植手術可以推廣下去嗎?"軍團突然又問。
"如果你打算把全人類變成賽博生化人,順帶讓他們成功絕育,我勸你還是省省吧。"伊萊恩半帶嘲諷地回道,"把這個寫入你的程序裏。隻有當人們處於生命垂危的狀態,才允許使用這種極端手段來拯救他們。"
軍團仿佛就是一直在等伊萊恩說這句話似的,它點了低頭:"遵命。已更新人工智能內核的基本邏輯。"
伊萊恩皺眉:"你連這種事情都沒有辦法自己決定嗎?你是人工智能還是人工智障啊?"
"否定。本係統無法和人類類比。人類擁有【良心】,以此為行動的根據。而本係統沒有。當一個決策關乎人命,而且無法以單純的加減法來衡量對錯的時候,本係統無法以任何物事為依據,判斷出該怎麼做。"
"比如……那個傳說中的電車兩難問題?"
"確定。電車難題正是人工智能無法解決的問題。一種需要靠感性判斷來處理的倫理問題。如果負責解決這個問題的是人類,他們可以憑借自身的良心來做出選擇,並且在日後為自己的選擇而負責。但本係統就做不到。冰冷的機械沒有人心,更沒有【良心】。"
軍團轉過來,煞有介事地問伊萊恩:"順便,請閣下也回答一下這個電車難題吧。
一個瘋子把五個無辜的人綁在電車軌道上。一輛失控的電車朝他們駛來,並且片刻後就要碾壓到他們。幸運的是,你可以拉一個拉杆,讓電車開到另一條軌道上。然而問題在於,那個瘋子在另一個電車軌道上也綁了一個人。考慮以上狀況,你是否應拉拉杆?"
"我——"
"如果把這個難題升級呢?"不等伊萊恩回答,軍團繼續道,"如果那個單獨被綁在鐵軌上的人是一名偉大的科學家,他的研究現在以及日後對世界會有巨大的貢獻,能拯救無數人的生命?
如果那五個被綁在同一個鐵軌上的人其實並不是那麼無辜,他們是罪犯,是殺人犯,他們死有餘辜?"
"我——!"
"如果再把這個難題升級呢?"不等伊萊恩回應,軍團又說,"如果那名偉大的科學家其實也是瘋狂科學家,他害死了無數人,用人體實驗的結果來為世界帶來變革?
如果那五名罪犯之中其實夾雜著一兩位無辜陷入冤獄之人,他們甚至是好人,隻是被壞人冤枉了呢?閣下又該如何選擇?"
"喂喂,夠了,讓我說話啊!"伊萊恩有點生氣了。
"抱歉。請回答。"
"我什麼都不做。"伊萊恩答道,"如果我擁有力量的話,我會用我的力量去攔截那輛電車,把所有人救下來。如果我沒有力量,我會誰都不救,轉身離開,讓電車駛向某一方。不管怎樣,我都不會、無權左右他人的生死,這種選擇對我來說太沉重了,它不是我應該背負的。"
"感興趣。這是相當有意思的觀點。"
"生命本身沒有輕重之分。沒有人能決定誰的性命更重要,誰的命不重要。並不是人數的多少就能決定生命的輕重,那種少數服從多數的邏輯在人命麵前根本不適用。也不能看人們曾經做過多少好事和壞事來判斷他們值不值得活著,因為沒有人知道未來會發生什麼。
我們畢竟隻是人,不是神。人其實並沒有資格去審判別人。"
"疑惑。但是閣下最近沒少殺壞人。那些行為不是【審判】嗎?"
"我殺那群壞蛋是因為他們罪有應得,是因為我想殺他們。我並不打算扮演神明的角色去審判他人。我隻是個複仇者。我殺死那些壞蛋隻是率性而為,我會背負這份罪孽,但是我沒打算審判他們。"
"疑惑。不得不說,閣下這說法有點……"軍團說了一半就沒說下去。
"偽善?"伊萊恩自己戳破。
魔像點了點頭。
"也許這真的是偽善吧。也許像洛裏安那樣堅持誰都不殺,才是人間正道吧。但我不會為自己的行為後悔哦。
有些壞蛋,你不殺他們的話,他們會害死更多的人——我真正關心的那些人。
一邊是十惡不赦的壞蛋,另一邊是我愛著的那些人們。把他們的生命放在天平上衡量,我每一次都會選擇後者。"
軍團沉默了一下。
"這是電車難題的變種。"它說,"鐵軌的另一邊摻雜了閣下的親友,而閣下想保護親友,便把電車導向了另一邊。這是摻雜了私心的選擇。"
"人總是帶有私心的。不存在大公無私,對任何人都一視同仁的人。你說的【良心】,不過也是一種變相的【私心】罷了。我說的不對嗎?"
軍團再沉默了一下。
"確定。閣下的話……非常有啟發性。已更新本係統的基本邏輯。"
伊萊恩若有所思地看著軍團。
"軍團,老實地告訴我。你打算像人那樣擁有心靈嗎?"
"否定。本係統隻是一個人工智能,無論怎麼調整邏輯變量,最後都無法擁有和人類完全一樣的邏輯思維。"
"……我知道你總有一天會擁有像人一樣的心靈。但如果你擁有了人心,說不定你會變得自私,你會變成與我們敵對的大壞蛋。你就好好地思考【良心】這個詞的真正意義,體會它所帶來的沉重吧。等你真正擁有了人心,而且沒有變成我們的敵人時,我會考慮和你成為朋友。"
"疑惑。【朋友】麼。和機械成為朋友什麼的……"
老魔像的眼中突然閃爍過一陣智慧的光輝。
"感興趣。這真的……非常有啟發性。"它說。它的語調多了輕微的起伏,變得耐人尋味。
離開了休息室,伊萊恩到外麵呼吸一點新鮮空氣,剛好看見紅狼少年正在跟那個小胖子玩。伊萊恩才想起其實伊奧也是十幾歲的樣子,和鐵諾的年紀相差不大。兩個年齡相近的孩子能在一起玩,也是理所當然了。
然後伊萊恩就看到鐵諾在空地上拿著根小木棍戳來戳去,仿佛在和伊奧練習劍術。他馬上就被嚇得冷汗直冒。
"悠、悠著點,悠著點!你、你剛動完手術就在那裏跑跑跳跳是、是要找死嗎?!要是跌倒了、讓手術的縫合處裂開了怎、怎麼辦啊?!"
"欸?這點小運動不算什麼啦!人家感覺全身充滿了力量啊!"
蠢蛋。伊萊恩拉長了臉:"伊、伊奧,你為什麼不阻止他,反而跟他一起胡鬧起來了?"
"欸?可是他就像追逐自己尾巴的小狗一樣,根本停不下來啊。我現在已經算是在阻止他了。"伊奧辯解道,"至少有在減少他的運動量,不是嗎。"
伊萊恩滿臉慍怒地看著正在狡辯的小狼。
"到、到底怎麼做才能讓你們老實下來呢?我、我請你們吃好吃的行不行?城裏應該還有一些能夠使用的甜品店。"
"可是店主應該都跑路了?有點錢的人基本都跑了?"伊奧反問道。
"那、那個不是問題。設、設備和食材都在,那麼重的東西他們帶不跑。隻要有設備有食材,軍團就能按照食譜把甜點做出來。"
"欸?到頭來是我們自己做吃的啊——"
"是、是軍團做,沒說讓你動手做。"
"如果不是有大廚動手給我們做甜點,那就沒意思了啦!"鐵諾吐槽道,"機器人做的食物沒有靈魂的!"
"沒、沒有靈魂什麼鬼,你吃個甜點還要把靈魂吃下去嗎?你、你是魔鬼撒旦嗎,那麼喜歡吃靈魂?"伊萊恩瘋狂吐槽,"別、別在這裏胡鬧了,我們出發吧。趕、趕快填飽你們的肚子,然後你給我找個地方好好躺著,老實點兒!麻.醉藥的藥效很快就會結束,屆時你會開始覺得疼痛的,不可能完全不疼的。"