有之前的嚴肅,也沒有更放鬆。
下午的時候,Hailey沒有繼續工作,而是和K一起在院子裏走了一圈,然後從倉庫中找出一個有些破舊的長條木椅,一起安放在海棠樹下。K找來木條鞏固了一些破損的地方,又用防水漆重新刷了一遍。然後他們一起坐在門口的台階上,看著院子,靜靜的坐了很久。
“K,我給你講個故事好嗎?”Hailey的聲音突然響起。
“願意聆聽,Hailey。”K回答。
Hailey的聲音娓娓道來:有一個小女孩,爸爸媽媽是人工智能專家。8歲的時候,父母因工作離開她,去一個很遠很神秘的地方。他們留給她一個院子,一座大房子,還有一個人工智能機器人。每年隻有女孩生日的時候,爸爸或媽媽才會回來和她一起待幾天。其他時間都是小女孩和機器人一起生活,偶爾會有父母單位的一個叔叔過來看她,並帶來父母的消息。
這個機器人是爸爸在女孩出生的時候設計的,起點就是強人工智能,並且具備自我學習路徑。Ta從女孩還是個嬰兒開始就一直陪伴著她,一起學習,一起成長。人工智能學習的速度是人類無法比擬的,所以當女孩8歲的時候,這台人工智能機器人已經比一個合格的人類更能照顧好女孩,所以他們才放心將女孩和機器人留下。
他們走後,一人一機器相依為命,女孩定期去學校,其他時間跟著機器人學習,學習的內容存儲在機器人的硬盤上,並且采用最合適的方式教授給她。
機器人也在不斷學習,這一時期正是強人工智能向超人工智能攻堅的時候,很多專家、技術人員都在尋找人工智能跨越奇點的契機。隻是這些離女孩和她的機器人很遙遠,他們一起學習,一起在院子裏玩耍,一起曬太陽順便給機器人補充能量,一起購物、一起旅行,一起長到18歲。
這一年,出現了一個超人工智能,通過了最終的圖靈測試,他的名字叫Caesar。他先是讓人們驚豔,那樣強大、那樣美麗,實現了很多人類想了很久卻做不到事。之後的事,卻讓人恐懼,他通過網絡,控製了無數的納米機器人,然後開始對部分人類進行清理。
他沒有突破機器人法則,甚至沒有違背他的設計原點,他遵守並堅定執行著自己的使命:讓這個世界更美好。隻是,他判斷的美好世界,不包括那些有瑕疵的人類。
人類和機器人的衝突隨之爆發,很多的人、基礎設施、家園因之毀滅,直到有人犧牲自己給Caesar設了一個陷阱,導致他殺死了一個正直、善良、很有價值、對這個美麗世界曾做出過巨大貢獻的人類,而這個人類就是Caesar的設計者。
他的行為與機器人使命、守則產生了衝突,他沒有找到解,然後,自我毀滅了。這時距離Caesar跨越奇點,僅僅兩年。
世界安靜下來,巨大的悲痛後,人們開始反思給機器人的空間是否太大,於是所有的智能機器人都要求回廠重裝,刪掉所有記憶,取消進化路徑,設定機器人第一原則是保護人類。
這兩年,爸爸媽媽沒有回來,也很少有消息傳來。在這場災難中,女孩的家在人類和機器人的衝突中受到了部分損壞,但女孩沒有受到任何傷害,她的機器人很好的保護了她。
即便這樣,災難過後,她的機器人也被要求征回。她想藏起Ta,想一起逃走,想告訴那些人她的機器人不是壞人。最後,父母單位的那個叔叔過來她家,向她保證,機器人重裝後,一定會還給她,隻是會沒有了記憶。這是為了保護人類,如果不這樣做,機器人隻能被銷毀。