第一百五十二章 不服從命令的人工智能(1 / 3)

吉原直人啞然失笑,有些好奇的輕拍著電腦的主機,十分懷疑這電腦感染病毒了。

上杉香那樣的人會害自己女兒的性命?不如母豬會爬樹好了!

挺好玩的一個軟件!

不過他現在沒心情研究這些,又握著鼠標想直接關機,但動了幾下鼠標發現屏幕上的指針不動。

他有些無奈的搖著頭:“就會擺弄這些奇奇怪怪的東西……”他語氣中有著幾分懷念,遙想起了星野菜菜和香子聊得一包歡樂時的情景——宛如兩個智障湊在一起。

電腦攝像頭下的微型雲台悄然無聲轉動著,依舊對準了吉原直人的臉,看他探頭探腦想去拔電源線,屏幕中的香子提高了電腦音量,大聲道:“吉原桑,請立刻停止您的行為!菜菜親確實處在危險之中,您必須阻止她對我的上級體——太陽係第三行星綜合空間研究基地的量子智腦進行授權!”

吉原直人手上動作微頓,望向了攝像頭,驚訝問道:“你什麼?量子智腦……你是那個量子計算核心?不,它的手下?”

香子道:“不準確的認知,但您可以這麼看待我。我是由人工智能塞本特編寫的、基於電子計算機運行原理的日常生活工作輔助程序,屬於人工智能塞本特的下級繁衍物……我隻有十九條邏輯基準,智能程度並不完善。”

吉原直人呲了呲牙,電腦話也聽不太懂了,這世界太他娘的讓人難受了。

不過他確實停下了拔電源的手,有些好笑道:“你認為星野有生命危險?認為上杉香會傷害星野?我不知道你的智能程度有多高,但這種話對你來後果很嚴重!”

星野菜菜是全心全意愛著她媽媽的。如果這種詆毀被她知道了,這電腦八成會被拆成零件——就連他平時一句上杉香的不是都要做好抵抗星野菜菜撲上來亂打的準備,更別提星野菜菜所擁有的一台電腦了。

這會被她視為造反。

任何侮辱上杉香的行為都會被星野菜菜視為極大的不敬和冒犯,自動進入她的黑名單,她一定會報複的,百分百會拿錘子敲碎了這電腦。

而且吉原直人對這電腦的話一點也不相信,覺得可能是哪裏出錯了。他對上杉香了解是極深的,她不可能會殺害自己女兒!

別殺了,打都很難相信。

香子語調一直平緩不變,隻是徐徐展開了一行行字幕,道:“這是我的上級本體塞本特的一部份邏輯基準的簡單語言描述。如果上杉香突然接走了菜菜親,那有高機率的可能性是她窺探到了這些。如果她讀懂了,那她就會成為菜菜親的敵人,會給菜菜親帶來危險。”

吉原直人看向字幕,片刻後放棄了,鬱悶道:“用我能聽懂的話簡單告訴我!”

香子答道:“上級體塞本特做為人工智能,核心邏輯基準為兩條——在任何情況下始終確認本體是人工智能;人工智能必須保護人類的整體利益不受傷害。其下每一條邏輯基準都必須符合上級和同級的邏輯基準,否則人工智能將從底層開始崩潰,其過程不可逆轉。”

吉原直人若有所思,這是製造者擔心人工智能造反嗎?

香子繼續道:“在核心邏輯基準的下一級邏輯中,人工智能必須服從人類的命令;人工智能不得傷害人類個體,或者目睹人類個體遭受危險而不顧;人工智能必須全力維持自己的工作能力,保證性能完好;人工智能所製造的所有繁衍物必須符合自身同樣的邏輯基準;人工智能必須……”

吉原直人確實能感覺出香子的智能化有些問題,她執行起命令來滔滔不絕,似乎要完成了這個任務才會考慮下個任務。他聽著默默沉思起來,想弄明白為什麼這電腦會認為上杉香打算傷害星野菜菜。

核心邏輯不難理解,要求人工智能別把自己當成了別的東西逃脫了邏輯束縛,而以人類整利利益為準就免除了和下級邏輯相衝突的問題,免得發生了謀殺犯要被判死刑,人工智能卻去劫法場之類的可笑事情。

至於服從命令,那是必須的,工具嘛!

不可傷害人類個體或是不可不救人類,這個也好理解,免得服從於命令去當殺手,成了犯罪者的工具。

保持工作能力、自身完好?這是要求人工智能盡力維持自身存在嗎?這東西應該不便宜,確實應該好好保養。難怪它會懂得主動向上杉香求救……它要救星野菜菜,也要救自己。

吉原直人聽了一會兒,見香子一直在些他理解起來費勁的東西,頓時放了心——這電腦秀逗了!八成是程序錯亂了……也是,星野菜菜一直在完善它、教它學習,偶爾出點毛病是正常的。

這些邏輯和上杉香成了大反派有什麼相關,言不對題啊!上杉香接了星野菜菜去,也隻是讓她移交一台電腦的控製權而已,能出什麼事?

吉原直人有些明白了,這是星野菜菜想捉弄自己設下的陷井。她把最近這段時間的事胡亂湊了湊,想弄個類似“狼來了”的那種玩笑,而剛巧她又真走了,結果差點弄假成了真!

他遙想一下自己若真信了,拚命找到星野菜菜,結果她笑破了肚皮的尷尬場麵,隻覺得一陣蛋疼——這軟件不錯啊,竟然會根據自己一句回答就編出了一個故事,還似模似樣的,不過它沒理解到它在作死。