在設定中,Al會隨著主人的情緒變化,來不斷的完善自己的意識。
但這種意識覺醒的範圍,僅限於為主人服務。
也就是說,主人不需要的行為,機器人是不會納入自己的學習範圍的。
比如這個故障的陪伴型機器人,隻需要詢問主人的需求,幫助主人解決生活中的雜事。
這樣可以讓主人隻需要擔心工作上的事情,而將其他事情都放心的交給機器人來做。
也大大減輕了主人的生活負擔。
可隨著主人抱怨工作太難做,老板又刻意為難等等事情後,機器人竟然出現了不該有的程序。
那就是勸主人辭職,隻待在家裏享受它的照顧。
偶爾一兩次的話,可能是機器人的數據庫出現紊亂,導致說辭不當。
可某天機器人竟然私自調改鬧鍾,導致主人上班遲到,被老板訓斥。
最初,主人以為是自己定錯了時間。
可隨著次數增多,主人終於發現了不對,就給機器人報了故障,返廠維修。
機器人的存在,本就是為了服務人類。
這種會幹預人類決定的行為,是絕對不能存在的。
因為這種情況的出現,證明了機器人開始產生獨立思維,脫離數據的控製。
擴大了想,如果所有的機器人都出現程序外的意識。
那工廠流水線的機器人,就會出現程序錯誤,或者怠惰,導致最後生產出來的產品出現問題。
陪伴型機器人,會出現控製主人的行為,導致獨居人類被機器人囚禁。
而作用在軍事上的機器人,出現反社會型思維,那將是最恐怖的事情。
想到這些的原主,將發現報告給上級,請求暫停機器人的開發,並對已售賣的機器人進行逐一調查。
然而上級覺得這種發現是偶然,且逐一調查耗時耗力,更是燒錢行為,所以否定了原主的提議。
原主見提議行不通,便自購了一個機器人管家進行測試。
在為期三個月的測試中,原主發現了管家出現不可控行為,並出現了殺人意向。
隨後,她將管家行為錄製下來,想交到公司證明Al程序確實出現了問題。
卻不知,管家早就在暗中連接了家裏的所有電子設備,將原主的心思窺視的一清二楚。
為了避免自己落到被銷毀的命運,管家在晚飯中下藥迷暈了原主,並將原主肢解銷毀。
接收完記憶的黎顏後背一涼。
她猛的調出剛才的頁麵,準備進行退貨,然而為時已晚。
因為機器人管家是定製的,不能進行退貨,隻能維修。
“宿主宿主,您這個位麵的支線任務還是活著,然後找到機器人程序變動的原因並阻止。”
聞言,萌萌興奮道,“大佬不用忙活了,人家知道原因的~”
“快說!”
“是因為達優集團AI程序開發師陸方明,給AI程序中植入了違規程序,才導致機器人出現失控行為的。”
“所以,這也不能全怪機器人,是陸方明給機器人植入了可以開發自主意識的程序。”
“這種程序最初不會被測試出來,直到跟人類生活久了,學習了他們的思維行為模式後,才會出現自主意識。”