10
麵對互聯網：我們已經喪失了人性
在計算機科學發展史上，那是頗為奇特的一幕，現在仍然值得一提。1964~1965年期間，麻省理工學院41歲的計算機科學家約瑟夫·魏澤鮑姆（Joseph Weizenbaum）花了幾個月的時間，編寫用於分析書麵語言的軟件程序，程序在該校新引進的分時計算機係統上運行。一名學生坐在分時計算機係統的一台終端麵前，通過鍵盤輸入一句話，魏澤鮑姆編寫的程序就會根據一套簡單的英語語法規則，識別出句子中的關鍵單詞或關鍵短語，並對使用這個單詞或短語的上下文進行語法分析。然後，程序會根據另一套規則，把剛才輸入的句子轉換為一個新句子，這個新句子似乎是對原來那句話的回應。計算機生成的那句話立刻就會出現在那位學生的終端顯示屏上，讓人產生兩人在交談的錯覺。
魏澤鮑姆在1966年1月發表的一篇論文中介紹了自己編寫的這個程序，並舉例說明它是如何工作的。如果有人輸入“I am very unhappy these days”（我這些日子很不快樂）這句話，計算機隻要識別“I am”這個短語通常用於描述說話者的當前情形或精神狀態就可以了。計算機隨後會對這句話進行改造，把它變成一句回應“How long have you been very unhappy these days”（你這些日子很不快樂有多久了）。魏澤鮑姆解釋說，程序首先“對原始語句”應用“一種模板，模板中的部分內容和‘I am’這兩個單詞相匹配，模板中的剩餘部分把‘very unhappy these days’這些單詞分離出來”。 然後程序使用一個算法上的“重組工具包”，按照模板格式裁剪句子內容。“任何具有‘I am BLAH’格式的句子”都會被“轉換為‘How long have you been BLAH’，這種轉換跟BLAH的含義無關”，這樣的規則包含在程序算法當中。
魏澤鮑姆編寫的這套程序是那個時代的產物。20世紀五六十年代，人們熱衷於計算機、軟件編程及人工智能。高漲的熱情不僅催生了人腦就是電腦的想法，而且造成了人類語言就是運行於計算機內部的程序算法的輸出結果的感覺。戴維·格魯姆比亞（David Golumbia）在《計算的文化邏輯》（The Cultural Logic of Computation）一書中解釋說，以魏澤鮑姆在麻省理工學院的同事諾姆·喬姆斯基（Noam Chomsky）為首的新興“計算語言學家”斷言，人們講話、寫作所使用的“自然語言”形式是對“負責執行所有語言功能的大腦內部那台計算機運行情況”的反映。1958年，喬姆斯基在《信息與控製》（Information and Control）期刊上發表的論文中寫道，“描述語法的一個可能辦法就是在通用圖靈機上編寫程序”。按照格魯姆比亞的說法，計算主義理論之所以具有如此強大的說服力，是因為這種理論包裹在“新奇技術產生的”誘人“陰影”之中。對人們的講話方式實施逆向工程，可以發現語言的潛在編碼，然後就可以像軟件那樣複製這些編碼。
魏澤鮑姆把他的軟件程序命名為ELIZA，取自英國作家蕭伯納《賣花女》中的倫敦女孩伊萊紮的名字。在小說中，伊萊紮在傲慢的語言學教授亨利·希金斯輔導下，學說正確的英語。為了讓模擬交談更有趣，魏澤鮑姆還給這個人工談話者安排了一個角色——心理醫生羅傑斯。根據魏澤鮑姆後來發表的文章中的解釋，選擇這個名字是有現實意義的。20世紀40年代，心理學家卡爾·羅傑斯（Carl Rogers）開發了一套心理治療技術。采用羅氏治療法治療心理疾病時，心理醫生在跟病人交談的過程中，假裝自己對這個世界一無所知。在大部分情況下，他們隻是簡單模仿病人的說法，以開放式的陳詞濫調回應病人。知道心理醫師的無知是假裝的之後，病人就不會把“各種各樣的背景知識、深刻洞見和推理能力”歸因於他們的治療師了。魏澤鮑姆認識到，羅氏治療法中的醫師角色對ELIZA具有“至關重要的心理效用”：它表明程序的虛無性會掩蓋某些真正的智能。
魏澤鮑姆為我們提供了一段談話記錄，這是一位女士對ELIZA進行早期測試時的部分交談內容（楷體部分是計算機的回答）：
天下的男人都很相似。
怎麼相似的？
他們總是會用這樣那樣的事情煩擾我們。
你能舉個實例嗎？
嗯，我男朋友讓我產生這樣的想法。
你男朋友讓你這麼想的啊。
他說我大部分時間都情緒低落。
聽到你說情緒低落，我很難過。
是這樣的，我不快樂。
你覺得到這兒來會對你有所幫助，讓你不那麼不快樂嗎？
我需要幫助，這是肯定的。
如果得到幫助，你會怎樣呢？
或許我能學會如何跟媽媽相處吧。
說說你的家庭情況吧。
我媽媽對我關愛有加。
家裏還有別人關愛你嗎？
我爸爸。
你爸爸。
你在某些方麵挺像我爸爸的。
你看到什麼相似之處呢？
你不是那麼咄咄逼人，不過我想你不願意讓我注意到這一點。
是什麼讓你認為我不是那麼咄咄逼人的呢？
你不跟我爭論。
為什麼你覺得我不跟你爭論呢？
你怕我。
你認為我怕你，這樣會讓你感到高興嗎？
我爸爸誰都怕。
魏澤鮑姆承認，自己的創造對自然語言處理這個新興領域貢獻不大，甚至可以說無濟於事。他評論說，計算機程序員可以輕而易舉地讓機器的“行為令人嘖嘖稱奇，即便是經驗最豐富的觀察家也經常因此而目瞪口呆”。不過，他繼續說道，程序的“內部工作機製一旦被解釋得明明白白，程序的神奇魔力馬上就消失了，剩下的隻不過是一些計算機程序的集合，而這些程序都很容易理解。觀察家會在心裏說‘這樣的程序我也能寫’”。這個程序隨即會被“從標著‘聰明才智’字樣的貨架上拿下，放在擺放古董的位置上”。
無獨有偶，魏澤鮑姆就像亨利·希金斯教授一樣，很快發現自己的平靜生活被打亂了。ELIZA在麻省理工學院聲名大噪，迅速變成了計算機理論和分時係統方麵授課和講座的主要內容。ELIZA以一種外行一望便知的方式，向人們證明了計算機的強大功能和超高速度，它是最早做到這一點的軟件程序之一。你跟ELIZA聊天，完全不需要數學背景，更用不著計算機科學方麵的知識。ELIZA程序在其他學校也廣受歡迎，並且引起了新聞媒體的注意，按照魏澤鮑姆後來的說法，ELIZA成了“全國性的玩具”。盡管公眾對這套程序表現出來的濃厚興趣讓魏澤鮑姆十分驚異，可是真正讓他感到震撼的地方在於，使用這一軟件的那些人是那麼迅速、那麼深入地“對計算機動了感情”，他們跟它談話時仿佛那就是一個真人。“經過一段時間的交談之後，盡管我一再解釋，但他們還是會堅持認為機器真的理解他們。”魏澤鮑姆的秘書曾經目睹他為ELIZA編寫程序的過程，她“肯定知道那僅僅是個計算機程序”，可是連她都被征服了。在魏澤鮑姆辦公室的計算機終端上使用了一段時間交談程序之後，這位秘書請求教授離開房間，因為談話的隱私性讓她感到難為情。魏澤鮑姆說：“我以前沒有意識到，在一個相對簡單的計算機程序麵前暴露極為短暫的時間，竟然會誘使一個十分正常的人產生強烈的虛幻思想。”
更奇怪的事情還在後頭。聲望卓著的心理學家和計算機學家開始以極大的熱情提出，在實際治療疾病的過程中，計算機程序可以發揮很有價值的作用。三位一流精神病理學家在《神經與精神疾病雜誌》（Journal of Nervous and Mental Disease）上撰文寫道，ELIZA隻要略作調整，就能成為“廣泛應用於飽受心理治療醫師短缺之苦的精神病院和心理谘詢中心的治療工具”。由於“現代及未來的計算機具有分時運行功能，針對這種目的設計的計算機係統一小時就能診治幾百個病人”。著名天體物理學家卡爾·薩根（Carl Sagan）在《博物學》（Natural History）雜誌上發表文章，對ELIZA的巨大潛能表達了同樣激動的心情。按照他的預測，“能治療精神疾病的電腦終端網絡”將會不斷發展，“這個網絡就像許許多多的電話亭排成的陣列一樣，人們每次在這裏花上幾美元，就能跟一個專注、合格而且不會對你發號施令的心理治療醫師對談”。
圖靈曾經在《計算機器與智能》一文中探討過“機器會思考嗎”這個問題。如何判斷計算機是否有智能，他提出了一個很簡單的實驗方案，他把這個方案稱為“模仿遊戲”，不過人們很快就把這個實驗叫做圖靈測試。測試的時候，讓一個人作為“審問者”，坐在一個房間裏的計算機終端麵前，跟其他房間裏的“兩個人”通過打字進行交談，其中一個是真人，另一個則是假裝成人的計算機。圖靈認為，如果審問者無法區分計算機和真人，那麼就可以認為計算機具有智能。通過語言魔術般地變出一個可信的自己，這樣的能力就是真正會思考的機器出現的標誌。
跟ELIZA交談是圖靈測試的變通。可是魏澤鮑姆驚訝地發現，跟他的這個計算機程序“談話”的那些人幾乎沒有任何興趣對ELIZA的身份進行理性、客觀的判斷。他們願意相信ELIZA就是一台會思考的機器，他們願意以人的素質影響ELIZA——即便他們十分清楚ELIZA不過是按照簡單而明顯的指令執行任務的計算機程序。事實證明，圖靈測試對人類思維方式的測試作用絲毫不亞於對機器思維方式的測試功效。那三位精神病理學家在《神經與精神疾病雜誌》發表的文章中，不僅提出ELIZA可以用來替代真人治療醫師，而且還拐彎抹角地提出心理治療醫師本質上就是一種計算機：“可以把真人治療師視為一個有一套跟近期目標和遠期目標密切相關的決策規則的信息處理器和決策者。”ELIZA在模擬人的時候盡管有些笨拙，但它卻鼓勵人類把自己看成是對計算機的模擬。
人們對ELIZA這一軟件的反應讓魏澤鮑姆心力交瘁，這個現象在他頭腦當中埋下了一個以前從來沒有考慮過但是後來困擾他很多年的問題：“人就是一種能言善辯的能力達到了新水平的機器，對於給我們帶來這種觀點的計算機，我們又該如何看待？”在ELIZA問世10年之後，魏澤鮑姆於1976年在他的著作《計算機威力與人類理性》（Computer Power and Human Reason）中提供了這個問題的答案。他提出，要想理解計算機帶來的影響，就必須在諸如地圖和鍾表之類能改造自然並改變“人對現實的認知”的眾多智力技術的背景下看待這種機器。這樣的技術變成了“人們用來構建自己世界的部分原料”。這些技術一經采用，就永遠不會被拋棄。起碼隻要不讓人類社會陷入“極度混亂”，這些技術就不會廢棄。魏澤鮑姆寫道，一項智力技術“與社會結構融合得渾然一體，在各種各樣至關重要的基礎結構中根深蒂固，除非徹底破壞整個社會結構，否則再也無法把這項技術分離出來。這種情況一旦出現，智力技術就成了任何社會結構中不可缺少的組成要件”。
自從第二次世界大戰結束後數字式計算機發明以來，我們對它的依賴與日俱增，而且這種趨勢似乎無法動搖。魏澤鮑姆所說的那個幾乎是“同義反複”的事實可以幫助我們解釋這一現象。“計算機似乎成了在第二次世界大戰之後的社會生存的先決條件。美國政府、企業和產業界中那些最‘進步’的分子對計算機不加鑒別地熱烈擁抱，使得它在形式上成了社會生存必不可少的重要資源，似乎計算機本身一直在幫助我們塑造現代文明社會。”魏澤鮑姆通過自己在分時網絡方麵的經驗知道，計算機發揮的作用必將不斷擴展，絕不會止步於政府管理流程和工業生產流程的自動化。計算機將會逐步成為定義人們日常生活的種種活動的仲裁者——怎樣學習，怎樣思考，怎樣進行社會活動。他發出警告，智力技術的發展曆史表明：“把計算機引入某些複雜的人類活動，可能就是讓我們作出無法反悔的承諾。”我們的智力生活和社會生活可能也會像我們的工業流程一樣，逐步成為計算機強加給我們的種種內容的反映形式。
魏澤鮑姆最終相信，人之所以為人的最大特點恰恰就是人最不可能計算機化的部分——我們思想和身體之間的聯係，塑造我們記憶和思維的經驗，我們具有豐富情感的能力。在我們跟計算機越來越密不可分的過程中，我們越來越多的人生體驗通過電腦屏幕上閃爍搖曳、虛無縹緲的符號完成，最大的危險就是我們即將開始喪失我們的人性，喪失人之所以區別於機器的本質屬性。魏澤鮑姆寫道，避免這種命運的唯一途徑就是我們要有足夠的自我意識和無畏膽識，拒絕把我們精神活動和智力追求中最“人性化”的工作，尤其是“需要智慧”的任務委派給計算機。
魏澤鮑姆的《計算機威力與人類理性》是一本有關計算機及軟件工作機理的學術專著，除此之外，它還是作者的大聲疾呼，是一個計算機程序員滿腔熱情，有時甚至是自以為是地對自己職業所具有的局限性的檢討。這本書並沒有讓作者跟同行們拉近關係。該書出版之後，魏澤鮑姆被視為那個領域的異端，遭到了主流計算機科學家，尤其是對人工智能孜孜以求的那些人的批判。達特茅斯人工智能會議組織者之一約翰·麥卡錫以嘲諷的口吻告訴很多技術專家，他把《計算機威力與人類理性》當做“一本不講道理的書”棄置一旁，並且斥責魏澤鮑姆在進行偽科學的“道德說教”。在計算機數據處理領域之外，這本書隻是激起了一層漣漪。該書問世之時，正趕上第一代個人電腦從業餘愛好者的工作台一躍變成大眾產品。社會大眾整裝待發，正在準備迎接一股即將把計算機帶入大部分單位、家庭和學校的搶購狂潮，他們根本沒有心情去考慮一位變節者的疑問。