蔣舸,清華大學法學院副教授。
於興中,康奈爾大學法學院AnthonyW.andLuluC.Wang中沈偉偉,中國政法大學法學院副教授,大數據和人工智能45?
&EJUPSTOPUF以算法為基礎的大數據和人工智能極大地便利了我們的生活,我們已然跨入算法社會(algorithmicsociety),前景似乎一當我們沉浸在算法紅利帶來的喜悅中時,不要忘記施特勞斯曾告誡過我們:新科學讓人的力量得到了巨大增長,但人的智慧和品德沒有同步增長,現代人是個瞎了眼的巨人。
現代科技成就了這個巨人,社會運轉和溝通的速度越來越高效,但同時人類也陷入越來越多的可能危險之中,例如核泄漏、信息泄漏等等,當然可以通過製度來減少和規避風險,甚至給巨人套上頭箍。但須知,科學技術會不斷發展,巨人的力量會不斷增大,並試圖掙脫頭箍的約束,而頭箍的約束力總是滯後於科學技術的發展。這位科學的巨人一方麵極易突破外在頭箍的約束,另一方麵,現代科學所倡導的道德中立也讓這位巨人擺脫了內在道德的約束,這位巨人仿如現代社會中的“利維坦”,看不見前方,極其危險。
其實,科學技術與心靈和道德的分離是近代科技革命之後的事情。在古希臘人看來,科學研究和心靈德性密切相關,廊下派的創始人芝諾(ZenoofCitium)認為有德性的生活就是與自然相一致的生活。就連我們最熟悉的托勒密(ClaudiusPtole-my,約公元90年至公元168年)在其著名的《天文學大成》提到,天文學的最終目標是道德和靈性的發展。因此,托勒密的·001·片光明,但算法社會是一個值得我們全身心投入的理想社會嗎?
0\".+\"!
道德天文學與柏拉圖的《蒂邁歐》所確立的科學傳統完全一致,哲學生活的目標與研究宇宙密切相關。哈裏森(Harrison)在《科學與宗教的領地》中認為希臘科學並不拒斥神話與宗教。阿奎那(1225年至1274年)在討論《神學大全》中的德性時指出,“科學”是一種心靈習性或“理智德性”。科學不僅是一種個人品質,而且還具有道德成分。阿奎那認為科學首先是一種個人品質,而現代我們習慣把科學看作一套知識和信念的係統,主張價值中立。但是,把科學理解為心靈習性的觀點在文藝複興時期卻是一個常識。
取代了作為德性或心靈習性的科學概念。用來刻畫“科學”這一理性德性的內在品質變成了方法和教理。1771年《不列顛百科全書》中的科學詞條:科學,在哲學語境下指通過合乎規則的證明從自明而確定的原理中導出的學說。也就是說,在17世培養人的心靈的習性主要是為了產生科學知識。美國哲學家和心理學家詹姆士(Williamjames,1842年至1910年)認為科學絕對不牽涉個人感情。不過,把科學和道德徹底撇開的是馬克斯·韋伯(1864年至1920年),在《以科學為誌業》中,韋伯否認了科學的道德教化作用,認為那是一種虛構的理想。
科學一旦跟道德脫鉤,所有尋找其內在約束的努力都將成為徒勞,麵對這位瞎眼巨人,我們隻能退而求其次尋求外部約束,哪怕這是次佳的選擇。而在外部約束之中,法律是最佳的選擇。
如果法律一旦插手算法規製,就麵臨兩個前提性問題:第一,法律以什麼為價值目標來規製算法?科學技術讓我們的生活越來越高效,同時也讓我們處於更多潛在危險之中,所以規·002·17世紀的科學革命之後,現代的、係統性的科學概念逐漸紀之前,科學知識是給心靈灌輸科學習性的一種手段,而現在,編者前言製的直接目標是安全,但安全僅僅隻是最低的價值,我們在安全的基礎之上總希求更幸福、更有道德和更好的生活。第二,法律規製算法本身還是規製操縱算法的人?我們之所以擔心算法這種新型科技可能侵犯我們的權利,不是因為我們擔心算法這個工具本身,而是擔心這個工具被誰來使用,如果被居心叵測的人來使用和掌握,算法歧視、算法黑箱等一係列問題就會湧現。如果被強者掌握,強者自然把它當成宰製弱者的工具,固化既有的不平等。所以,算法本身和算法的設計、使用者都是規製的對象。
解決兩個前提性問題之後,在法律規製的具體過程之中,我們可以把算法導致的問題分為兩類:一類是應用算法導致的社會問題,例如自動駕駛中的算法錯誤問題,還有算法歧視、算法黑箱、算法共謀等問題。當然,還有一些算法技術雖然還沒有顯現出上述問題,但是它在現代社會中卻日益重要,需要提前布防,例如區塊鏈;另一類是通過算法來實施和執行法律導致的問題,在著作權法領域,廣泛使用算法實時檢測侵權作品,並自動向侵權者發送通知,這極大地適應了算法社會的需求,但也帶來了一些問題,例如有時算法不能區分“合理使用”和侵權行為等問題,如何在著作權法領域解決這些問題?並且,這種算法輔助工具目前也應用於刑事審判中,例如美國的COM-PAS累犯風險評估係統就是一套算法,可以對犯罪嫌疑人的累犯風險進行評估,供法官在量刑時參考。但是這種依賴算法的量刑如果出錯的話,可能極大地侵犯犯罪嫌疑人的權利,刑事司法如何用好算法?這些問題都需要法律專家提供解決方案。
當然,算法之所以能被廣泛應用在法律的執行和適用之中,甚至成為司法審判的輔助工具,是因為算法與法律具有某些類似性,使得法律可以被算法化。其實,在古希臘,人們也設想·003·0\".+\"!
過理想的社會治理應該客觀理性中立,亞裏士多德在《政治學》中就據此反對一人統治,因為人有情感,在執政時可能偏私。
他認為法律完全沒有感情,所以依賴法律的政體比依賴一人統治的政體要好。在這方麵,算法同樣也排斥情感,所以法律在一定程度上能被算法化,例如電子警察自動執法等。但是法律算法化的程度是有限的,因為疑難案件中個案正義之實現涉及利益權衡或價值判斷,這都是算法所不及的。因此,各類算法可以成為立法、司法和執法的輔助工具,但不能完全取代立法者、法官和警察。
無論是規製算法導致的社會問題,還是規製算法實施和執行法律的過程中導致的問題,都可以采取事前規製和事後規製兩種方法。在事前規製的策略之下,有一種聲音樂觀地認為隻要堅持算法透明原則,讓算法黑箱暴露在陽光之下,所有算法的問題都迎刃而解。透明原則真這麼有效嗎?如果答案是否定的,那麼我們就需要把眼光放在事後規製模式之上,事後規製模式的重點是什麼?如果是算法解釋權的話,如何給算法解釋權下定義?它有著什麼樣的內部構造?這些問題都亟須理論界的解答。
算法社會悄然來臨,人們喜憂參半,法律人本著這顆憂世之心形成了很多有益的思考,特別是這八篇文章很好地解答了上述問題,感謝八位作者的康概相助!當然,算法社會還有很多問題有待探索,法律人依然任重道遠,沉思永無止境。
·004·,
$0\/5&\/54算法社會與人的秉性論算法規製的價值目標與機製設計…………………………019區塊鏈技術的算法規製………………………………………039智能社會法律的算法實施及其規製的法理基礎——以著作權領域在線內容分享平台的自動侵權檢測—自動化決策、刑事司法與算法規製——由“盧米斯案”引發的思考………………………096—作為算法的法律………………………………………………127算法透明原則的迷思——算法規製理論的批判性思考………………………150—商業自動化決策的算法解釋權研究…………………………184為例…………………………………………………063…………………………………………001·001·算法社會與人的秉性於興中摘要:本文立足於評論算法社會的利與弊,旨在強調人工智能的限度就是人的限度,算法社會並不是理想的社會。算法社會對人的科技素質的要求極高,沒有相當的教育水準是難以適應的。這就注定了算法社會一定是科技精英的社會。少數人會成為主宰,而大多數的人隻能順從。我們可能正在期望一個比現有社會更不平等的社會。這種不平等是從起點到結果的全方位的不平等,這是羅爾斯、桑德爾和森合起來也無法對付的。算法社會隻是人的智性單向度發展的最新成果,但是科技烏托邦並不是人類的未來。理想的人類社會應該是人的智性、心性和靈性都能得到高度發展的社會。算法社會隻能使人的智性過度發展,從而使人喪失人性中更為寶貴和自然的組成部分,如心性和靈性。因此,必須以警惕的態度審視目前正在不斷升溫的人工智能萬能論。
關鍵詞:算法社會;科技烏托邦;人類增強;心性;智性;靈性;人工情能;通用人工智能;奇點引言算法已經成為我們這個時代的迷思。算法為我們指引方向;算法為我們篩選研究成果;算法為我們確定該由機器還是人給·001·0\".+\"!
我們做手術;算法也能為我們吟詩作樂。更為厲害的是,算法還可以自己學習改進,精益求精。算法助人為樂,給人提供服務的前景好像一片光明。然而,算法到底是什麼?它們如何做到上麵所說的這一切?算法可以解決任何難題嗎?算法有什麼負麵作用?這些問題計算機和人工智能的專家們到現在也還沒有統一的答案。〔1〕倒是有人認為算法大體上是可以界定的。但普遍意義上嚴格的定義卻也不太可能,因為存在不同種類的算法,不同側重點的算法,而算法是在不斷擴展變化的。這種變化不僅僅是某一種算法自身的演進,而且會有新種類的算法被不斷發掘出來。
這就使算法的概念變得很難確定。比如,除了曆久不衰仍在運用的經典的順序算法(sequentialalgorithms),現在已有的算法包括平行(parallel)算法、互動(interactive)、分布式(dis-tributed)、實時(real-time)、混合(hybrid)、量子(quantum)給算法賦予嚴格的定義是絕不可能的事。
算法等。新型的算法很有可能還會出現。當然,這並不意味著〔2〕集所有算法於一身的模範算法是算法研究者的夢想。算法雖然難以界定,但有人說我們已經進入了算法社會,人工智能、互聯網、物聯網這些隻不過都是算法社會的序曲。〔3〕一時間,算法社會、算法文化、SolonBarocas,SophieHoodandMalteZiewitz,“GoverningAlgorithms:AProv-ocationPiece(March29,2013)”,availableatSSRN:https:\/\/ssrn.com\/abstract=〔1〕2245322orhttp:\/\/dx.doi.org\/10.2139\/ssrn.2245322.關於算法的文獻,載https:\/\/socialmediacollective.org\/reading-lists\/critical-algorithm-studies.
〔2〕YuriGurevich,“WhatIsanAlgorithm?(Revised)”,MicrosoftResearch,Redmond,WA,USA,availableathttps:\/\/www.microsoft.com\/en-us\/research\/wp-con-tent\/uploads\/2017\/01\/209a.pdf.