本書圍繞數(shù)據(jù)正義理論展開。數(shù)據(jù)化并非僅是技術,實為一種政治經(jīng)濟體制,應優(yōu)先考慮數(shù)據(jù)化帶來的社會正義問題。數(shù)據(jù)正義要求找到應對資本主義危害的方式;數(shù)據(jù)化嵌入政府治理導致社會成員權力弱化,數(shù)據(jù)正義要求政府機構優(yōu)先考慮以人為本、團結建設;數(shù)據(jù)正義概念必須是連接全球社會學,絕非僅是西方的;數(shù)據(jù)正義要解決數(shù)據(jù)化帶來剝削、歧視、隱私侵害、監(jiān)視、操縱、不公正等危害;數(shù)據(jù)化限制了公民的主體性,數(shù)據(jù)正義要求確保公民在政治參與方面的積極與自主;鑒于以知情同意為中心的監(jiān)管框架存在缺陷,應從保障個人權利到承認集體秩序,邁向數(shù)據(jù)正義政策?傊,數(shù)據(jù)正義關注不公正以及如何改變這些不公正。
主編序
一
2023年,火遍全網(wǎng)的ChatGPT再次刷新了人類對人工智能的認知。ChatGPT是一種全新的聊天機器人模型,它采用人工神經(jīng)網(wǎng)絡和深度學習等技術,能夠?qū)W習大量的語言數(shù)據(jù),從中提取語言規(guī)律和模式,生成具有邏輯和語法正確性的文本。ChatGPT的背后,是基于大語言模型建構的生成式人工智能的不斷興起。由此引發(fā)的學術討論,除了在特定領域內(nèi)的針對性分析之外,進一步延伸到范式革命、治理迭代和規(guī)制創(chuàng)新等宏觀問題。ChatGPT及其引發(fā)的社會關注和學術討論,延續(xù)了人工智能法學研究的基本邏輯:技術的迭代發(fā)展與法律制度保守滯后之間的張力。不同于人工智能應用初期帶來的范式焦慮以及假想式研究,隨著技術路徑的逐漸穩(wěn)定和學術共識的不斷沉淀,法學領域的相關研究已經(jīng)走向了具體化和精細化。在本體論層面,算法、數(shù)據(jù)與算力作為人工智能的三大支柱,基本沒有爭議,法學界通常直接借用專業(yè)領域的研究結論,以之作為論證的起點;從認識論的角度出發(fā),法學研究主要聚焦于算法應用的風險規(guī)制和數(shù)據(jù)權益的法律歸屬;從方法論的視角觀察,仍以法解釋學為中心,限縮或擴張概念內(nèi)涵以增強解釋力,在論證過程中比較法的素材依然是重要依據(jù),并最終落腳于既有規(guī)則的修改完善;如果上升到價值論層面,技術中立的預設已是不切實際的幻想,以跨境數(shù)據(jù)流動的國際博弈為切口,清晰地呈現(xiàn)出國家權力在人工智能法律問題上的建構性影響。
事實上,在人工智能法學這一命題之外,還有不少類似表達,試圖更加完整、準確地提煉和歸納新興技術引發(fā)的法律問題和研究旨趣。在信息法學、計算法學、認知法學、數(shù)據(jù)法學等概念之外,數(shù)字法學以其對數(shù)字技術、數(shù)字經(jīng)濟、數(shù)字市場乃至數(shù)字社會的整體性涵攝和概括性凝練,逐漸受到認可。雖然有關數(shù)字法學是否能夠超越法學二級學科的束縛,甚至代表未來法學的發(fā)展趨勢,從而實現(xiàn)法學理論的轉(zhuǎn)型重建和曲線升級,在學術界還存在巨大爭議,但是,這種統(tǒng)合與歸并顯然有助于拓寬思考問題的視閾和背景。在互聯(lián)網(wǎng)發(fā)展的早期,線上世界與線下世界雖不至于涇渭分明,但畢竟區(qū)分明顯;ヂ(lián)網(wǎng) 的實踐探索,則是社會生活數(shù)字化的先聲與前哨。當智能手機與移動互聯(lián)網(wǎng)普及應用之后,作為社會基本單元的人已經(jīng)并將持續(xù)被數(shù)字化裹挾,隨之而來的深遠影響并非簡單疊加數(shù)字之后,就能在舊瓶裝新酒的路徑依賴下獲得正確答案。
鑒此,獨角獸·人工智能第六輯在第五輯將人工智能與隱私人工智能與數(shù)據(jù)作為國外法學精品專著篩選主題的基礎上,進一步拓寬視野,鎖定在數(shù)字社會這一背景下,分析與研究數(shù)據(jù)集中和數(shù)字權力可能引發(fā)的控制力矛盾,即人類飛速發(fā)展的控制能力和落后的自我控制力之間的內(nèi)在沖突。數(shù)據(jù)壟斷現(xiàn)象、數(shù)字市場秩序問題以及數(shù)字社會正義體系,本質(zhì)上均是這種矛盾的表現(xiàn)形式或最終的價值歸宿。之所以對篩選的譯著進行上述限定,是希冀面對數(shù)字化轉(zhuǎn)型的誘惑時,始終明確,無論是規(guī)范、規(guī)制還是治理,其核心的激勵取向仍然要以促進和實現(xiàn)人的價值為中心。
二
本輯譯叢是獨角獸·人工智能第六輯。正所謂半畝方塘一鑒開,天光云影共徘徊,編輯和譯者們以數(shù)據(jù)壟斷、數(shù)字市場、數(shù)據(jù)正義為取向,精心選擇了三部著作,以期能夠讓讀者們透過現(xiàn)象看本質(zhì),從不同維度思考人工智能及其背后的數(shù)字技術對人類社會的革命性影響。這三部著作分別是莎拉·拉姆丹(Sarah Lamdan)的《付費墻:被壟斷的數(shù)據(jù)》,安東尼奧·曼加內(nèi)利(Antonio Manganelli)與安東尼奧·尼基塔(Antonio Nicita)合著的《監(jiān)管數(shù)字市場:歐盟路徑》,莉娜·丹席克(Lina Dencik)、阿恩·欣茨(Arne Hintz)、喬安娜·雷登(Joanna Redden)、埃米利亞諾·特雷(Emiliano Treré)合著的《數(shù)據(jù)正義》。
《付費墻:被壟斷的數(shù)據(jù)》一書,分析了數(shù)據(jù)壟斷給反壟斷監(jiān)管帶來的挑戰(zhàn)。在數(shù)字空間中,數(shù)據(jù)就是權力,壟斷了大量數(shù)據(jù)的公司擁有很高的地位,并通過各種手段保持其控制力。數(shù)據(jù)壟斷企業(yè)已經(jīng)成為難以監(jiān)管的數(shù)據(jù)卡特爾,本書形象地展示了挖掘和銷售數(shù)據(jù)與信息資源的公司正在加劇社會不平等。目前,少數(shù)幾家大公司支配了大部分關鍵數(shù)據(jù)資源,通過各種合法業(yè)務,掌控了數(shù)字經(jīng)濟命脈。通過對數(shù)據(jù)的控制,這些公司可以阻礙信息的自由流動,巧妙利用法律漏洞,以加劇數(shù)字種族主義等方式管理數(shù)據(jù)。私有化和網(wǎng)絡中立阻礙了有效法律的制定,由此導致超大型數(shù)據(jù)寡頭進一步的壟斷合并。為了改變這種現(xiàn)狀,除了制定相關法律和基于市場的解決方案外,將數(shù)據(jù)視為公共產(chǎn)品,通過構建理想的數(shù)字基礎設施來支持其公共產(chǎn)品屬性,是解決數(shù)據(jù)壟斷問題的基本思路。
《監(jiān)管數(shù)字市場:歐盟路徑》一書介紹了歐盟的數(shù)字市場規(guī)制模式,分析了數(shù)字革命給歐盟監(jiān)管機構和政策制定者帶來的挑戰(zhàn),從監(jiān)管機構和政策制定者的角度提出了應對方法。數(shù)字革命重塑了生產(chǎn)、消費和分配方式,為經(jīng)濟社會帶來了新的機遇,同時也引發(fā)了巨大擔憂。數(shù)字市場中的法律問題是全球性現(xiàn)象,但不同國家的應對策略不盡相同。本書由兩部分組成,第一部分闡述數(shù)字市場和數(shù)字權利的演變,電子商務和共享經(jīng)濟逐步塑造了數(shù)字市場,數(shù)字市場需要多樣化的數(shù)字公共政策,歐盟因此創(chuàng)建數(shù)字單一市場,推出諸如《地理封鎖條例》《內(nèi)容可攜帶條例》等跨境數(shù)字政策,并考慮建立數(shù)字權利體系的可能性。第二部分闡述了監(jiān)管科技巨頭對市場和社會的影響,當今主要的數(shù)字玩家僅限于少數(shù)幾個大型全球平臺,而競爭執(zhí)法已成為公權力介入數(shù)字市場的先驅(qū)。同時,數(shù)字服務要求使用戶基本權利得到保護,亦要求為企業(yè)提供公平的競爭環(huán)境。由此,歐盟委員會發(fā)布《數(shù)據(jù)治理法案》《數(shù)字服務法案》《數(shù)字市場法案》等重要政策法規(guī),以期應對數(shù)字革命帶來的監(jiān)管挑戰(zhàn)。
《數(shù)據(jù)正義》一書圍繞數(shù)據(jù)正義理論展開。數(shù)據(jù)化并非僅是技術,實為一種政治經(jīng)濟體制,應優(yōu)先考慮數(shù)據(jù)化帶來的社會正義問題。第一,數(shù)據(jù)正義要求找到應對資本主義危害的方式;第二,數(shù)據(jù)化嵌入政府治理,導致社會成員權力弱化,數(shù)據(jù)正義要求政府機構優(yōu)先考慮以人為本、團結建設;第三,數(shù)據(jù)正義概念必須鏈接全球社會學,絕非僅是西方的;第四,數(shù)據(jù)正義要解決數(shù)據(jù)化帶來剝削、歧視、隱私侵害、監(jiān)視、操縱、不公正等危害;第五,數(shù)據(jù)化限制了公民的主體性,數(shù)據(jù)正義要求確保公民在政治參與方面的積極與自主;第六,鑒于以知情同意為中心的監(jiān)管框架存在缺陷,應從保障個人權利到承認集體秩序,邁向數(shù)據(jù)正義政策?傊,數(shù)據(jù)正義關注不公正以及如何改變這些不公正。
這三本學術著作的選擇主要是以數(shù)據(jù)壟斷、數(shù)字市場與數(shù)據(jù)正義為主題,以期幫助讀者對數(shù)據(jù)在人工智能產(chǎn)業(yè)應用和法律問題中的重要影響形成體系化認知!陡顿M墻:被壟斷的數(shù)據(jù)》思考的是數(shù)據(jù)集中到少數(shù)企業(yè)后,數(shù)據(jù)權力對人產(chǎn)生的超強控制力問題;《監(jiān)管數(shù)字市場:歐盟路徑》反思的是地緣政治的背景下,如何規(guī)制大型全球平臺的市場支配能力,以保護用戶基本權利、維護數(shù)字市場公平競爭秩序;《數(shù)據(jù)正義》則以人類社會的正義斗爭史為鏡鑒,對數(shù)據(jù)化形成的政治經(jīng)濟體制及其普遍性進行分析,嘗試將社會正義問題嵌入數(shù)據(jù)化審查,最終實現(xiàn)人的公平發(fā)展。數(shù)據(jù)化生存和數(shù)字化發(fā)展,無疑改變了既有的權力格局,對壟斷、市場以及正義問題的關注,終究是在思索人的命運與價值。
三
三部學術著作既有顯著區(qū)別又具有內(nèi)在聯(lián)系:數(shù)據(jù)壟斷是一種客觀現(xiàn)實,既體現(xiàn)了互聯(lián)網(wǎng)產(chǎn)業(yè)發(fā)展中的馬太效應,也是自由競爭在互聯(lián)網(wǎng)領域長期占據(jù)主流價值的必然結果,更是社會生活數(shù)據(jù)化帶來的消極影響之一;數(shù)據(jù)壟斷與數(shù)字企業(yè)的市場支配力量存在緊密聯(lián)系,歐盟在數(shù)字市場領域一直秉持積極干預的規(guī)制路徑,但在全球數(shù)字市場中歐盟企業(yè)卻難以與中美企業(yè)形成有力競爭,如何在競爭執(zhí)法與激勵創(chuàng)新之間尋求平衡,在全球范圍內(nèi)并無統(tǒng)一范式;數(shù)據(jù)壟斷的現(xiàn)實以及由此產(chǎn)生的數(shù)字市場規(guī)制問題,最終影響個人權利、集體秩序及國際合作,數(shù)據(jù)相關的不公正亟須正義理論的關注與回應。由此,無論是數(shù)據(jù)壟斷,還是數(shù)字市場,甚至數(shù)據(jù)正義,雖視角有區(qū)別、觀點有爭議、路徑有差異,但其核心訴求卻殊途同歸:在數(shù)據(jù)化與數(shù)字化的生活方式和應用場景下,尋求個人與集體、企業(yè)與市場、社會與國家之間的最大公約數(shù)。
《付費墻:被壟斷的數(shù)據(jù)》是對數(shù)據(jù)壟斷及其帶來的控制能力的一次全面審視,并再次警醒人們對數(shù)據(jù)集中化持有可能帶來的負面風險保持關注:數(shù)據(jù)技術既是分享知識的神奇工具,也是控制信息流的危險工具。如果說知識產(chǎn)權曾經(jīng)制造了文化傳播的壁壘和技術轉(zhuǎn)移的門檻,數(shù)據(jù)集中和壟斷則全面建構了個人的生活,并控制了信息獲取的邊界。大型科技公司的數(shù)據(jù)歸集能力和數(shù)據(jù)持有數(shù)量以及數(shù)據(jù)行為模式,都對個人和中小企業(yè)形成了一種難以抗衡的控制力。較之于知識產(chǎn)權領域相對清晰的客體形態(tài)、具有明確期限的財產(chǎn)權形式、完整的權利限制制度,數(shù)據(jù)的法律性質(zhì)與權益歸屬雖然在立法上仍未明確,但事實上的持有與壟斷格局已然形成,其控制力并不弱于法定的財產(chǎn)權,如何在既有的反壟斷法框架下回應這一問題已刻不容緩。
《監(jiān)管數(shù)字市場:歐盟路徑》立足于歐盟的數(shù)字市場規(guī)制模式,全面審視了歐盟在數(shù)字技術發(fā)展應用的背景下,應對數(shù)字生產(chǎn)、數(shù)字消費和數(shù)字分配的制度實踐。長期以來,歐盟在數(shù)據(jù)領域強調(diào)個人權利的優(yōu)位性,以《通用數(shù)據(jù)保護條例》為代表的立法文本更是被普遍解讀為確立了對個人數(shù)據(jù)權利的強保護模式。在歐盟有關數(shù)字權利保護的執(zhí)法實踐中,雖然包括谷歌在內(nèi)的互聯(lián)網(wǎng)巨頭遭遇巨額處罰,但一方面?zhèn)人數(shù)據(jù)權利的保護仍然存在難題,另一方面歐盟在全球數(shù)字市場的競爭力并未獲得顯著提升。因此,歐盟如何在促進數(shù)字產(chǎn)業(yè)發(fā)展、保護個人數(shù)據(jù)權利、維持公平競爭的數(shù)字市場秩序等多重利益間取得平衡,怎樣通過數(shù)字公共政策實現(xiàn)政治經(jīng)濟目標,仍然有待進一步觀察。
《數(shù)據(jù)正義》是數(shù)據(jù)應用及數(shù)字經(jīng)濟背景下對社會正義問題的省思。數(shù)據(jù)的資產(chǎn)屬性愈發(fā)凸顯,政府機構也由此取得了在數(shù)據(jù)權力方面的信息優(yōu)勢。在數(shù)據(jù)全球化中,數(shù)據(jù)鴻溝進一步加劇,數(shù)據(jù)危害帶來的不公正問題將更為普遍,公民的主體性在數(shù)據(jù)化背景下將進一步被削弱,流于形式的知情同意規(guī)則以及其他以私權為根基的制度結構,在實現(xiàn)社會公正的過程中難以發(fā)揮實效。由此,立足于歷史演進歸納的正義經(jīng)驗,吸納在國際實踐中逐步整合的正義規(guī)則,重新建構數(shù)據(jù)化審查中的正義理論,改變不公正的社會現(xiàn)實,將是人類在數(shù)字社會中面臨的共同議題。
四
數(shù)據(jù)作為新興生產(chǎn)要素,是數(shù)字化、網(wǎng)絡化、智能化的基礎,在我國數(shù)字經(jīng)濟取得飛速發(fā)展、數(shù)字產(chǎn)業(yè)規(guī)模不斷擴大的背景下,數(shù)據(jù)基礎制度的重要性不言而喻。數(shù)據(jù)產(chǎn)權、數(shù)據(jù)流通交易、數(shù)據(jù)收益分配、數(shù)據(jù)安全治理等問題已經(jīng)引起國家層面的高度重視,相關制度的頂層設計已是箭在弦上。在未來的國際競爭中,如何充分發(fā)揮我國海量的數(shù)據(jù)規(guī)模和豐富的應用場景優(yōu)勢,兌現(xiàn)數(shù)字經(jīng)濟的潛能,實現(xiàn)社會的全面數(shù)字化轉(zhuǎn)型,既需要技術能力的持續(xù)進步,亦有賴商業(yè)模式的不斷突破,更需要法律規(guī)則的調(diào)整完善。編輯和譯者們之所以慎之又慎地選擇這三本國外專著,也是期望這些立足于不同國家和地區(qū)社會現(xiàn)實的觀點與素材,能夠?qū)ξ覈臄?shù)據(jù)壟斷問題、數(shù)字市場規(guī)制以及數(shù)據(jù)正義實踐提供借鑒經(jīng)驗和理論樣本。
應當承認,人工智能及其相關的法律問題具有本土化特點,不同國家和地區(qū)在技術水平、市場結構和法律傳統(tǒng)上存在顯著差異。但數(shù)據(jù)持有的集中化和數(shù)據(jù)壟斷的普遍性,以及由此帶來的市場支配力量和控制力,都將對數(shù)字市場的競爭秩序和社會公平正義的實現(xiàn)產(chǎn)生顯著影響。因此,站在中國看世界與通過世界看中國,對人工智能領域上述法律問題深入而持續(xù)的學術研究仍不可偏廢。
彭誠信上海交通大學特聘教授上海交通大學人工智能治理與法律研究中心副主任凱原法學院數(shù)據(jù)法律研究中心主任2023年7月2日
莉娜·丹席克(Lina Dencik),卡迪夫大學新聞、媒體與文化學院數(shù)字傳播與社會學教授,英國數(shù)據(jù)正義實驗室的聯(lián)合創(chuàng)始人兼主任。阿恩·欣茨(Arne Hintz),卡迪夫大學新聞、媒體與文化學院高級講師、研究生研究室主任、英國數(shù)據(jù)正義實驗室的聯(lián)合主任。喬安娜·雷登(Joanna Redden),加拿大韋士敦大學信息與媒體研究學院助理教授、英國數(shù)據(jù)正義實驗室的聯(lián)合主任。埃米利亞諾·特雷(Emiliano Treré),卡迪夫大學新聞、媒體與文化學院高級講師。向秦,法學博士,華東政法大學助理研究員,互聯(lián)網(wǎng)法治研究院(杭州)研究員,美國加州大學伯克利分校、新加坡管理大學訪問學者,主要從事網(wǎng)絡信息法、數(shù)據(jù)與人工智能法研究。
主編序/1
致謝/1
導言/1
第一章數(shù)據(jù)與資本主義/11
第一節(jié)大型科技公司的崛起/12
第二節(jié)數(shù)據(jù)的價值/16
第三節(jié)數(shù)據(jù)化下的社會關系/21
第四節(jié)結論:數(shù)據(jù)正義是反資本主義嗎?/24
第二章數(shù)據(jù)與治理/27
第一節(jié)對數(shù)據(jù)中信任的挑戰(zhàn)/28
第二節(jié)數(shù)據(jù)治理和關注歷史的重要性/30
第三節(jié)通過人工智能和自動化決策系統(tǒng)實現(xiàn)
數(shù)據(jù)化治理/34
第四節(jié)數(shù)據(jù)治理產(chǎn)生鴻溝/36
第五節(jié)結論:考慮潛在的數(shù)據(jù)化未來/42
第三章數(shù)據(jù)與去西方化/45
第一節(jié)數(shù)據(jù)普遍主義的問題/46
第二節(jié)去西方化:假設、條件和意義/50
第三節(jié)數(shù)據(jù)研究中去西化的四個維度:文化、
問題、案例和理論/52
第四節(jié)結論:如何連接全球社會學與數(shù)據(jù)
正義?/60
第四章數(shù)據(jù)危害/63
第一節(jié)數(shù)據(jù)危害記錄/64
第二節(jié)數(shù)據(jù)危害分類/65
第三節(jié)結論:解決數(shù)據(jù)危害/76
第五章數(shù)據(jù)與公民身份/79
第一節(jié)公民身份:法律地位與實踐/80
第二節(jié)作為用戶畫像的公民/82
第三節(jié)數(shù)據(jù)化公民身份與民主/88
第四節(jié)積極的公民身份、素養(yǎng)與參與/92
第五節(jié)結論:在參與與控制之間的數(shù)據(jù)化
公民/94
第六章數(shù)據(jù)與政策/96
第一節(jié)數(shù)據(jù)規(guī)范生態(tài)/98
第二節(jié)監(jiān)管趨勢:兩種政策/100
第三節(jié)知情用戶和數(shù)據(jù)個人主義的問題/102
第四節(jié)制度性回應:數(shù)據(jù)管理/105
第五節(jié)話語、規(guī)范與利益/108
第六節(jié)結論:邁向數(shù)據(jù)正義政策/112
第七章數(shù)據(jù)與社會運動/114
第一節(jié)社會運動、數(shù)據(jù)機構和政治/115
第二節(jié)數(shù)據(jù)與社會運動之間的相互塑造:
生態(tài)、基礎設施與想象/118
第三節(jié)反數(shù)據(jù)行動/122
第四節(jié)算法政治與行為主義/126
第五節(jié)結論:理解數(shù)字行為主義數(shù)據(jù)正義
的關鍵組成部分/132
第八章數(shù)據(jù)與社會正義/135
第一節(jié)信息、溝通與媒體正義/137
第二節(jié)數(shù)據(jù)化與反規(guī)范的正義 /140
第三節(jié)數(shù)據(jù)化時代的社會正義動員/146
第四節(jié)結論:什么是數(shù)據(jù)正義?/149
參考文獻/151
索引/199