前言
在數(shù)字時代來臨之時,《世界人工智能法治藍皮書(2021)》(以下簡稱《藍皮書(2021)》)與大家見面了。2021 年是中國共產(chǎn)黨成立100 周年,也是我國十四五規(guī)劃實施的年,開啟了全面建設社會主義現(xiàn)代化國家新征程。
《中華人民共和國國民經(jīng)濟和社會發(fā)展第十四個五年規(guī)劃和2035 年遠景目標綱要》把堅持創(chuàng)新驅(qū)動發(fā)展作為全面塑造發(fā)展新優(yōu)勢的重要舉措,強調(diào)堅持創(chuàng)新在我國現(xiàn)代化建設全局中的核心地位,把科技自立自強作為國家發(fā)展的戰(zhàn)略支撐,明確提出實施科技興國戰(zhàn)略、人才強國戰(zhàn)略、創(chuàng)新驅(qū)動發(fā)展戰(zhàn)略,完善國家創(chuàng)新體系,加快建設科技強國;明確提出瞄準人工智能、量子信息、集成電路、生命健康、腦科學、生物育種、空天科技、深地深海等前沿領域,實施一批具有前瞻性、戰(zhàn)略性的國家重大科技項目;加快數(shù)字化發(fā)展,建設數(shù)字中國。
數(shù)字技術、數(shù)字經(jīng)濟、數(shù)字社會、數(shù)字政府建設正在深刻地改變著人們的生產(chǎn)、生活方式和社會治理方式。數(shù)字化轉(zhuǎn)型推動智能社會的快速形成。
人工智能是一把雙刃劍。人工智能兼具科技屬性、社會屬性的特點,決定了其在造福人類的同時,也會帶來風險與挑戰(zhàn)。
2018 年9 月17 日國家主席習近平在致2018 世界人工智能大會的賀信中就深刻地指出:新一代人工智能正在全球范圍內(nèi)蓬勃興起,為經(jīng)濟社會發(fā)展注入了新動能,正在深刻改變?nèi)藗兊纳a(chǎn)生活方式。把握好這一發(fā)展機遇,處理好人工智能在法律、安全、就業(yè)、道德倫理和政府治理等方面提出的新課題,需要各國深化合作、共同探討。
如何應對人工智能發(fā)展可能帶來的風險與挑戰(zhàn)、處理好這新課題?
人工智能法治應運而生。
數(shù)字時代,智能社會,法律不可缺席,法治將伴隨其行。
上海法治工作者積極行動,早在2018 世界人工智能大會人工智能與法治高端研討會(上海市法學會主辦)即發(fā)布了《人工智能與未來法治構(gòu)建上海倡議》,提出構(gòu)建人工智能未來法治體系,推動人工智能法治研究及全球治理十四項倡議。運用法治思維、法治方法引領、規(guī)范、促進、保障人工智能安全、可靠、可控、健康發(fā)展逐步形成共識。
2019 年,上海市法學會聯(lián)合浙江清華長三角研究院、華東政法大學、上海政法學院啟動編寫《世界人工智能法治藍皮書(2019 )》(以下簡稱《藍皮書(2019 )》),并于同年8 月30 日在2019 世界人工智能大會法治論壇上發(fā)布。這是國內(nèi)外部關于人工智能法治的藍皮書,引起了社會各界廣泛關注,并被列入《關于建設人工智能上海高地構(gòu)建一流創(chuàng)新生態(tài)的行動方案(20192021 年)》(滬經(jīng)信智[2019]707 號,以下簡稱《行動方案》)七大行動之一。編書人員備受鼓舞,為高質(zhì)量編寫好藍皮書,上海市法學會會同浙江清華長三角研究院、華東政法大學、上海政法學院加強充實了藍皮書編委會和編輯部人員。三年來,在法學界、科技界的關心與支持下,藍皮書編輯部人員秉承共同志向,克服重重困難,不遺余力,自覺奉獻,努力編寫,使《藍皮書》質(zhì)量不斷提升,影響力也越來越大。一是藍皮書被納入上海打造人工智能高地建設整體戰(zhàn)略之中,成為建設人工智能上海高地、構(gòu)建一流創(chuàng)新生態(tài)行動標志性品牌之一。二是為引領、繁榮、推動人工智能法治研究發(fā)揮了積極作用。《藍皮書》每年度出版,匯集了當年度國內(nèi)外人工智能法治發(fā)展的戰(zhàn)略、政策、法律、重大理論研究、實際應用項目、典型司法案例等方面的資料,為促進人工智能法治理論研究,構(gòu)建人工智能法治體系,引領、規(guī)范、保障人工智能安全、可靠、可控、健康發(fā)展提供了重要參考。三是藍皮書編委會組織專家團隊創(chuàng)造性地編制并發(fā)布了《人工智能法治發(fā)展指數(shù)》(世界首創(chuàng)),并對國內(nèi)人工智能法治發(fā)展進行評估,以可量化可視化的形式,反映人工智能法治發(fā)展情況。四是《藍皮書》英文版將出版。德國施普林格(Springer)出版社、上海人民出版社、上海市法學會將簽署戰(zhàn)略合作協(xié)議,籌備出版《世界人工智能法治藍皮書》英文版。《藍皮書》得到了國內(nèi)外法學法律界、科技界專家學者、社會公眾的持續(xù)關注與高度評價。
當《藍皮書(2021 )》編輯工作啟動之時,編委會十分榮幸地請到了著名法學家張文顯教授(中國法學會學術委員會主任、教授、博士生導師)、公共管理學專家薛瀾教授(清華大學蘇世民書院院長、人工智能國際治理研究院院長、教授、博士生導師)擔任本書學術顧問。在他們的指導下,藍皮書的質(zhì)量會進一步提升,權威性、影響力會更大。
《藍皮書(2021)》編寫情況
編寫過程!端{皮書(2021 )》編寫工作于2020 年12 月啟動,于2021 年6 月完稿。編輯部先后開了6 次專題會議,就編寫方案、編寫內(nèi)容、有關專項(如人工智能法治發(fā)展指數(shù)2.0 、專題報告、專家訪談、專項問卷等)進行專門研究,同時書面征求張文顯、薛瀾、葉青、劉曉紅、王濤、施偉東、劉學堯、劉憲權、彭誠信、趙春學、楊寅、白寧、孫莉、楊菲、曹培雷、孫飛虎等專家學者及編委意見,得到了各位專家學者和編委的大力支持,大家提出了許多寶貴意見和建議,為編好此書貢獻了自己的智慧。本書的編寫同時得到了中馳集團股份有限公司、上海竑鑫電力工程有限公司、重慶尚優(yōu)科技有限公司、北京卡爾斯通科技有限公司的大力支持。
主要內(nèi)容。《藍皮書(2021 )》由前言、發(fā)布詞、人工智能法治發(fā)展綜述、人工智能法治發(fā)展指數(shù)2.0 、2020 中國人工智能法治發(fā)展評估報告、2020 世界人工智能法治論壇觀點精粹、智慧法治學術影響力TOP100 、分析報告(計4 個部分:部分人工智能法律與政策、第二部分人工智能法治理論研究、第三部分人工智能法治應用、第四部分人工智能司法案件分析)、專題報告(計5 篇:世界數(shù)據(jù)權利保護發(fā)展報告、全球自動駕駛汽車法律問題研究報告、金融領域人工智能算法治理研究報告、人工智能在紀檢監(jiān)察治理領域應用研究報告、長三角區(qū)域數(shù)字化轉(zhuǎn)型發(fā)展報告)、人工智能法治發(fā)展專家訪談(5 位)、人工智能行業(yè)企業(yè)法治專題采訪以及7 個附錄組成。
《藍皮書(2021 )》的綜述、指數(shù)報告、分析報告(至第四部分),分別由林竹靜、彭輝、郝作成、詹可、陳吉棟、吳濤執(zhí)筆。專題報告(第五部分)分別由楊東、田騫、彭誠信、陳吉棟、許端蓉、蔡哲鵬、孫紫軒、吳濤、林竹靜、詹可等相關專業(yè)領域?qū)<覍W者撰寫。
人工智能法治發(fā)展專家訪談、人工智能行業(yè)企業(yè)法治專題采訪(第六、第七部分),由趙玉成組織執(zhí)筆,分別對薛瀾、劉艷紅、邰江麗、斯皮羅斯·馬尼亞蒂斯(Spyros Maniatis)、菲利波·法羅西尼(Filippo Fabrocini) 等專家,以及科大訊飛、重慶尚優(yōu)、商湯科技、小馬智行、仙塔智能科技、樂言科技、地平線、雪湖科技等知名人工智能行業(yè)企業(yè)進行訪談,并形成訪談報告(專題報告、專家訪談與專題采訪基本保留作者、專家原有的觀點,因篇幅所限對文字進行了壓縮)。
附錄部分由李妍、韋云灝、王雨禾、寧馨、鄧涵、劉茜、馮煜哲執(zhí)筆。胡榮鑫、胡鵬、王健、徐艾敬、周巡、朱翹楚、岳強、王玉璇、姜懷舒、范雨萱、王意天、黃鈺、龔思涵、李若瑩、向明鏡、張冬歌、黃璞、黃倩、李源、戴藝非、孫紫軒、劉瀏等同志參與了書稿的研究、校對工作。
主要特點。《藍皮書(2021 )》重點聚焦世界人工智能法治發(fā)展動態(tài),搜集匯總各國有關人工智能法治發(fā)展的戰(zhàn)略、政策、法律、理論研究、重大項目應用、典型司法案例等方面的資料,通過分析、評估,形成了較為客觀、公正、準確、全面的分析報告。《藍皮書(2021 )》在保持《世界人工智能法治藍皮書(2020 )》基本結(jié)構(gòu)內(nèi)容的同時,具有以下新的特點:
一是修訂了《人工智能法治發(fā)展指數(shù)》。根據(jù)張文顯等專家的意見,新增一項一級指標(人才培養(yǎng)),兩項二級指標(學生人數(shù)課程設置),形成《人工智能法治發(fā)展指數(shù)2.0 》(以下簡稱指數(shù)2.0),使指數(shù)設定更加完善,主客觀指標更加均衡。
二是新增了對國外涉人工智能司法案例的分析與研判。鑒于各國司法制度和司法公開程度不同,以及人工智能發(fā)展情況不同,資料收集受限制等方面的困難,本次分析僅限于美國、英國、法國、加拿大、澳大利亞、新加坡、印度等國家部分典型案例,并整理形成人工智能司法案例要素標簽體系用于輔助分析。
三是新增人工智能行業(yè)企業(yè)法治專題采訪。聚焦人工智能法治發(fā)展的重點熱點問題,邀請國內(nèi)人工智能領域領軍企業(yè)發(fā)表意見、建議。全書結(jié)構(gòu)更加合理,內(nèi)容更加豐富,為繁榮、引領人工智能法治研究提供學術儲備和制度供給。數(shù)據(jù)來源!端{皮書(2021 )》數(shù)據(jù)庫建設、數(shù)據(jù)采集與管理工作由浙江清華長三角研究院法治與社會治理研究中心人工智能法治數(shù)據(jù)庫提供支持。
人工智能法律與政策數(shù)據(jù)主要源自中國全國人大網(wǎng)站、國務院及其各部門網(wǎng)站、地方人民政府網(wǎng)站,以及美國、歐盟等相關國家與地區(qū)的政府部門網(wǎng)站、法律法規(guī)數(shù)據(jù)庫及其他公開出版的研究報告。
人工智能法治理論研究數(shù)據(jù)源自當當網(wǎng)、亞馬遜網(wǎng)等圖書銷售網(wǎng)站、中國知網(wǎng)數(shù)據(jù)庫、Web of Science 數(shù)據(jù)庫、中國法學創(chuàng)新網(wǎng)、中國學術會議在線、艾思學術會議、百度搜索、微信搜索,以及國家社科基金項目和省部級(司法部、法學會、教育部等)法學課題立項數(shù)據(jù)。
人工智能法治應用數(shù)據(jù)源自全國人大、公安部網(wǎng)站、31 個省級人大網(wǎng)站、31 個省級行政區(qū)的政府網(wǎng)站、公安廳網(wǎng)站和公安廳微信公眾號以及相關調(diào)研。人工智能司法案件分析數(shù)據(jù)源自中國裁判文書網(wǎng)、威科先行法律信息數(shù)據(jù)庫、LexisNexis 、Westlaw 、相關國家政府網(wǎng)站,以及其他網(wǎng)絡公開資料。本書封面設計由北京高高國際文化傳媒有限責任公司承擔,上海人民出版社負責出版。
《藍皮書》編寫雖已進行了三年,但人工智能法治是一個新事物,編寫工作仍處于探索階段。經(jīng)驗不足,水平有限,資料有限,書的內(nèi)容包括對資料的搜集、匯總、分析以及文字等方面都可能有疏漏抑或謬誤之處,敬請各位讀者批評指正,也歡迎大家對我們今后的編寫工作提出更多更好的建議。
2021 年7 月1 日
01 前 言
001 《世界人工智能法治藍皮書(2021)》發(fā)布詞
001 《人工智能法治發(fā)展指數(shù)2.0》和《2020中國人工智能法治發(fā)展評估報告》發(fā)布詞
001 人工智能法治發(fā)展綜述
017 人工智能法治發(fā)展指數(shù)2.0
020 2020中國人工智能法治發(fā)展評估報告
036 2020世界人工智能大會法治論壇觀點精粹 智慧法治學術影響力TOP100(2021世界人工智能大會法治青年論壇現(xiàn)
場發(fā)布)
部分.人工智能法律與政策
040 一、概 述
042 二、中國人工智能法律與政策
042(一)中國人工智能法治基礎背景
043(二)中國人工智能法治基本情況
045(三)制度規(guī)范框架補充完善
047(四)專項落實領域放寬加深
049(五)人工智能應用與監(jiān)管齊頭并進
054(六)部門規(guī)章和政策加快實施
072(七)地方規(guī)范沿城市群分布
076 三、國外人工智能法律與政策
076(一)基本情況
078(二)法律與政策
第二部分.人工智能法治理論研究
105一、概 述
107二、中國人工智能法治理論研究
107(一)人工智能法治研究重點分析
116(二)人工智能法治研究專著分析
126(三)人工智能法治科研項目分析
138(四)人工智能法治研究論壇分析147(五)人工智能法治研究論文分析
167三、國外人工智能法治理論研究
167(一)研究方向分析
169(二)作者分布分析
170(三)地域分布分析
第三部分.人工智能法治應用
171一、概 述
172二、人工智能立法應用
172(一)中國人工智能立法應用
177(二)國外人工智能立法應用
178 三、人工智能司法應用
178(一)中國人工智能司法應用
190(二)國外人工智能司法應用
192 四、人工智能執(zhí)法應用
192(一)中國人工智能執(zhí)法應用
205(二)國外人工智能執(zhí)法應用
209 五、人工智能法律服務應用
209(一)中國人工智能法律服務應用
221(二)國外人工智能法律服務應用
第四部分.人工智能司法案件分析
226一、概述
227二、中國人工智能司法案件分析
227(一)人工智能司法案件時點分析
228(二)人工智能司法案件地域分析
229(三)人工智能司法案件訴訟主體分析
230(四)人工智能司法案件訴訟類型分析
235(五)對國內(nèi)人工智能法治發(fā)展的建議
236 三、國外人工智能司法案例分析
236(一)要素標簽體系
237(二)國外人工智能司法案例概況
238(三)國外人工智能司法案例判決的特點分析
240(四)國外人工智能司法案例的經(jīng)驗啟示
第五部分.人工智能法治發(fā)展專題報告
242一、世界數(shù)據(jù)權利保護發(fā)展報告
254二、全球自動駕駛汽車法律問題研究報告
264三、金融領域人工智能算法治理研究報告
274四、人工智能在紀檢監(jiān)察治理領域應用研究報告
284五、長三角區(qū)域數(shù)字化轉(zhuǎn)型發(fā)展報告
第六部分.人工智能法治發(fā)展專家訪談
296一、 打造多元共治體系,發(fā)展負責任的人工智能專訪清華大學蘇世民書院院長薛瀾
300二、 人工智能侵害法律責任的泛化與問題專訪中國政法大學教授劉艷紅
303三、 法治為人工智能產(chǎn)業(yè)發(fā)展創(chuàng)造健康環(huán)境專訪字節(jié)跳動中國法務部負責人邰江麗
307四、 人工智能是一種積極的力量專訪英國國際與比較法研究院院長斯皮羅斯·馬尼亞蒂斯(Spyros Maniatis)
317五、 誰來負責?人工智能與責任專訪同濟大學設計創(chuàng)意學院教授菲利波·法羅西尼(Filippo Fabrocini)
第七部分.人工智能行業(yè)企業(yè)法治專題采訪
324一、大數(shù)據(jù)與隱私保護,人工智能企業(yè)所關注的法治問題
327二、侵權責任與知識產(chǎn)權保護,人工智能企業(yè)的法治痛點
334三、政府的引導和參與,人工智能企業(yè)的法治期待
342附錄一
345附錄二
346附錄三
348附錄四
351附錄五
353附錄六
354附錄七
附錄
人工智能政策法規(guī)一覽(2020.62021.6)
人工智能法制研究機構(gòu)一覽(2020.62021.6)
人工智能法治重要著作一覽(2020.62021.6)
人工智能法治重要會議(論壇)一覽(2020.62021.6)
人工智能法治應用典型事例一覽(2020.62021.6)
人工智能司法典型案例一覽(2020.62021.6)
人工智能法治大事記(2020.62021.6)