作者：劉芳 編審：王新凱

排版：王落塵

在數(shù)據(jù)保護(hù)和人工智能技術(shù)監(jiān)管方面，歐盟一直走在立法實(shí)踐的最前端。當(dāng)?shù)貢r間 4 月 21 日，歐盟委員會公布了名為 “Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) And Amending Certain Union Legislative Acts” 的草案，對人工智能技術(shù)應(yīng)用進(jìn)行了風(fēng)險評定。

根據(jù)這份草案，歐盟將全面禁止大規(guī)模監(jiān)控和利用人工智能技術(shù)的社會信用體系，同時對特定領(lǐng)域的 “高風(fēng)險” 應(yīng)用進(jìn)行嚴(yán)格限制。

2020 年 2 月 19 日，歐盟委員會曾發(fā)布了名為 “White Paper on Artificial Intelligence - A European approach to excellence and trust” 的白皮書，就如何促進(jìn)人工智能發(fā)展及解決相關(guān)風(fēng)險進(jìn)行了討論。而 21 日發(fā)布的這項草案正是白皮書的法律延伸，目的在于為實(shí)現(xiàn)可信賴的人工智能生態(tài)系統(tǒng)提供牢固的法律框架。

一旦得到通過，這項法案將在很大程度上對其他地區(qū)的人工智能治理帶來影響，就如 2018 年 5 月 25 日生效的《歐盟一般數(shù)據(jù)保護(hù)條例》（GDPR）一樣。

歐盟競爭事務(wù)負(fù)責(zé)人 Margrethe Vestager 在公布草案時表示：“通過標(biāo)志性法規(guī)，歐盟正在確立全球規(guī)范，以確保人工智能是一項值得信賴的技術(shù)。通過制定標(biāo)準(zhǔn)，我們可以為符合倫理的人工智能技術(shù)鋪平道路，并確保歐盟在此過程中保持競爭力?！?/span>

Politico 專門負(fù)責(zé) AI 報道的 Melissa Heikkil? 則認(rèn)為，這個草案有著一定的先發(fā)優(yōu)勢，它將在很大程度上影響由歐洲理事會、經(jīng)合組織、北約、聯(lián)合國教科文組織和七國集團(tuán)主導(dǎo)的全球人工智能伙伴關(guān)系 (Global Partnership on Artificial Intelligence) 的探討。

被全面禁止的人工智能應(yīng)用

在草案中，歐盟委員會首先討論了什么是人工智能這個問題。

由于技術(shù)錯綜復(fù)雜，行業(yè)內(nèi)部一直沒有就這個問題給出確定的統(tǒng)一答案。歐盟委員會認(rèn)為，人工智能是一大類迅速發(fā)展技術(shù)的統(tǒng)稱。對于一組人類指定目標(biāo)，這項技術(shù)可以在物理或數(shù)字維度給出包括內(nèi)容、預(yù)測、建議或決策的輸出，從而對其交互的環(huán)境產(chǎn)生影響。人工智能系統(tǒng)或自己為終端產(chǎn)品（非嵌入式），或為產(chǎn)品的一個組成部分（嵌入式）。

為了提供必要的法律確定性，歐盟委員會在草案中用附件的形式詳細(xì)列舉出了屬于人工智能范圍內(nèi)的技術(shù)清單。不僅如此，該清單還會不斷更新，從而和最前沿的人工智能技術(shù)保持同步性。換言之，人工智能的定義在這項草案里具有靈活性和時效性，巧妙化解了法律滯后性和技術(shù)飛速發(fā)展之間的矛盾，為之后行業(yè)的合規(guī)帶來了便利。

草案將人工智能應(yīng)用分為了完全不可接受風(fēng)險、高風(fēng)險和低風(fēng)險等不同等級，其中有三種應(yīng)用被完全禁止。

第一種是在不知不覺中對人類意識進(jìn)行操控，從而影響其決定或扭曲其行為，進(jìn)而對人類造成身體或心理的傷害。有觀察家認(rèn)為，這項條例可以讓人聯(lián)想到 Facebook、Twitter、谷歌和亞馬遜的大部分商業(yè)模式，及虛假信息和極端主義等推薦算法。雖然沒有明確指出條例所針對的對象，但歐盟委員會是世界上首個以法律語言禁止人工智能系統(tǒng) “操控” 人類思想的機(jī)構(gòu)。

第二種情況是利用兒童或殘疾人的脆弱性對其造成傷害，這顯示了歐盟一貫的對弱勢群體的重視和保護(hù)。

第三項則是基于人工智能系統(tǒng)上的社會信用體系。歐盟委員會認(rèn)為，公共當(dāng)局根據(jù)自然人的社會行為或人格特征對其進(jìn)行信用評估會造成不可預(yù)見的后果，個人或特定群體的權(quán)益將受到損害。不同的社會語境會產(chǎn)生不同的算法偏見，而算法偏見將直接對信用評估產(chǎn)生影響。這樣的社會信用體系侵蝕社會公平公正的原則，因此需要被禁止。

對于很多人關(guān)注的面部識別技術(shù)，歐盟委員會在這份草案中留出了余地。作為 “實(shí)時遠(yuǎn)程生物識別技術(shù)” 的一種，面部識別在很大程度上侵犯了人們的隱私。因此，無差別的大規(guī)模監(jiān)控會被歐盟全面禁止，只有在三種特定情況下除外：尋找失蹤兒童；解除恐怖襲擊的威脅；以及在法律允許范圍內(nèi)追查特定的刑事犯罪嫌疑人。

“實(shí)時遠(yuǎn)程生物識別技術(shù)” 是這次歐盟委員會著重強(qiáng)調(diào)進(jìn)行限制的人工智能技術(shù)，它特指在沒有顯著延遲的情況下對個體生物數(shù)據(jù)的捕獲、比較和識別。這項技術(shù)的特點(diǎn)是將人的生物數(shù)據(jù)與數(shù)據(jù)庫進(jìn)行比較，并且事先并不確定目標(biāo)人物是否會出現(xiàn)。值得注意的是，在歐盟議會內(nèi)部有強(qiáng)烈的全面禁止這項技術(shù)的聲音。上周，40 名歐盟議會議員曾聯(lián)名上書，批評該草案對 “實(shí)時遠(yuǎn)程生物識別” 技術(shù)網(wǎng)開一面。 

高風(fēng)險應(yīng)用場景

除了以上被全面禁止的情況外，歐盟委員會還詳細(xì)列舉了人工智能的 “高風(fēng)險” 應(yīng)用。草案稱，高風(fēng)險的人工智能系統(tǒng)只有在符合歐盟強(qiáng)制性要求的情況下才能投入市場使用，否則公共利益會受到不可接受的風(fēng)險。換言之，未來不符合準(zhǔn)入標(biāo)準(zhǔn)的人工智能系統(tǒng)將被無情地?fù)踉跉W盟市場之外。

首先是執(zhí)法系統(tǒng)和法院對人工智能的使用。草案稱，執(zhí)法當(dāng)局使用人工智能系統(tǒng)會導(dǎo)致權(quán)力嚴(yán)重失衡，侵犯個人基本權(quán)益。如果訓(xùn)練這些算法的數(shù)據(jù)質(zhì)量不高，或算法的準(zhǔn)確性及魯棒性沒有達(dá)到要求，那么程序性正義，公平審判權(quán)，辯護(hù)權(quán)和無罪推定的權(quán)利就會受到?jīng)_擊。歐盟委員會尤其將個人風(fēng)險評估、測謊儀、辨別情緒等應(yīng)用歸為高風(fēng)險。在刑事訴訟中，基于人工智能技術(shù)對證據(jù)進(jìn)行可靠性評估，對嫌疑人的性格特征進(jìn)行判斷，或基于過去的犯罪行為進(jìn)行推定等行為同樣被歸為高風(fēng)險范圍。

其他的高風(fēng)險應(yīng)用場景主要集中在社會保障、就業(yè)和教育等與生活息息相關(guān)的方面。在就業(yè)方面，歐盟委員會考慮到了人工智能在招聘、升職、解雇及合同關(guān)系中可能扮演的重要角色。草案認(rèn)為，利用算法對工作人員進(jìn)行評估或監(jiān)測無疑屬于高風(fēng)險，因為它們對員工的職業(yè)前景和基本生計有著難以把控的影響。同時因為算法偏見，人工智能對婦女、殘疾人或年齡的歧視也將繼續(xù)，人們的隱私權(quán)將不可避免地受到威脅。

在教育方面，歐盟委員會認(rèn)為利用算法進(jìn)行招生錄取及考試評定必須被視為高風(fēng)險，因為這很可能會影響他們這一生受教育的機(jī)會，還將產(chǎn)生社會固化的問題。在社會保障系統(tǒng)方面，歐盟委員會認(rèn)為人工智能參與決策過程將對民生產(chǎn)生重大影響。例如，利用人工智能決定人們是否能獲得銀行貸款、財政補(bǔ)助、保障性住房、電力電信等基本服務(wù)。由于種族、殘疾、年齡、性取向等各種因素，算法很可能會延續(xù)目前社會已經(jīng)存在的廣泛歧視，從而使弱勢群體處于更加不利的地位。

草案中對于高風(fēng)險人工智能的合規(guī)要求招來了一些歐盟組織的反對。雖然歐盟將通過質(zhì)量管理和評估程序嚴(yán)格管控，但一些人工智能技術(shù)供應(yīng)商將被允許進(jìn)行自我合規(guī)測評。數(shù)字權(quán)利組織 EDRi 的高級政策顧問 Sarah Chander 對 Politico 表示：“歐盟委員會將合規(guī)交給了人工智能供應(yīng)商，這可能會損害（人們的）基本權(quán)利，甚至可能讓公共當(dāng)局逍遙法外。” 

對此某些科技行業(yè)的游說人士則感到寬慰，他們對高風(fēng)險應(yīng)用的合規(guī)要求表示稱贊。計算機(jī)與通信行業(yè)協(xié)會（Computer & Communications Industry Association）的 Christian Borggreen 對法新社指出，歐盟委員會采用了基于風(fēng)險的評估方法，這很好。該協(xié)會代表了包括亞馬遜、Facebook 和谷歌在內(nèi)的多家科技巨頭。違反此法案的公司可能被處于 2000 萬歐元或公司收入 4% 的罰款，與此前的反壟斷法規(guī)定類似。

隨著草案的出臺，關(guān)于數(shù)據(jù)主體基本權(quán)利與技術(shù)創(chuàng)新間關(guān)系的新一輪爭論也將隨之拉開序幕。要想獲得通過，這項法案必須得到代表歐盟 27 國政府的歐洲理事會和直接選舉產(chǎn)生的歐洲議會的批準(zhǔn)，整個過程可能需要數(shù)年時間。去年年底，以丹麥為首的 14 個國家發(fā)表了一份不具約束力的文件，呼吁建立一個更 “靈活” 的法律框架。但對于德國這樣更注重隱私的國家來說，這項草案的規(guī)定明顯還不夠深入。

人工智能技術(shù)的日新月異與歐盟繁瑣復(fù)雜的立法機(jī)制形成了鮮明的對比。但無論如何，人類已經(jīng)就人工智能的系統(tǒng)性風(fēng)險已經(jīng)展開了實(shí)質(zhì)性的立法規(guī)劃。從這個意義上來看，歐盟再次在法治戰(zhàn)略上搶得先機(jī)。

參考資料：

https://digital-strategy.ec./en/library/proposal-regulation-european-approach-artificial-intelligence

https://www./

https://www./newsletter/ai-decoded/politico-ai-decoded-key-battles-for-the-eus-ai-law-ai-governance-twitters-algorithm/ 

https://news.yahoo.com/eu-unveils-ai-rules-temper-041250924.html

https://www./2021/04/16/business/artificial-intelligence-regulation.html  

學(xué)術(shù)頭條

一群熱愛科學(xué)的小伙伴，致力于學(xué)術(shù)傳播和科學(xué)普及，重點(diǎn)關(guān)注人工智能、生命科學(xué)等前沿科學(xué)進(jìn)展。

1082篇原創(chuàng)內(nèi)容

公眾號