2023年12月8日,，歐盟成員國及歐洲議會(huì)議員就《人工智能法案》（以下稱“法案”）達(dá)成初步協(xié)議,。當(dāng)前，歐盟僅公布了法案的提案,，尚未公布最終的法案版本,，下一步,，歐盟將就法案的更多技術(shù)細(xì)節(jié)進(jìn)行最終討論確定后公布。法案為不同風(fēng)險(xiǎn)程度的人工智能系統(tǒng)施加不同的要求和義務(wù),，其提出的風(fēng)險(xiǎn)分類,、價(jià)值鏈責(zé)任、負(fù)責(zé)任創(chuàng)新和實(shí)驗(yàn)主義治理等思路對(duì)我國人工智能立法具有一定的借鑒意義,。

一,、出臺(tái)背景

法案是歐盟實(shí)現(xiàn)整體戰(zhàn)略的關(guān)鍵舉措。自2018年以來,，歐盟先后出臺(tái)《歐洲人工智能戰(zhàn)略》《人工智能協(xié)調(diào)計(jì)劃》兩個(gè)重要政策文件,，初步勾勒出歐盟人工智能的發(fā)展戰(zhàn)略框架。2020年,，歐洲委員會(huì)發(fā)布了兩份有關(guān)“塑造歐洲數(shù)字未來戰(zhàn)略”的政策文件,，其中，《人工智能白皮書》關(guān)注交通,、醫(yī)療等公共領(lǐng)域的人工智能發(fā)展及風(fēng)險(xiǎn)化解,；《歐洲數(shù)據(jù)戰(zhàn)略》提出推動(dòng)歐盟成為世界上最具競爭力的數(shù)字敏捷型經(jīng)濟(jì)體,，建立歐盟數(shù)字單一市場。在此背景下,，2021年4月,，歐盟出臺(tái)法案，從而在法律層面強(qiáng)化落實(shí)歐盟戰(zhàn)略,，以期實(shí)現(xiàn)引領(lǐng)全球人工智能治理的目標(biāo),。

法案是促進(jìn)可信賴人工智能發(fā)展的現(xiàn)實(shí)基礎(chǔ)。人工智能系統(tǒng)可以部署在經(jīng)濟(jì)和社會(huì)的多個(gè)部門,，并可以通過跨境部署實(shí)現(xiàn)在整個(gè)歐盟內(nèi)流通,。已經(jīng)有成員國探索通過制定國家規(guī)則，確保人工智能在遵守基本權(quán)利義務(wù)的情況下開發(fā)和使用,，然而,，不同的國家規(guī)則可能導(dǎo)致內(nèi)部市場的分裂，并減損法律確定性,。因此,，為了實(shí)現(xiàn)可信賴的人工智能，歐盟通過制定法案為運(yùn)營商規(guī)定統(tǒng)一的義務(wù),，確保在整個(gè)歐盟范圍內(nèi)提供一致的高水平保護(hù),，同時(shí)防止出現(xiàn)阻礙人工智能系統(tǒng)及相關(guān)產(chǎn)品和服務(wù)在內(nèi)部市場自由流通、創(chuàng)新,、部署和采用的分歧,。

法案是應(yīng)對(duì)人工智能技術(shù)潛在風(fēng)險(xiǎn)的重要方式。ChatGPT等通用人工智能技術(shù)的發(fā)展,，迅速改變?nèi)斯ぶ悄芟到y(tǒng)的構(gòu)建和部署方式,，其顛覆性特質(zhì)也帶來了侵犯個(gè)人隱私、泄露商業(yè)秘密,、傳播虛假信息,、造成信息繭房等安全隱患。ChatGPT等人工智能領(lǐng)域近期進(jìn)展使得立法需求愈發(fā)重要,、緊迫,，因此，歐盟立法者就相關(guān)問題展開了廣泛且激烈的討論,，歐盟理事會(huì)主席國也多次發(fā)布法案妥協(xié)文本,，不斷增刪、澄清法案內(nèi)容,。

二,、主要內(nèi)容

法案圍繞人工智能系統(tǒng)的開發(fā)、投放市場及使用制定了監(jiān)管框架,，采用基于風(fēng)險(xiǎn)的規(guī)制思路,，為不同風(fēng)險(xiǎn)程度的人工智能系統(tǒng)施加不同的要求和義務(wù),。其中，禁止對(duì)人類安全造成不可接受風(fēng)險(xiǎn)的人工智能系統(tǒng),，為高風(fēng)險(xiǎn)人工智能系統(tǒng)規(guī)定具體要求和相關(guān)主體義務(wù),，并為某些人工智能系統(tǒng)規(guī)定透明度度義務(wù)。法案提案的具體內(nèi)容如下：

（一）一般性原則與禁止性規(guī)定

法案明確了適用于所有人工智能系統(tǒng)的一般原則以及禁止的人工智能行為,。

一是明確了開發(fā)和使用人工智能系統(tǒng)或基礎(chǔ)模型需遵守的六項(xiàng)一般原則,，包括：第一，人類主體和監(jiān)督,，即人工智能系統(tǒng)應(yīng)作為服務(wù)于人,、尊重人類尊嚴(yán)和個(gè)人自主權(quán)的工具來進(jìn)行開發(fā)和使用，其運(yùn)作方式可以由人類適當(dāng)?shù)乜刂坪捅O(jiān)督,。第二,，技術(shù)穩(wěn)健性和安全性，即人工智能系統(tǒng)的開發(fā)和使用方式應(yīng)盡量減少意外傷害,，并在出現(xiàn)問題時(shí)保持穩(wěn)健,。第三，隱私和數(shù)據(jù)治理,，即人工智能系統(tǒng)的開發(fā)和使用應(yīng)符合現(xiàn)有的隱私和數(shù)據(jù)保護(hù)規(guī)則,，同時(shí)，其處理的數(shù)據(jù)在質(zhì)量和完整性方面也要符合高標(biāo)準(zhǔn),。第四,，透明度，即人工智能系統(tǒng)的開發(fā)和使用方式應(yīng)允許適當(dāng)?shù)目勺匪菪院涂山忉屝?，同時(shí)應(yīng)使用戶意識(shí)到他們與人工智能系統(tǒng)的交流或互動(dòng),，以及適當(dāng)告知用戶該人工智能系統(tǒng)的能力、限制以及對(duì)其權(quán)利的可能影響,。第五，多樣性,、非歧視和公平,，即人工智能系統(tǒng)的開發(fā)和使用方式應(yīng)考慮不同類別的用戶，并促進(jìn)機(jī)會(huì)平等,、性別平等和文化多樣性,，同時(shí)避免歐盟或國家法律禁止的歧視性影響和不公平的偏見。第六,，社會(huì)和環(huán)境福祉,，即人工智能系統(tǒng)應(yīng)以可持續(xù)和環(huán)境友好方式進(jìn)行開發(fā)和使用，并使所有人類受益,，同時(shí)監(jiān)測和評(píng)估對(duì)個(gè)人,、社會(huì)和民主的長期影響,。

二是明確了禁止開發(fā)和使用的特定人工智能系統(tǒng)。法案禁止“侵入性”和“歧視性”等人工智能系統(tǒng)的使用,，包括：第一,，采用超越人類意識(shí)的潛意識(shí)技術(shù)或有目的的操縱、欺騙技術(shù),，實(shí)質(zhì)性扭曲人類行為,，并可能對(duì)人類帶來身體或心理傷害。第二,，利用個(gè)人或特定群體的弱點(diǎn),，包括人格特征、社會(huì)經(jīng)濟(jì)狀況,、年齡,、身體或精神能力，實(shí)質(zhì)性扭曲人的行為,，對(duì)人類造成或可能造成重大傷害,。第三，為一般目的提供自然人社會(huì)評(píng)分,，可能導(dǎo)致歧視性結(jié)果或?qū)δ愁惾后w進(jìn)行排除,、限制使用。第四,，在公眾可進(jìn)入的空間使用實(shí)時(shí),、遠(yuǎn)程生物識(shí)別系統(tǒng)。

（二）高風(fēng)險(xiǎn)人工智能系統(tǒng)相關(guān)要求

高風(fēng)險(xiǎn)人工智能系統(tǒng)可能對(duì)人類的安全及基本權(quán)利產(chǎn)生負(fù)面影響,，是歐盟法案的監(jiān)管重點(diǎn),。法案通過附件三列舉了高風(fēng)險(xiǎn)人工智能系統(tǒng)的范圍，包括應(yīng)用于生物識(shí)別和基于生物識(shí)別進(jìn)行推斷,，關(guān)鍵基礎(chǔ)設(shè)施的管理和運(yùn)作,，教育和職業(yè)培訓(xùn)，就業(yè),、工人管理和獲得自營職業(yè),，獲得和享受基本的私人服務(wù)和公共服務(wù)及福利，執(zhí)法工作,，移民,、庇護(hù)和邊境管制管理，司法行政和民主進(jìn)程等領(lǐng)域的人工智能系統(tǒng),。同時(shí),，法案通過專章對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)進(jìn)行規(guī)范，明確了高風(fēng)險(xiǎn)人工智能系統(tǒng)的具體要求以及產(chǎn)業(yè)鏈相關(guān)主體的義務(wù),。

一方面,，對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)規(guī)定了具體要求：第一,，建立風(fēng)險(xiǎn)管理制度。在人工智能系統(tǒng)的整個(gè)生命周期中,，應(yīng)建立,、實(shí)施、記錄和維護(hù)與高風(fēng)險(xiǎn)人工智能系統(tǒng)有關(guān)的風(fēng)險(xiǎn)管理系統(tǒng),。第二,，建立數(shù)據(jù)管理制度。高風(fēng)險(xiǎn)人工智能系統(tǒng)的訓(xùn)練,、驗(yàn)證和測試數(shù)據(jù)集應(yīng)滿足適合系統(tǒng)預(yù)期目的的數(shù)據(jù)管理要求,。第三，制定技術(shù)文件,。應(yīng)在該系統(tǒng)投放市場或投入使用之前制定高風(fēng)險(xiǎn)人工智能系統(tǒng)的技術(shù)文件,，并保持更新。第四,，留存相關(guān)記錄,。高風(fēng)險(xiǎn)人工智能系統(tǒng)的設(shè)計(jì)和開發(fā)應(yīng)具有在系統(tǒng)運(yùn)行時(shí)能夠自動(dòng)記錄事件的能力。第五,，保障系統(tǒng)的準(zhǔn)確性,、穩(wěn)健性和網(wǎng)絡(luò)安全。

另一方面,，針對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)產(chǎn)業(yè)鏈的不同參與者明確了細(xì)化的義務(wù)性要求：

高風(fēng)險(xiǎn)人工智能系統(tǒng)的提供者是指開發(fā)人工智能系統(tǒng)的自然人,、法人、公共當(dāng)局或其他機(jī)構(gòu),。相關(guān)義務(wù)主要包括：第一,，保障系統(tǒng)安全，提供者應(yīng)確保高風(fēng)險(xiǎn)人工智能系統(tǒng)滿足上述高風(fēng)險(xiǎn)人工智能系統(tǒng)相關(guān)要求,；建立質(zhì)量管理系統(tǒng),；確保進(jìn)行人為監(jiān)督的自然人了解自動(dòng)化相關(guān)風(fēng)險(xiǎn)；遵守備案義務(wù),，在歐盟數(shù)據(jù)庫中備案該系統(tǒng),；發(fā)現(xiàn)高風(fēng)險(xiǎn)人工智能系統(tǒng)不符合法案規(guī)定時(shí)，立刻采取糾正措施并通知分發(fā)者,、進(jìn)口者、主管部門以及部署者等,；確保高風(fēng)險(xiǎn)人工智能系統(tǒng)符合無障礙要求,。第二，標(biāo)明相關(guān)信息,，在高風(fēng)險(xiǎn)人工智能系統(tǒng)上標(biāo)明提供者的名稱,、商標(biāo),、地址、聯(lián)系方式等信息,；在高風(fēng)險(xiǎn)人工智能系統(tǒng)上以明顯,、清晰的方式加貼永久性CE標(biāo)志。第三,，留存相關(guān)資料,，制定并保存高風(fēng)險(xiǎn)人工智能系統(tǒng)技術(shù)文件；保留高風(fēng)險(xiǎn)人工智能系統(tǒng)自動(dòng)生成的日志,；應(yīng)國家監(jiān)督機(jī)構(gòu)的合理要求,，提供所有必要的信息和文件，以證明高風(fēng)險(xiǎn)人工智能系統(tǒng)符合相關(guān)要求,。

高風(fēng)險(xiǎn)人工智能系統(tǒng)的進(jìn)口者是指將帶有在歐盟外自然人或法人名稱,、商標(biāo)的人工智能系統(tǒng)，投放市場或投入使用的歐盟內(nèi)自然人或法人,。主要義務(wù)包括：確保提供者實(shí)施了相關(guān)合格評(píng)估程序,；確保提供者起草了技術(shù)文件；確保人工智能系統(tǒng)帶有所需的合格標(biāo)志,，并附有所需的文件和使用說明,。此外，進(jìn)口者也應(yīng)按規(guī)定履行信息披露的義務(wù)以及與主管部門合作的義務(wù),。

基礎(chǔ)模型提供者是指在海量數(shù)據(jù)集上進(jìn)行規(guī)?；?xùn)練的人工智能模型提供者?；A(chǔ)模型提供者在向市場提供模型前,，均應(yīng)確保該模型符合以下要求：第一，確保系統(tǒng)滿足使用要求,，進(jìn)行適當(dāng)?shù)南到y(tǒng)設(shè)計(jì),、測試和分析；通過評(píng)估,，確?；A(chǔ)模型在整個(gè)生命周期內(nèi)滿足性能、可預(yù)測性,、可解釋性,、可糾正性、安全性和網(wǎng)絡(luò)安全等方面要求,；制定廣泛的技術(shù)文件和可理解的使用說明,；建立質(zhì)量管理系統(tǒng)。第二，滿足數(shù)據(jù)處理,、效率要求,，只處理和使用滿足基礎(chǔ)模型數(shù)據(jù)處理目的的數(shù)據(jù)集；提高系統(tǒng)的整體效率,。第三,，進(jìn)行備案，提供者應(yīng)在歐盟數(shù)據(jù)庫中對(duì)該基礎(chǔ)模型進(jìn)行備案,。此外,，將基礎(chǔ)模型專門用于生成式人工智能時(shí)，基礎(chǔ)模型提供者還應(yīng)當(dāng)：遵守透明度義務(wù),，采取足夠的保障措施防止產(chǎn)生違反歐盟法律的內(nèi)容,；在不影響國家或歐盟版權(quán)立法的情況下，記錄并公開提供受版權(quán)法保護(hù)的訓(xùn)練數(shù)據(jù)使用情況的詳細(xì)摘要,。

高風(fēng)險(xiǎn)人工智能系統(tǒng)部署者是指在授權(quán)情況下使用人工智能系統(tǒng)的自然人或法人,、公共當(dāng)局、或其他機(jī)構(gòu),。相關(guān)義務(wù)包括：第一,，適當(dāng)使用，部署者應(yīng)采取適當(dāng)?shù)募夹g(shù)和組織措施,，以確保按照系統(tǒng)所附的使用說明使用這些系統(tǒng),。第二，開展人為監(jiān)督,，在部署者對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)進(jìn)行控制的情況下,，應(yīng)按照法案要求實(shí)施人為監(jiān)督；確保進(jìn)行監(jiān)督的自然人有能力,、有適當(dāng)?shù)馁Y格和培訓(xùn),，并擁有必要的權(quán)力；確保定期監(jiān)測系統(tǒng)穩(wěn)健性和網(wǎng)絡(luò)安全措施的有效性,。第三,，開展評(píng)估，在高風(fēng)險(xiǎn)人工智能系統(tǒng)投入使用前,，部署者應(yīng)進(jìn)行基本權(quán)利影響評(píng)估,，評(píng)估因素包括系統(tǒng)的預(yù)期目的、預(yù)期使用的地理與時(shí)間范圍,、可預(yù)見的影響與風(fēng)險(xiǎn),、降低負(fù)面影響的方案等內(nèi)容。

（三）人工智能治理機(jī)制

為實(shí)現(xiàn)對(duì)于人工智能系統(tǒng)的有效治理,，歐盟引入了人工智能辦公室和成員國監(jiān)督機(jī)構(gòu),。一方面,，設(shè)立歐盟人工智能辦公室,。人工智能辦公室由管理委員會(huì),、秘書處、咨詢論壇組成,，負(fù)責(zé)促進(jìn)法案的實(shí)施并協(xié)調(diào)各成員國監(jiān)督機(jī)構(gòu)之間的合作,，從而避免成員國各自為政，確保單一市場的最佳運(yùn)作,。另一方面,，各成員國應(yīng)指定一個(gè)國家監(jiān)督機(jī)構(gòu)。國家監(jiān)督機(jī)構(gòu)應(yīng)根據(jù)法案監(jiān)測各項(xiàng)規(guī)定的適用情況,，并通過與其他成員國的監(jiān)督機(jī)構(gòu),、相關(guān)的國家主管部門、歐盟委員會(huì),、人工智能辦公室之間的合作,，促進(jìn)法案在整個(gè)歐盟的一致適用。

關(guān)注“廣東技術(shù)性貿(mào)易措施”,，獲取更多服務(wù),。