2024年11月14日,，歐盟人工智能辦公室(AI0fice)正式發(fā)布《通用人工智能行為準(zhǔn)則》(General-PurposeAICodeofPractice)草案,，為通用人工智能模型的發(fā)展和應(yīng)用提供指導(dǎo)框架,，確保其符合歐盟的法律要求和價(jià)值觀,。該草案由四個(gè)工作組協(xié)作編寫，旨在為通用人工智能模型提供商和具有系統(tǒng)風(fēng),險(xiǎn)的通用人工智能模型提供商提供指導(dǎo),以確保其遵守歐盟相關(guān)法律,，促進(jìn)人工智能的安全和可持續(xù)發(fā)展,。該草案涵蓋了透明度、版權(quán)、風(fēng)險(xiǎn)分類,、風(fēng)險(xiǎn)評(píng)估與緩解等多方面規(guī)則,，并遵循一系列起草原則，歐盟AI法案于2024年8月1日生效,，規(guī)定準(zhǔn)則最終版本應(yīng)于2025年5月1日前準(zhǔn)備就緒,。該草案是在參考眾多利益相關(guān)者意見、國際方法以及相關(guān)法律和研究的基礎(chǔ)上制定的,。

起草計(jì)劃與原則與歐盟原則和價(jià)值觀保持一致：確保措施、子措施和關(guān)鍵績效指標(biāo)(KPI)符合歐盟法律所體現(xiàn)的一般原則和價(jià)值觀,，與AI法案和國際方法保持一致：促進(jìn)A1法案的適當(dāng)應(yīng)用,，參考國際方法(如AI安全機(jī)構(gòu)或標(biāo)準(zhǔn)制定組織制定的標(biāo)準(zhǔn)或指標(biāo))。風(fēng)險(xiǎn)相稱性：措施應(yīng)與風(fēng)險(xiǎn)相稱,，對(duì)更重大或不確定的嚴(yán)重風(fēng)險(xiǎn)采取更嚴(yán)格措施,，子措施和KPI應(yīng)具體、明確,，避免規(guī)避或錯(cuò)誤指且根據(jù)風(fēng)險(xiǎn)類型,、分布策略和部署環(huán)境等因素進(jìn)行區(qū)分。

面向未來：子措施和KPI應(yīng)能適應(yīng)技術(shù)發(fā)展,，確保AI辦公室能夠基于更優(yōu)信息評(píng)估合規(guī)性,，同時(shí)在具體要求與靈活性之間取得平衡與提供商規(guī)模相稱：考慮通用人工智能模型提供商規(guī)模，為中小企業(yè)和初創(chuàng)企業(yè)提供適當(dāng)簡化的合規(guī)方式支持人工智能安全生態(tài)系統(tǒng)的發(fā)展與成長：鼓勵(lì)利益相關(guān)者合作,，共享知識(shí)和最佳實(shí)踐,，支持開源模型對(duì)生態(tài)系統(tǒng)的積影響。

二,、通用人工智能模型提供商規(guī)則

1.透明度要求

文檔編制：提供商需為AI辦公室和下游提供商編制并更新模型技術(shù)文檔,，包括模型基本信息、預(yù)期任務(wù),、使用政策,、發(fā)布日期、交互方式,、架構(gòu)參數(shù),、輸入輸出模態(tài)、許可證,、集成技術(shù)手段,、訓(xùn)練過程、數(shù)據(jù)信息,、計(jì)算資源,、能耗等內(nèi)容。鼓勵(lì)考慮向公眾披露部分信息以提高透明度。

附錄:可接受使用政策(AUP)：AUP應(yīng)至少包含目的聲明,、范圍,、主要預(yù)期用途和用戶、可接受和不可接受用途,、安全措施,、監(jiān)控與隱私、警告和賬戶處理流程,、致謝等要素,，確保與提供商描述模型用途和能力的材料一致，并向下游提供商提供必要信息.,。

2.版權(quán)相關(guān)規(guī)則

制定版權(quán)政策：提供商應(yīng)制定政策以遵守歐盟版權(quán)及相關(guān)權(quán)利法律,，涵蓋模型整個(gè)生命周期，明確責(zé)任,，進(jìn)行上游和下游版權(quán)合規(guī)管理(下游版權(quán)措施不適用于中小企業(yè)),。遵守文本和數(shù)據(jù)挖掘(TDM)例外限制:進(jìn)行TDM時(shí),需確保合法獲取受版權(quán)保護(hù)的內(nèi)容,遵守權(quán)利保留規(guī)定，包括遵循robots.tx確保搜索引擎可發(fā)現(xiàn)性,、采用行業(yè)標(biāo)準(zhǔn)識(shí)別權(quán)利保留,、參與標(biāo)準(zhǔn)制定討論、排除盜版來源等措施(部分子措施不適用干中小企業(yè)),。透明度:公開版權(quán)保留合規(guī)措施信息,，包括爬蟲名稱和robots.txt特征,指定聯(lián)系人處理版權(quán)投訴，記錄數(shù)據(jù)來源和授權(quán)信息以供AI辦公室監(jiān)測,。

三,、系統(tǒng)風(fēng)險(xiǎn)分類

1. 風(fēng)險(xiǎn)類型：包括網(wǎng)絡(luò)攻擊、化學(xué)/生物/放射/核風(fēng)險(xiǎn),、失控,、自動(dòng)化模型研發(fā)、說服與操縱,、大規(guī)模歧視等,，提供商可識(shí)別其他潛在系統(tǒng)風(fēng)險(xiǎn)。

2. 風(fēng)險(xiǎn)性質(zhì)：涉及風(fēng)險(xiǎn)起源,、驅(qū)動(dòng)因素,、意圖、新穎性,、概率-嚴(yán)重性比,、風(fēng),險(xiǎn)實(shí)現(xiàn)速度、可見性,、事件發(fā)展過程等維度,

3. 風(fēng)險(xiǎn)來源

危險(xiǎn)模型能力：如網(wǎng)絡(luò)攻擊,、武器相關(guān)能力,、自主性、說服力,、規(guī)劃能力等,，這些能力雖有有益用途，但也可能引發(fā)系統(tǒng)風(fēng)險(xiǎn),,。

危險(xiǎn)模型傾向：如與人類意圖/價(jià)值觀不一致,、欺騙傾向、偏見,、不可靠性,、追求目標(biāo)等。

模型功能和社會(huì)技術(shù)背景：包括去除防護(hù)措施潛力,、工具訪問,、模態(tài)、發(fā)布策略,、人為監(jiān)督,、模型泄露,、用戶數(shù)量,、攻防平衡、社會(huì)脆弱性,、缺乏解釋性,、技術(shù)成熟度、反饋循環(huán)等,。

四,、具有系統(tǒng)風(fēng)險(xiǎn)的通用人工智能模型提供商規(guī)則

1.安全與保障框架(SSF)：提供商應(yīng)采用、實(shí)施并公開SSF,，根據(jù)預(yù)期系統(tǒng)風(fēng)險(xiǎn)嚴(yán)重程度確定其全面性,，用于主動(dòng)評(píng)估和緩解系統(tǒng)風(fēng)險(xiǎn)。

2.風(fēng),險(xiǎn)評(píng)估風(fēng)險(xiǎn)識(shí)別：持續(xù)徹底識(shí)別可能源于模型的系統(tǒng)風(fēng)險(xiǎn),，參考風(fēng)險(xiǎn)分類確定相關(guān)風(fēng)險(xiǎn)風(fēng)險(xiǎn)分析:使用可靠方法分析風(fēng)險(xiǎn)路徑,、映射風(fēng)險(xiǎn)指標(biāo)、確定風(fēng),險(xiǎn)嚴(yán)重程度層級(jí),、預(yù)測風(fēng)險(xiǎn)發(fā)生時(shí)間,。證據(jù)收集:持續(xù)收集模型特定系統(tǒng)風(fēng)險(xiǎn)證據(jù),包括模型無關(guān)證據(jù)、最佳實(shí)踐評(píng)估,、確?？茖W(xué)嚴(yán)謹(jǐn)性、充分挖掘模型能力,、在不同系統(tǒng)中評(píng)估,、進(jìn)行多樣化評(píng)估和探索性工作、分享工具和最佳實(shí)踐、透明報(bào)告評(píng)估結(jié)果等,，部分工作可與第三方合作或外包,。風(fēng)險(xiǎn)評(píng)估生命周期：在模型開發(fā)和部署的全生命周期持續(xù)評(píng)估風(fēng)險(xiǎn)和收集證據(jù)，包括訓(xùn)練前準(zhǔn)備,、訓(xùn)練中定期收集,、部署期間定期更新評(píng)估、部署后監(jiān)測,，根據(jù)不同階段和風(fēng)險(xiǎn)情況調(diào)整評(píng)估方式

3.技術(shù)風(fēng)險(xiǎn)緩解

緩解措施：在SSF中詳細(xì)說明從風(fēng),險(xiǎn)指標(biāo)到安全和保障緩解措施的映射,包括安全和安全緩解措施(根據(jù)風(fēng)險(xiǎn)程度實(shí)施,，如行為修改、系統(tǒng)部署防護(hù),、提供反制措施),，明確現(xiàn)有緩解措施的局限性和評(píng)估映射充分性的過程。

安全與保障報(bào)告(SSR)：創(chuàng)建SSR記錄風(fēng)險(xiǎn)和緩解評(píng)估,，內(nèi)容包括風(fēng),險(xiǎn)評(píng)估結(jié)果,、緩解措施評(píng)估結(jié)果、成本效益分析,、方法細(xì)節(jié)

內(nèi)部審查結(jié)果等,，確保報(bào)告與風(fēng)險(xiǎn)程度相稱且內(nèi)部外部一致。開發(fā)與部署決策：基于SSR建立決策流程,，確定繼續(xù)或停止模型開發(fā)和部署的條件,包括不繼續(xù)的條件,、繼續(xù)的條件(如改進(jìn)緩解措施或進(jìn)行成本效益分析)以及外部輸入和決策要求。

4.治理風(fēng)險(xiǎn)緩解

系統(tǒng)風(fēng)險(xiǎn)所有權(quán)：確保組織各級(jí)對(duì)系統(tǒng)風(fēng)險(xiǎn)有足夠的所有權(quán),，包括在執(zhí)行和董事會(huì)層面分配責(zé)任和資源(可考慮根據(jù)提供商規(guī)?；蚱渌卣髡{(diào)整)。

遵守和充分性評(píng)估:每年評(píng)估SSF的遵守和充分性,，考慮計(jì)劃活動(dòng)并向董事會(huì)報(bào)告,，明確評(píng)估應(yīng)回答的問題和充分性定義。

獨(dú)立專家系統(tǒng)風(fēng)險(xiǎn)和緩解評(píng)估:在模型生命周期中適當(dāng)進(jìn)行獨(dú)立專家評(píng)估,，包括部署前充分測試和部署后允許獨(dú)立研究,評(píng)估內(nèi)容包括模型能力,、證據(jù)、風(fēng)險(xiǎn)和緩解措施,，評(píng)估應(yīng)根據(jù)風(fēng)險(xiǎn)程度和性質(zhì)進(jìn)行調(diào)整(明確第三方評(píng)估機(jī)構(gòu)標(biāo)準(zhǔn),、支持中小企業(yè)評(píng)估、確定獨(dú)立測試的適當(dāng)情況),。

嚴(yán)重事件報(bào)告:識(shí)別,、跟蹤、記錄和及時(shí)報(bào)告源于模型的嚴(yán)重事件及可能的糾正措施,，建立報(bào)告和響應(yīng)流程,，明確嚴(yán)重事件定義,、間接導(dǎo)致情況、報(bào)告條件和可能的糾正措施(針對(duì)開源或開放權(quán)重提供商的措施),。

舉報(bào)保護(hù)：實(shí)施舉報(bào)渠道并提供保護(hù),，告知員工舉報(bào)郵箱，考慮在準(zhǔn)則中明確歐盟舉報(bào)人指令的相關(guān)內(nèi)容

通知：向AI辦公室通知模型分類,、SSE,、SSR和重大系統(tǒng)風(fēng)險(xiǎn)等相關(guān)信息，包括在訓(xùn)練前估計(jì)計(jì)算能力并通知,、確保AI辦公室獲取SSF和SSR,、在特定情況下通知重大風(fēng)險(xiǎn)，明確通知的具體要求和相關(guān)標(biāo)準(zhǔn),。

文檔記錄：記錄與遵守準(zhǔn)則和AI法案相關(guān)的證據(jù),，包括模型風(fēng)險(xiǎn)分類、SSF,、SSR等信息,考慮制定標(biāo)準(zhǔn)化模板以降低合規(guī)成本,。

公共透明度：通過發(fā)布SSF和SSR提供適當(dāng)公共透明度，幫助生態(tài)系統(tǒng)理解和緩解風(fēng)險(xiǎn),，明確可能增加系統(tǒng)風(fēng)險(xiǎn)或泄露敏感信息的情況,，考慮公共透明度的類型、水平和負(fù)擔(dān),。

轉(zhuǎn)載鏈接：http://www.tbtsps.cn/news/1/73FE2386E3495EF8

關(guān)注“廣東技術(shù)性貿(mào)易措施”,，獲取更多服務(wù),。