生成式人工智能的變革潛力已顯著超越傳統(tǒng)人工智能,。傳統(tǒng)人工智能是指利用從歷史數(shù)據(jù)中得出的見(jiàn)解進(jìn)行預(yù)測(cè)的人工智能模型。典型的傳統(tǒng)人工智能模型包括邏輯回歸,、決策樹(shù)和條件隨機(jī)場(chǎng)等,。生成式人工智能是指能夠生成文本、圖像或其他媒體的人工智能模型,。它們學(xué)習(xí)輸入訓(xùn)練數(shù)據(jù)的模式和結(jié)構(gòu),，并生成具有類似特征的新數(shù)據(jù)。生成式人工智能能夠接受自然語(yǔ)言提示作為輸入,，包括GPT-4,、Gemini、Claude和LLaMA等大型語(yǔ)言模型（LLM）,。

為了促進(jìn)傳統(tǒng)人工智能的負(fù)責(zé)任使用,，新加坡于2019年發(fā)布了第一版AI治理框架，并在2020年進(jìn)行了更新,。然而,，生成式人工智能的發(fā)展不僅加劇了傳統(tǒng)人工智能相關(guān)風(fēng)險(xiǎn)（例如偏見(jiàn)、濫用,、缺乏可解釋性等）,，還引入了新的風(fēng)險(xiǎn)（例如誤導(dǎo)、侵犯版權(quán),、價(jià)值取向問(wèn)題等）,。針對(duì)生成式人工智能引發(fā)的新問(wèn)題，有必要更新早期的模型治理框架,，以全面解決新出現(xiàn)的問(wèn)題,。新加坡于2023年6月發(fā)布討論文件《生成式人工智能：對(duì)信任和治理的影響》，對(duì)現(xiàn)有的框架進(jìn)行審查,，廣泛聽(tīng)取政策制定者,、產(chǎn)業(yè)界、人工智能行業(yè)組織,、研究社群和公眾等多利益相關(guān)方意見(jiàn),。2024年1月16日，新加坡發(fā)布《生成式人工智能治理的模型人工智能治理框架草案》（以下簡(jiǎn)稱框架草案）,，框架草案對(duì)討論文件中提出的概念以及相關(guān)反饋意見(jiàn)和建議進(jìn)行了整合,，以在保護(hù)用戶和推動(dòng)創(chuàng)新之間取得謹(jǐn)慎的平衡，促進(jìn)更廣泛的可信生態(tài)系統(tǒng),。

此外,，新加坡成立AI verify基金會(huì),，構(gòu)建AI 治理測(cè)試工具，如進(jìn)行AI 測(cè)試框架,、代碼庫(kù),、標(biāo)準(zhǔn)和最佳實(shí)踐的開(kāi)發(fā)和研究等，培育多元化的人工智能測(cè)試倡導(dǎo)者網(wǎng)絡(luò),，并通過(guò)教育和推廣推動(dòng)廣泛采用,。

框架草案提議從九個(gè)維度支持全面和可信人工智能生態(tài)系統(tǒng)的建立,，核心原則是決策的可解釋,、透明和公正原則。

問(wèn)責(zé)制是激勵(lì)人工智能開(kāi)發(fā)鏈中的參與者對(duì)最終用戶負(fù)責(zé)的一個(gè)關(guān)鍵考慮因素,。參與者包括模型開(kāi)發(fā)人員,、應(yīng)用程序部署人員和云服務(wù)提供商（提供托管AI應(yīng)用程序的平臺(tái)）。與大多數(shù)軟件開(kāi)發(fā)一樣,，生成型人工智能也涉及到技術(shù)堆棧中的多層內(nèi)容,。雖然責(zé)任的分配可能不能立即明確，但可以借鑒云計(jì)算和軟件開(kāi)發(fā)中的實(shí)踐經(jīng)驗(yàn),，采取相關(guān)措施,。

數(shù)據(jù)是模型開(kāi)發(fā)的核心元素，它顯著地影響了模型輸出的質(zhì)量,。因此,，提供給模型的數(shù)據(jù)內(nèi)容很重要，并且需要確保數(shù)據(jù)質(zhì)量,，例如通過(guò)使用可信的數(shù)據(jù)源,。在使用數(shù)據(jù)用于模型訓(xùn)練存在爭(zhēng)議的情況下，如涉及個(gè)人數(shù)據(jù)和版權(quán)材料等情形下,，堅(jiān)持透明和公正原則至關(guān)重要,，并且應(yīng)在實(shí)際業(yè)務(wù)中切實(shí)做到確保透明度和公平對(duì)待。

模型開(kāi)發(fā)及在其上進(jìn)行的應(yīng)用程序部署是人工智能驅(qū)動(dòng)創(chuàng)新的核心,。盡管最終用戶對(duì)其了解程度可能有限，但有關(guān)基本安全措施的透明度是非常關(guān)鍵的,。產(chǎn)業(yè)界應(yīng)在開(kāi)發(fā),、評(píng)估和披露方面采用最佳實(shí)踐，例如采取“食品標(biāo)簽”式的透明度管理方式,。隨著時(shí)間的推移,，可以提高更廣泛的意識(shí)和安全性。

即使有最強(qiáng)大的開(kāi)發(fā)流程和保障措施,，也不可能做到萬(wàn)無(wú)一失,，軟件開(kāi)發(fā)和人工智能都是如此,。事件報(bào)告是一種既定的做法，允許及時(shí)通知和采取補(bǔ)救措施,。建立相應(yīng)的結(jié)構(gòu)和流程以實(shí)現(xiàn)事件監(jiān)測(cè)和報(bào)告是關(guān)鍵,。這也將支持人工智能系統(tǒng)的持續(xù)改進(jìn)。

對(duì)于一個(gè)值得信賴的生態(tài)系統(tǒng),，第三方測(cè)試和保證起著補(bǔ)充的作用,，金融和醫(yī)療保健等重要領(lǐng)域都是這樣做的，以實(shí)現(xiàn)獨(dú)立驗(yàn)證,。盡管人工智能測(cè)試是一個(gè)新興領(lǐng)域,，但對(duì)于公司來(lái)說(shuō)，采用第三方測(cè)試和保證來(lái)向最終用戶證明信任是有價(jià)值的,。圍繞人工智能測(cè)試制定通用標(biāo)準(zhǔn)以確保質(zhì)量和一致性也很重要,。

生成型人工智能模型本身引入新的威脅，且超出了任何軟件堆棧中固有的安全風(fēng)險(xiǎn),。雖然這是一個(gè)新興的領(lǐng)域,，但需要調(diào)整現(xiàn)有的信息安全框架，并開(kāi)發(fā)新的測(cè)試工具來(lái)解決這些風(fēng)險(xiǎn),。

人工智能生成的內(nèi)容很容易被創(chuàng)建,，這可能會(huì)加劇虛假信息相關(guān)風(fēng)險(xiǎn)。各國(guó)政府正在尋求數(shù)字水印和加密來(lái)源等技術(shù)解決方案,，這些技術(shù)需要在正確的背景下使用,，需要內(nèi)容生成位置和生成方式等方面的透明度，使最終用戶能夠以知情的方式使用在線內(nèi)容,。

當(dāng)今最科學(xué)的模型安全技術(shù)也不能完全涵蓋所有的風(fēng)險(xiǎn),。需要加快研發(fā)投資，以改善人工智能模型的意圖,，保證其與人類價(jià)值觀的一致性,。人工智能安全研發(fā)機(jī)構(gòu)之間的全球合作對(duì)于有限資源的優(yōu)化配置，以跟上商業(yè)驅(qū)動(dòng)的模型能力的增長(zhǎng)至關(guān)重要,。

負(fù)責(zé)任的人工智能將支持引導(dǎo)人工智能走向?yàn)楣怖娣?wù),，如人工智能獲取應(yīng)民主化、改善公共部門人工智能的采用,、提高員工的技能,，以及人工智能系統(tǒng)的可持續(xù)開(kāi)發(fā)等。

人工智能治理仍處于初級(jí)階段,。進(jìn)行國(guó)際合作、建立國(guó)際共識(shí)是進(jìn)行人工智能治理的關(guān)鍵,，正如新加坡IMDA在國(guó)家人工智能治理框架的制定過(guò)程中,，與美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）進(jìn)行了合作,。該框架將隨著技術(shù)和技術(shù)的發(fā)展而不斷更新，新加坡將對(duì)人工智能模型治理框架進(jìn)行持續(xù)完善和優(yōu)化,，采用實(shí)際方法來(lái)最大程度地提高信任和創(chuàng)新,。新加坡預(yù)計(jì)在2024年中期正式發(fā)布《生成式人工智能治理的模型人工智能治理框架》。