近年來,，隨著數(shù)據(jù)資源的廣泛可用、計(jì)算能力的飛躍以及機(jī)器學(xué)習(xí)的進(jìn)步，人工智能技術(shù)取得了突飛猛進(jìn)的發(fā)展,。特別是基礎(chǔ)模型的開發(fā)催生了所謂的“通用人工智能”。這些模型能夠執(zhí)行多樣化任務(wù)，包括創(chuàng)造各種新內(nèi)容（如文本、代碼,、圖像等），我們稱之為“生成式人工智能”,。它們通常根據(jù)用戶輸入的指令（提示）來生成內(nèi)容,，其質(zhì)量之高，以至于很難將其與人類生成的內(nèi)容進(jìn)行區(qū)分,。

生成式人工智能的廣泛而快速的應(yīng)用引發(fā)了人們的廣泛關(guān)注以及廣泛的政策和機(jī)構(gòu)回應(yīng),。其中包括歐盟在《人工智能法案》以及七國(guó)集團(tuán)主導(dǎo)的《布萊切利宣言》。生成式人工智能為各行各業(yè)帶來了無限可能,。尤其是在科學(xué)研究領(lǐng)域,，人工智能的潛力巨大，它能夠加速科學(xué)發(fā)現(xiàn),，提高研究效率和驗(yàn)證過程的速度,。然而，它也伴隨著風(fēng)險(xiǎn),，比如大量制造虛假信息,，以及其他可能對(duì)社會(huì)產(chǎn)生重大影響的不道德用途；此外,，技術(shù)的濫用也可能導(dǎo)致研究的不端行為和錯(cuò)誤信息的傳播,。

一、指南的核心原則

這些指導(dǎo)方針基于現(xiàn)有的相關(guān)框架,，如《歐洲研究誠(chéng)信行為準(zhǔn)則》和《高級(jí)別專家制定的關(guān)于可信賴人工智能的工作和指南》。它們強(qiáng)調(diào)了研究質(zhì)量的可靠性,、透明度,、公平性、徹底性和公正性,，以及尊重同事,、研究參與者和社會(huì)的原則。

二,、關(guān)于在科學(xué)研究中負(fù)責(zé)任地使用生成式人工智能的指導(dǎo)原則

 (一)對(duì)科研人員的建議

1. 對(duì)科研成果負(fù)最終責(zé)任,。

a) 科研人員對(duì)由人工智能工具生成或在其支持下生成的內(nèi)容的完整性負(fù)責(zé)。

b) 科研人員在使用生成式人工智能所產(chǎn)生的結(jié)果時(shí)應(yīng)保持批判的態(tài)度,，并意識(shí)到這些工具的局限性,，如偏差,、幻覺和不準(zhǔn)確性。

c) 人工智能系統(tǒng)既不是作者,，也不是共同作者,。作者身份意味著代理權(quán)和責(zé)任，因此它屬于人類科研人員,。

d) 科研人員不會(huì)在科學(xué)研究過程中使用生成式人工智能制作的材料,，例如偽造、篡改或操縱原始研究數(shù)據(jù),。

2. 透明地使用生成式人工智能,。

a) 為透明起見，科研人員應(yīng)詳細(xì)說明在其研究過程中主要使用了哪些生成式人工智能工具,。提到的工具可包括名稱,、版本、日期等,，以及它是如何被使用并對(duì)研究過程產(chǎn)生影響的,。如果相關(guān)，研究人員應(yīng)根據(jù)開放科學(xué)原則提供輸入（提示）和輸出,。

b) 科研人員考慮到了生成式人工智能工具的隨機(jī)性,，即相同的輸入會(huì)產(chǎn)生不同的輸出?？蒲腥藛T力求結(jié)果和結(jié)論的可重復(fù)性和穩(wěn)健性,。他們披露或討論所使用的生成式人工智能工具的局限性，包括生成內(nèi)容中可能存在的偏差,，以及可能的緩解措施,。

3. 在與人工智能工具共享敏感或受保護(hù)信息時(shí)，要特別注意與隱私,、保密和知識(shí)產(chǎn)權(quán)相關(guān)的問題,。

a) 科研人員應(yīng)注意到，生成或上傳的輸入（文本,、數(shù)據(jù),、提示、圖像等）可能會(huì)被用于其他目的,，如訓(xùn)練人工智能模型,。因此，他們要保護(hù)未發(fā)表或敏感的作品（如自己或他人未發(fā)表的作品）,，注意不要將其上傳到在線人工智能系統(tǒng)中,，除非能保證這些數(shù)據(jù)不會(huì)被重復(fù)使用。

b) 科研人員應(yīng)注意不向在線生成式人工智能系統(tǒng)提供第三方的個(gè)人數(shù)據(jù),，除非得到數(shù)據(jù)主體（個(gè)人）的同意,，且應(yīng)遵守歐盟數(shù)據(jù)保護(hù)規(guī)則確保符合歐盟數(shù)據(jù)保護(hù)規(guī)則,。

c) 科研人員應(yīng)了解有關(guān)隱私、保密和知識(shí)產(chǎn)權(quán)的技術(shù)和道德影響,。例如,，檢查工具的隱私選項(xiàng)、工具的管理者（公共或私營(yíng)機(jī)構(gòu),、公司等）,、工具的運(yùn)行地點(diǎn)以及對(duì)上傳信息的影響。這可能包括封閉環(huán)境,、在第三方基礎(chǔ)設(shè)施上托管并保證隱私,，也可能包括開放的互聯(lián)網(wǎng)訪問平臺(tái)。

4. 在使用生成式人工智能時(shí),，要像在常規(guī)研究活動(dòng)中一樣,，尊重適用的國(guó)家、歐盟和國(guó)際立法,。特別是,，生成式人工智能所產(chǎn)出的成果在知識(shí)產(chǎn)權(quán)和個(gè)人數(shù)據(jù)保護(hù)方面可能特別敏感。

a) 科研人員在使用生成式人工智能的輸出結(jié)果時(shí),，要注意剽竊（文本,、代碼、圖像等）的可能性,?？蒲腥藛T要尊重他人的著作權(quán)，并在適當(dāng)時(shí)引用他人的作品,。生成式人工智能的輸出（如大型語言模型）可能基于他人的成果,，需要適當(dāng)識(shí)別和引用。

b) 生成式人工智能產(chǎn)生的輸出可能包含個(gè)人數(shù)據(jù),。如果出現(xiàn)這種情況,，科研人員有責(zé)任負(fù)責(zé)任地妥善處理輸出的任何個(gè)人數(shù)據(jù)，并遵守歐盟數(shù)據(jù)保護(hù)規(guī)則,。

5. 通過培訓(xùn)等方式,，不斷學(xué)習(xí)如何正確使用生成式人工智能工具，以最大限度地發(fā)揮其優(yōu)勢(shì),。生成式人工智能工具發(fā)展迅速，新的使用方法不斷被發(fā)現(xiàn),?？蒲腥藛T要及時(shí)了解最佳實(shí)踐，并與同事和其他利益相關(guān)者分享,。

6. 避免在可能影響其他科研人員或組織的敏感活動(dòng)中大量使用人工智能生成工具（例如同行評(píng)審,、研究提案評(píng)估等）,。

a) 避免使用生成式人工智能工具，可消除這些工具的局限性（如幻覺和偏見）可能導(dǎo)致的不公平待遇或評(píng)估的潛在風(fēng)險(xiǎn),。

b) 此外,，這樣做還可以保護(hù)科研人員未發(fā)表的原創(chuàng)作品，使其免于暴露或被納入人工智能模型,。

（二）對(duì)科研機(jī)構(gòu)的建議

1.促進(jìn),、指導(dǎo)和支持在研究活動(dòng)中負(fù)責(zé)任地使用生成式人工智能。

a) 科研機(jī)構(gòu)提供和/或促進(jìn)關(guān)于使用生成式人工智能的培訓(xùn),，特別是（但不限于）關(guān)于驗(yàn)證輸出,、維護(hù)隱私、解決偏見和保護(hù)知識(shí)產(chǎn)權(quán)的培訓(xùn),。

b) 科研機(jī)構(gòu)提供支持和指導(dǎo),，確保符合道德和法律要求（歐盟數(shù)據(jù)保護(hù)規(guī)則、知識(shí)產(chǎn)權(quán)保護(hù)等）,。

2. 積極監(jiān)督組織內(nèi)生成式人工智能系統(tǒng)的開發(fā)和使用情況,。

a) 科研機(jī)構(gòu)始終關(guān)注其使用生成式人工智能的研究活動(dòng)和流程，以便更好地支持其未來的使用,。以便為使用生成式人工智能提供進(jìn)一步指導(dǎo),、幫助確定培訓(xùn)需求，并了解哪種支持最有益,；幫助預(yù)測(cè)和防范人工智能工具可能被誤用和濫用,；出版并與科學(xué)界共享。

b) 科研究機(jī)構(gòu)分析技術(shù)和工具的局限性,，并向其科研人員提供反饋和建議,。

3. 參考這些生成式人工智能指南，或?qū)⑵浼{入研究實(shí)踐和倫理的一般研究指南中,。

a) 科研機(jī)構(gòu)以這些指導(dǎo)方針為討論基礎(chǔ),，就生成式人工智能的使用和相關(guān)政策公開征求研究人員和利益相關(guān)者的意見。

b) 科研機(jī)構(gòu)應(yīng)盡可能采用這些指導(dǎo)方針,。如有必要,，還可補(bǔ)充具體的附加建議和/或例外情況，并應(yīng)公布這些建議和/或例外情況,，以提高透明度,。

4. 在可能和必要的情況下，實(shí)施本地托管或基于云的生成式人工智能工具,，由它們自己管理,。這樣，員工就能將他們的科學(xué)數(shù)據(jù)輸入到一個(gè)能確保數(shù)據(jù)保護(hù)和保密性的工具中。各組織確保這些系統(tǒng),，特別是與互聯(lián)網(wǎng)連接的系統(tǒng)達(dá)到適當(dāng)?shù)木W(wǎng)絡(luò)安全水平,。

（三）對(duì)科研資助組織的建議

資助組織在不同的背景下運(yùn)作，遵循不同的任務(wù)和規(guī)定,，可能與單一的一套準(zhǔn)則不一致,。以下是一些有效的做法，供各組織以最適合其具體情況和目標(biāo)的方式加以實(shí)施,。

1. 促進(jìn)和支持在研究中負(fù)責(zé)任地使用生成式人工智能,。

a) 科研資助組織設(shè)計(jì)的資助工具應(yīng)開放、樂于接受并支持在研究活動(dòng)中負(fù)責(zé)任地,、合乎道德地使用生成式人工智能技術(shù),。

b) 科研資助組織應(yīng)要求受資助的研究和受資助者符合現(xiàn)有的國(guó)家、歐盟和國(guó)際立法（如適用）以及使用生成式人工智能的有益實(shí)踐,。

c) 科研資助組織應(yīng)鼓勵(lì)研究人員和研究機(jī)構(gòu)以合乎道德和負(fù)責(zé)任的方式使用生成式人工智能,，包括遵守法律和研究標(biāo)準(zhǔn)要求。

2. 審查生成式人工智能在其內(nèi)部流程中的使用情況,。它們將確保以透明和負(fù)責(zé)任的方式使用人工智能,，從而起到帶頭作用。

a) 根據(jù)強(qiáng)調(diào)責(zé)任和人為監(jiān)督的問責(zé)原則,，科研資助組織仍對(duì)在其活動(dòng)中使用生成式人工智能負(fù)全部責(zé)任,。

b) 科研資助組織應(yīng)以透明的方式使用生成式人工智能，特別是在與評(píng)估和評(píng)價(jià)目的管理有關(guān)的活動(dòng)中,，并且不損害內(nèi)容的保密性和過程的公平性,。

c) 在選擇生成式人工智能工具時(shí)，科研資助組織應(yīng)仔細(xì)考慮該工具是否符合質(zhì)量,、透明度,、完整性、數(shù)據(jù)保護(hù),、保密性和尊重知識(shí)產(chǎn)權(quán)的標(biāo)準(zhǔn),。

3. 要求科研項(xiàng)目申請(qǐng)者在使用生成式人工智能方面保持透明，以便于報(bào)告,。

a) 科研項(xiàng)目申請(qǐng)者應(yīng)聲明在申報(bào)過程中是否使用了大量人工智能生成工具,。

b) 科研項(xiàng)目申請(qǐng)者應(yīng)提供信息，說明生成式人工智能在提議和開展的研究活動(dòng)中的作用,。

4. 關(guān)注并積極參與快速發(fā)展的生成式人工智能領(lǐng)域,。科研資助組織應(yīng)推動(dòng)并資助培訓(xùn)和教育計(jì)劃,，以便在科學(xué)研究中以合乎道德和負(fù)責(zé)任的方式使用人工智能,。

關(guān)注“廣東技術(shù)性貿(mào)易措施”,，獲取更多服務(wù)。