廣東省WTO/TBT通報咨詢研究中心 版權(quán)所有
TüV萊茵成功贏得了首個金融領(lǐng)域的人工智能（AI）滲透測試項目，彰顯了TüV萊茵在前瞻性領(lǐng)域的創(chuàng)新實力與技術(shù)專長,。
所謂滲透性測試,，是模擬黑客攻擊手段來識別和修復(fù)產(chǎn)品網(wǎng)絡(luò)安全漏洞的安全評估方法,，能直觀反映產(chǎn)品安全性,，幫助客戶進行產(chǎn)品安全開發(fā),，預(yù)防由于產(chǎn)品安全威脅造成的不可估量的損失,。滲透性測試的結(jié)果能夠作為相關(guān)安全標準認證的支持性材料,，是產(chǎn)品順利通過認證的必備條件,。換言之,，滲透性測試是化被動為主動的一次安全演習(xí)，它將代入黑客視角去識別產(chǎn)品的潛在漏洞,，客觀刻畫出真實世界產(chǎn)品被攻擊的場景,，從而識別漏洞并進一步提供解決方案，幫助企業(yè)在危機發(fā)生前就將其化解,，為產(chǎn)品安全背書,。
在此次AI滲透測試項目中，TüV萊茵的專家將針對AI驅(qū)動的網(wǎng)絡(luò)應(yīng)用進行網(wǎng)絡(luò)安全測試。 測試目標包括發(fā)現(xiàn)網(wǎng)絡(luò)應(yīng)用中的經(jīng)典漏洞,，并識別因連接AI系統(tǒng)所產(chǎn)生的特定風(fēng)險,。網(wǎng)絡(luò)應(yīng)用連接生成式人工智能模型后，會存在如提示詞注入,、敏感信息披露,、供應(yīng)鏈漏洞、數(shù)據(jù)與模型污染,、系統(tǒng)提示泄漏與訓(xùn)練數(shù)據(jù)中毒等潛在安全威脅并最終影響網(wǎng)絡(luò)應(yīng)用,。以提示詞注入為例，黑客通過設(shè)計過的惡意輸入操縱大型語言模型,，從而導(dǎo)致大語言模型忽略應(yīng)用創(chuàng)建者的系統(tǒng)提示,，執(zhí)行返回私人、危險或其他不希望出現(xiàn)的信息提示,。 TüV萊茵的安全專家通過系統(tǒng)性的人工智能網(wǎng)絡(luò)安全滲透測試與漏洞分析策略及時確認漏洞并部署防御措施,，有效確保設(shè)備自身的安全性，保護企業(yè)和用戶免受網(wǎng)絡(luò)安全風(fēng)險帶來的損失,。
粵公網(wǎng)安備 44010602010620號