廣東省WTO/TBT通報咨詢研究中心 版權(quán)所有
TüV萊茵成功贏得了首個金融領(lǐng)域的人工智能（AI）滲透測試項目，彰顯了TüV萊茵在前瞻性領(lǐng)域的創(chuàng)新實力與技術(shù)專長。
所謂滲透性測試，是模擬黑客攻擊手段來識別和修復(fù)產(chǎn)品網(wǎng)絡(luò)安全漏洞的安全評估方法，能直觀反映產(chǎn)品安全性，幫助客戶進(jìn)行產(chǎn)品安全開發(fā)，預(yù)防由于產(chǎn)品安全威脅造成的不可估量的損失。滲透性測試的結(jié)果能夠作為相關(guān)安全標(biāo)準(zhǔn)認(rèn)證的支持性材料，是產(chǎn)品順利通過認(rèn)證的必備條件。換言之，滲透性測試是化被動為主動的一次安全演習(xí)，它將代入黑客視角去識別產(chǎn)品的潛在漏洞，客觀刻畫出真實世界產(chǎn)品被攻擊的場景，從而識別漏洞并進(jìn)一步提供解決方案，幫助企業(yè)在危機(jī)發(fā)生前就將其化解，為產(chǎn)品安全背書。
在此次AI滲透測試項目中，TüV萊茵的專家將針對AI驅(qū)動的網(wǎng)絡(luò)應(yīng)用進(jìn)行網(wǎng)絡(luò)安全測試。 測試目標(biāo)包括發(fā)現(xiàn)網(wǎng)絡(luò)應(yīng)用中的經(jīng)典漏洞，并識別因連接AI系統(tǒng)所產(chǎn)生的特定風(fēng)險。網(wǎng)絡(luò)應(yīng)用連接生成式人工智能模型后，會存在如提示詞注入、敏感信息披露、供應(yīng)鏈漏洞、數(shù)據(jù)與模型污染、系統(tǒng)提示泄漏與訓(xùn)練數(shù)據(jù)中毒等潛在安全威脅并最終影響網(wǎng)絡(luò)應(yīng)用。以提示詞注入為例，黑客通過設(shè)計過的惡意輸入操縱大型語言模型，從而導(dǎo)致大語言模型忽略應(yīng)用創(chuàng)建者的系統(tǒng)提示，執(zhí)行返回私人、危險或其他不希望出現(xiàn)的信息提示。 TüV萊茵的安全專家通過系統(tǒng)性的人工智能網(wǎng)絡(luò)安全滲透測試與漏洞分析策略及時確認(rèn)漏洞并部署防御措施，有效確保設(shè)備自身的安全性，保護(hù)企業(yè)和用戶免受網(wǎng)絡(luò)安全風(fēng)險帶來的損失。
粵公網(wǎng)安備 44010602010620號