4 月 7 日，來自清華的 RealAI（瑞萊智慧）發(fā)布了 RealSafe 人工智能安全平臺，隨之推出的測試結(jié)果令人驚訝：通過平臺對微軟、亞馬遜云服務(wù)的人臉比對演示平臺進(jìn)行測試顯示，基于 RealSafe 平臺生成的對抗樣本「噪音」能夠極大干擾兩大主流人臉比對平臺的識別結(jié)果。
RealAI 研究團(tuán)隊選取了一組不同的人臉圖片，通過 RealSafe 平臺對其中一張圖片生成對抗樣本，但不影響肉眼判斷，添加「對抗樣本」前后分別輸入微軟、亞馬遜人臉比對平臺中。
最終結(jié)果顯示，添加「噪音」擾動前，兩張圖片相似度低，微軟、亞馬遜平臺判定為「不相同」，但添加擾動后，幾套系統(tǒng)均錯誤識別為「相同」，甚至在微軟平臺前后相似度的變化幅度高達(dá) 70% 以上。
檢測出人臉識別系統(tǒng)「漏洞」的 RealSafe 人工智能安全平臺，是全球首個針對算法模型本身進(jìn)行安全的檢測平臺，內(nèi)置領(lǐng)先的攻防算法模型，旨在為企業(yè)用戶提供從算法測評到防御升級的整體解決方案。
而針對人臉比對系統(tǒng)的攻擊測試，是 RealSafe 人工智能安全平臺為用戶提供的對抗樣本攻防在線體驗。當(dāng)然，RealSafe 還可以幫助人們修復(fù)這些漏洞。正如網(wǎng)絡(luò)安全時代，網(wǎng)絡(luò)攻擊的大規(guī)模滲透誕生出殺毒軟件，發(fā)現(xiàn)計算機(jī)潛在病毒威脅，提供一鍵系統(tǒng)優(yōu)化、清理垃圾跟漏洞修復(fù)等功能。RealAI 團(tuán)隊希望通過 RealSafe 平臺打造出人工智能時代的「殺毒軟件」，為構(gòu)建人工智能系統(tǒng)防火墻提供支持。
除了對抗樣本技術(shù)， RealSafe 平臺還支持另外兩大功能模塊：模型安全測評和防御解決方案。
模型安全評測主要為用戶提供 AI 模型安全性評測服務(wù)。用戶只需接入所需測評模型的 SDK 或 API 接口，選擇平臺內(nèi)置或者自行上傳的數(shù)據(jù)集，平臺將基于多種算法生成對抗樣本模擬攻擊，并綜合在不同算法、迭代次數(shù)、擾動量大小的攻擊下模型效果的變化，給出模型安全評分及詳細(xì)的測評報告。目前 RealSafe 已支持黑盒查詢攻擊方法與黑盒遷移攻擊方法。
防御解決方案則是為用戶提供模型安全性升級服務(wù)，RealSafe 平臺支持五種去除對抗噪聲的通用防御方法，可實現(xiàn)對輸入數(shù)據(jù)的自動去噪處理，破壞攻擊者惡意添加的對抗噪聲。根據(jù)上述的模型安全評測結(jié)果，用戶可自行選擇合適的防御方案，從而達(dá)到一鍵提升模型安全性的目的。
瑞萊智慧表示，隨著模型攻擊手段在不斷復(fù)雜擴(kuò)張，RealSafe 平臺還將持續(xù)提供更加豐富的 AI 防御手段，幫助用戶獲得實時且自動化的漏洞檢測和修復(fù)能力。
a&s傳媒是全球知名展覽公司法蘭克福展覽集團(tuán)旗下的專業(yè)媒體平臺，自1994年品牌成立以來，一直專注于安全&自動化產(chǎn)業(yè)前沿產(chǎn)品、技術(shù)及市場趨勢的專業(yè)媒體傳播和品牌服務(wù)。從安全管理到產(chǎn)業(yè)數(shù)字化，a&s傳媒擁有首屈一指的國際行業(yè)展覽會資源以及豐富的媒體經(jīng)驗，提供媒體、活動、展會等整合營銷服務(wù)。
粵公網(wǎng)安備 44030402000264號
