墨爾本大學(xué)近日進(jìn)行了一項社會實驗，在其圖書館門廳角落裝上了一款生物識別鏡（Biometric Mirror），它要求人們加強并使用AI應(yīng)用程序以及當(dāng)前的面部分析系統(tǒng)來確定各種個性特征。
據(jù)了解，該系統(tǒng)基于公開可用的眾包個性屬性數(shù)據(jù)集，其中包括數(shù)千張面部照片，隨后由超過30,000名評估多種特征的受訪者評分。除了諸如性別、年齡和種族等更客觀的屬性之外，該系統(tǒng)還被要求檢測一些更抽象的主觀特征，包括攻擊性、怪異性和情緒穩(wěn)定性。
不過，與其他面部識別系統(tǒng)的正面識別作用不同，該生物識別鏡的目的不是開發(fā)揭示對個體能進(jìn)行客觀，甚至特別準(zhǔn)確的分析的面部識別系統(tǒng)，而是突出現(xiàn)代面部識別技術(shù)背后的根本缺陷，這種技術(shù)通過基于有缺陷的數(shù)據(jù)集可能有問題地放大人類偏見的方式。
墨爾本大學(xué)項目的首席研究員Niels Wouters表示，“我們想要提高認(rèn)識的是，如果這種技術(shù)商業(yè)化（我們已經(jīng)看到類似的應(yīng)用），那么這會產(chǎn)生嚴(yán)重的后果。假設(shè)這種技術(shù)已經(jīng)在世界各地實施，那么將引發(fā)更多擔(dān)憂。所有這些系統(tǒng)背后的基本問題是盡管算法在技術(shù)上可能是準(zhǔn)確的，但它們使用的數(shù)據(jù)集幾乎總是有缺陷的?！?/p>
去年，英荷快消巨頭聯(lián)合利華已經(jīng)在其招聘流程中實施了一個視頻訪談系統(tǒng)，該系統(tǒng)測量面部表情，以評估特定工作的最佳候選人。當(dāng)時HireVue認(rèn)為他們，他們所推出的視頻訪談系統(tǒng)實際上可以消除人為偏見。
但Wouters認(rèn)為他們對著這種技術(shù)具有盲目的認(rèn)同感，這種對技術(shù)的錯誤信念是令人擔(dān)憂的。
外媒New Atlas記者Rich Haridy在親自測試生物識別鏡后發(fā)現(xiàn)，人工智能似乎100％肯定他是高度攻擊性的，這點非常奇怪，而且非常不負(fù)責(zé)任。當(dāng)他第二次不戴眼鏡穿過這個系統(tǒng)時，雖然他的攻擊性和怪異評分仍然很高，但這次微笑讓他的情緒穩(wěn)定評分更高。作為人類驅(qū)動的數(shù)據(jù)集如何能夠固有地保持偏見的一個例子，Wouters認(rèn)為有胡須的男性往往被發(fā)現(xiàn)具有高度攻擊性。
最終，研究人員希望借助生物識別鏡提醒人們，盡管世界各地的面部識別系統(tǒng)實施得非常廣泛，但這種技術(shù)仍然處于早期階段，依舊有缺陷存在。
a&s傳媒是全球知名展覽公司法蘭克福展覽集團(tuán)旗下的專業(yè)媒體平臺，自1994年品牌成立以來，一直專注于安全&自動化產(chǎn)業(yè)前沿產(chǎn)品、技術(shù)及市場趨勢的專業(yè)媒體傳播和品牌服務(wù)。從安全管理到產(chǎn)業(yè)數(shù)字化，a&s傳媒擁有首屈一指的國際行業(yè)展覽會資源以及豐富的媒體經(jīng)驗，提供媒體、活動、展會等整合營銷服務(wù)。
粵公網(wǎng)安備 44030402000264號
