6月30日,美國計算機協(xié)會(ACM)的技術政策小組呼吁,以記錄在案的種族和性別偏見為由,敦促美國立法者立即中止企業(yè)和政府部門使用人臉識別。同時,美國技術政策委員會(USTPC)也發(fā)布了一封信,承認人臉識別技術有望在未來得到改進,但尚未“足夠成熟”,因此會對人們的人權和合法權利構成威脅。
根據(jù)喬治敦大學針對人臉識別項目的測試結果,廣泛使用該技術將對美國黑人的生活產(chǎn)生負面影響。包括美國公民自由聯(lián)盟(ACLU)和算法正義聯(lián)盟等隱私和種族正義倡導組織,在過去都曾支持停止使用人臉識別技術。但ACM是全球最大的計算機科學組織之一,在全球擁有近10萬成員。
“(人臉識別)偏見帶來的后果確實會常常帶來不便和嚴重危害,尤其是對特定人口群體中的個人,這些人是我們社會中最脆弱的一部分,偏見會給他們的生計和基本權利造成的嚴重傷害?!盪STPC在信中寫道。
在USTPC的信中,還提到了人臉識別的準確性、透明度、風險管理和責任制等相關的監(jiān)管原則。其中推薦的原則包括:根據(jù)種族、性別和其他適當?shù)娜丝诮y(tǒng)計數(shù)據(jù)對人臉識別系統(tǒng)錯誤率進行分類;面部識別系統(tǒng)必須經(jīng)過第三方審核和強大的政府監(jiān)督;使用人臉識別系統(tǒng)時,必須要告知,并在部署前闡明情況;如果造成影響和傷害,則使用人臉識別的組織應當承擔責任。
USTPC的信中并沒有要求永久禁止使用人臉識別,而是希望能暫時禁止帶來種族和性別偏見的技術。根據(jù)Gender Shades項目在2018年和2019年對主要人臉識別系統(tǒng)的測試發(fā)現(xiàn),人臉識別系統(tǒng)顯示出種族和性別偏見,并且對不符合單一性別認同的人表現(xiàn)不佳。
在弗洛伊德事件后,人臉識別使用爭議再次引發(fā)討論。美國多家科技公司,包括微軟、IBM、亞馬遜等都已表示暫停向美國警方提供人臉識別系統(tǒng)。上周,美國參議院和眾議院的許多議員甚至提出了立法,禁止聯(lián)邦雇員使用人臉識別技術,如果部分州和地方政府細節(jié)選擇使用該技術,將削減資金。
舊金山、波士頓等美國城市此前都以性別偏見和錯誤識別為由,成為美國禁止使用人臉識別技術的城市。在美國底特律,居民羅伯特·威廉姆斯(Robert Williams)成為第一位因人臉識別的錯誤識別被逮捕并被指控為犯罪的人。底特律警察局認為底特律使用的人臉識別軟件有96%的時間是不準確的。