回顧剛剛過去的2019年，基于機器學(xué)習(xí)系統(tǒng)訓(xùn)練算法的人工智能，已然開始滲透至各行各業(yè)。

　　AI周刊在對2019年的人工智能行業(yè)進(jìn)行總結(jié)是歸納了以下四個關(guān)鍵詞：面部識別、深度偽裝、隱私和自動化。與此同時，AI周刊也對2020年的人工智能行業(yè)大發(fā)展進(jìn)行了展望。

　　面部識別

　　在2019年的新聞報道中，我們可以發(fā)現(xiàn)，面部識別技術(shù)比其它任何人工智能應(yīng)用更受矚目。

　　2019年1月份，麻省理工學(xué)院的一個科學(xué)家團(tuán)隊聲稱：亞馬遜公司的面部識別和分析軟件reko在某些種族中的性別識別準(zhǔn)確性低于其他面部識別解決方案。具體來看，reko未能在特定場景中確定女性和深色皮膚的面孔的性別，從而錯誤地將女性的照片分別識別為男性和深色皮膚的女性分別為19％和31％。

　　撇開亞馬遜的面部識別爭議不談，這項研究很有先見之明地指出了人工智能的種族偏見問題上周美國國家標(biāo)準(zhǔn)與技術(shù)研究所(NIST)發(fā)表的一項研究發(fā)現(xiàn)：在進(jìn)行一種被稱為“一對一”匹配的特定類型的數(shù)據(jù)庫搜索時，不少面部識別系統(tǒng)錯誤地識別了非裔美國人和亞洲人的面孔，相較于白人，亞裔和非裔的人臉識別錯誤率要高10到100倍。

　　而除了偏見問題之外，人臉識別技術(shù)的可擴展性也使得該項技術(shù)正在濫用。今年，紐約警察局通過面部識別系統(tǒng)錯誤將演員伍迪·哈里森識別為嫌疑人；中國通過，面部識別系統(tǒng)用來進(jìn)行反恐等活動來保障國家公共安全；初創(chuàng)公司AnyVision旗下的面部識別產(chǎn)品也因被用來監(jiān)視居住在約旦河西岸的巴勒斯坦人而備受關(guān)注。

　　越來越多的活動人士、學(xué)者和立法者呼吁限制或徹底禁止面部識別技術(shù)。2019年5月，舊金山禁止警察或市政部門使用面部識別技術(shù)；奧克蘭在6月也緊隨其后，之后伯克利通過了關(guān)于面部識別技術(shù)的禁令。2019年秋天，美國加州頒布了一項為期三年的禁令：禁止在執(zhí)法隨身相機中使用面部識別技術(shù)；以及2018年在美國眾議院監(jiān)督和改革委員會的兩次聽證會上，美國國會一些最著名的共和黨人和民主黨人共同提出了關(guān)于面部識別的立法改革建議， 2019年商業(yè)面部識別隱私法案的出臺，要求企業(yè)在使用面部識別軟件之前必須獲得公眾許可。

　　鑒于面部識別在美國國會、學(xué)術(shù)界、州議會和國會山等公共論壇上引發(fā)的激烈爭論，可以說面部識別過去是，將來也將是一個熱點話題。

　　深度偽造（自我審查和深度造假）

　　2019年2月，OpenA打破了學(xué)術(shù)規(guī)范，決定不公開用于訓(xùn)練其最先進(jìn)的自然語言處理模型GPT-2的語料庫，也不公開與之相關(guān)的訓(xùn)練代碼。OpenAI在一篇證明其決定合理性的博客文章中表示，它擔(dān)心這些信息可能被用來生成有關(guān)特定公司的合成新聞，比如種族主義或性別歧視的文章，以及亞馬遜(Amazon)或Yelp等網(wǎng)站上的虛假評論。

　　OpenAI隨后發(fā)布了幾個更小、更簡單的GPT-2版本，并研究了它們的接收情況以及它們訓(xùn)練時使用的數(shù)據(jù)集。在得出“沒有強有力的證據(jù)”證明存在誤用之后，谷歌于上月發(fā)布了完整的模型——該模型對從網(wǎng)上搜集的800萬份文本文件進(jìn)行了訓(xùn)練。

　　OpenAI此項決定的批評者認(rèn)為，該公司夸大了他們的工作將帶來的危險，并在不經(jīng)意間激起了人們對人工智能和機器學(xué)習(xí)的激烈討論。除此之外，他們認(rèn)為OpenAI剝奪了研究人員獲得突破性人工智能技術(shù)的機會，從而使他們處于不利地位，而且它有效地阻止了研究人員識別GPT-2中的錯誤或提出潛在的對策。

　　盡管批評者的表述不無道理，但OpenAI的擔(dān)憂并非完全沒有根據(jù)。在2019年，利用人工智能將現(xiàn)有圖像、音頻記錄或視頻中的人物替換成其他人的肖像的深度贗品或媒體數(shù)量迅速增加。Deeptrace在6月和7月發(fā)現(xiàn)了14,698個網(wǎng)絡(luò)上的深度造假視頻，比去年12月增加了84%。這組數(shù)據(jù)讓人感到不安，不僅因為深度造假贗品可能被用來在選舉期間左右公眾輿論，或?qū)⒛橙司砣胨麄儧]有犯下的罪行當(dāng)中，還因為它們已經(jīng)被用來制作色情材料，并騙取公司數(shù)億美元。

　　包括Facebook、微軟和亞馬遜在內(nèi)的科技巨頭已與麻省理工學(xué)院和康奈爾大學(xué)在內(nèi)的學(xué)術(shù)合作伙伴合作，幫助抵抗由人工智能引發(fā)的誤導(dǎo)性媒體的傳播，但OpenAI不愿發(fā)布自己的模型，預(yù)示著這種深度抵抗也面臨著不小的挑戰(zhàn)。實際上，益百利預(yù)測，到2020年，網(wǎng)絡(luò)罪犯將利用人工智能技術(shù)擾亂商業(yè)企業(yè)的運營，并在各國之間制造地緣政治混亂。

　　隱私

　　盡管深度學(xué)習(xí)和人工智能給人們帶來了惠利，但它們還存在一個主要的隱私問題。

　　皇家自由倫敦NHS基金會是英國國家醫(yī)療服務(wù)中心的一個分支機構(gòu)，在未經(jīng)患者的同意下，皇家自由倫敦NHS基金會向谷歌旗下的DeepMind提供了160萬名患者的數(shù)據(jù)。谷歌(其與阿森松島的健康數(shù)據(jù)共享伙伴關(guān)系在11月成為審查的對象)放棄了發(fā)布胸部x光掃描的計劃，因為擔(dān)心其中包含個人身份信息；在2019年的夏天，微軟悄悄刪除了其最大的公開人臉識別數(shù)據(jù)庫MSCeleb，該數(shù)據(jù)庫擁有超過1000萬張圖像，將近10萬人的面部信息。而伴隨著微軟刪除了 MS-Celeb-1M 數(shù)據(jù)庫，另外兩個學(xué)術(shù)單位也刪除了它們旗下的類似相關(guān)數(shù)據(jù)庫，包括由杜克大學(xué)研究人員建造的 Duke MTMC 監(jiān)控數(shù)據(jù)庫和斯坦福大學(xué)的 Brainwash 數(shù)據(jù)庫；而ImageNet，一個常用來訓(xùn)練計算機視覺算法的開源庫，被發(fā)現(xiàn)在某些時候包含從Google，F(xiàn)lickr和其他地方刮取的親密行為的描述。

　　此外，包括蘋果和谷歌在內(nèi)的科技巨頭也先后被媒體披露，為了改進(jìn)Siri和谷歌Assistant等助手功能而收集的錄音可能被濫用。今年4月，彭博社披露，亞馬遜雇傭合同工，為裝有alexa的設(shè)備上數(shù)千小時的音頻進(jìn)行人工注釋，這促使該公司推出面向用戶的工具，快速刪除云存儲數(shù)據(jù)。

　　而以上事件的發(fā)生都是不合理、有問題的存在。因為在越來越多的情況下，隱私不僅僅是一個哲學(xué)問題，并且包含可商業(yè)中的利害關(guān)系。在這種背景下，州、地方和聯(lián)邦先后頒布各級法律，旨在使隱私成為合規(guī)管理的強制性部分。目前，美國50個州、地區(qū)和哥倫比亞特區(qū)正在或已經(jīng)通過了數(shù)百項涉及隱私、網(wǎng)絡(luò)安全和數(shù)據(jù)泄露的法案。可以說，其中最全面的是大約兩年前簽署的《加州消費者隱私法》(California Consumer Privacy Act)。這還不包括健康保險可攜性和責(zé)任法案(HIPAA)，該法案要求公司在披露個人健康信息之前必須獲得授權(quán)。

　　而為了保障公民的隱私問題，谷歌以及其他公司也先后發(fā)布了TensorFlow Privacy和PySyft等用于機器學(xué)習(xí)框架(包括TensorFlow和PyTorch)的庫，這些庫使用差別隱私等技術(shù)來提供強大的隱私保障。與此同時，他們還采用了包括聯(lián)邦學(xué)習(xí)在內(nèi)的技術(shù)，通過分散的設(shè)備或服務(wù)器(即人工智能)來訓(xùn)練人工智能。如，同態(tài)加密是一種密碼學(xué)的形式，它支持對使用算法(也稱為密文)加密的明文(文件內(nèi)容)進(jìn)行計算。在完全管理的服務(wù)方面，像亞馬遜這樣的科技巨頭已經(jīng)開始讓他們的產(chǎn)品符合HIPAA這樣的規(guī)定。

　　自動化

　　盡管人們對人工智能對其職位所帶來的擔(dān)憂可能被夸大了，但不可否認(rèn)的是，因人工智能而出現(xiàn)的自動化正在降低行業(yè)對勞動力的需求。

　　麥肯錫全球研究所2019年早些時候發(fā)布的一份報告發(fā)現(xiàn)，在人工智能和機器學(xué)習(xí)帶來不利變化的職業(yè)中，女性將占主導(dǎo)地位。到2030年，在占GDP 60%以上的10個經(jīng)濟體中，男性占多數(shù)的工作崗位中，約有40%的工作崗位將被自動化取代。而在自動化潛力很大的以女性為主的工作崗位中，自動化取代率達(dá)到了52%。

　　這個觀點與英國國家統(tǒng)計局在2019年3月發(fā)布的一份報告相符，

　　國家統(tǒng)計局預(yù)測，服務(wù)行業(yè)的員工——主要是服務(wù)員、零售庫存回收人員和初級銷售人員——以及農(nóng)業(yè)、汽車和服務(wù)行業(yè)的員工將受到不同程度的影響。勞工部預(yù)測，在2017年占高風(fēng)險工作70.2%的女性將承受即將到來的勞動力市場變化的沖擊。

　　這些觀點與英國國家統(tǒng)計局(ONS) 2019年3月的一份報告相一致，英國10%的勞動力（約150萬工人）從事著 “高風(fēng)險”的自動化工作。英國國家統(tǒng)計局預(yù)測，服務(wù)行業(yè)的員工——主要是服務(wù)員、零售庫存回收人員和初級銷售人員以及農(nóng)業(yè)、汽車和服務(wù)行業(yè)的員工將受到不同程度的影響，他們認(rèn)為，在2017年占高風(fēng)險工作70.2%的女性將承受即將到來的勞動力市場變化的沖擊。

　　不管人們從事新的工作還是在目前的領(lǐng)域獲得新的技能，預(yù)計到2030年，數(shù)千萬工人將不得不進(jìn)行某種形式的職業(yè)轉(zhuǎn)型。Forrester發(fā)現(xiàn)，自動化可能會在未來幾個月里代替10%的美國工作崗位。世界經(jīng)濟論壇、普華永道、麥肯錫全球研究院和高德納都曾預(yù)測，到2025年，人工智能可能會代替多達(dá)7500萬個工作崗位。

　　人工智能行業(yè)的未來

　　人工智能發(fā)展面臨著艱巨的挑戰(zhàn)：在很大程度上，面部識別依舊是機器學(xué)習(xí)的一種有效的且不受到監(jiān)管的應(yīng)用，且這種應(yīng)用正在不斷加?。簧疃葌窝b給科技公司、學(xué)術(shù)機構(gòu)以及普通公眾帶來了沉重的壓力；人工智能中隱私問題的最終解決方案是難以捉摸的；不管工人們是否重新調(diào)整工作，自動化預(yù)計將影響數(shù)百萬人的生計。

　　2020年人工智能行業(yè)將迎來怎樣的變化，誰也無法給出答案。但對于人工智能帶來的所有問題，都在不斷發(fā)生變化。2019年，人工智能在蛋白質(zhì)折疊方面達(dá)到了最先進(jìn)的水平，這可能為新的療法和藥物鋪平道路；機器學(xué)習(xí)的各種實現(xiàn)被用來應(yīng)對全球氣候變化；人工智能允許有語言和聽力障礙的人使用以前無法使用的產(chǎn)品……

　　人工智能是一把雙刃劍，與任何技術(shù)的發(fā)展一樣，人工智能要發(fā)展，總得犧牲某些利益為代價。

      （本文編譯自外網(wǎng)，內(nèi)容尚有增減）