“這個安全問題不是來自于你設(shè)計的考慮不周到，而是主要來源于算法本身的不安全性?！痹?月3日北京舉行的全球數(shù)字經(jīng)濟大會人工智能產(chǎn)業(yè)治理論壇上，中國科學(xué)院院士、清華大學(xué)人工智能研究院院長張鈸表示，這是當(dāng)下人工智能領(lǐng)域安全問題頻發(fā)的根源所在。

　　近日高頻爆發(fā)的企業(yè)數(shù)據(jù)安全問題，已使官方層面密集出臺行動決策，其中焦點領(lǐng)域之一便是目前內(nèi)嵌于各大APP的智能算法。如中宣部等五部門聯(lián)合日前印發(fā)的《關(guān)于加強新時代文藝評論工作的指導(dǎo)意見》便明確要求，健全完善基于大數(shù)據(jù)的評價方式，加強網(wǎng)絡(luò)算法研究和引導(dǎo)，開展網(wǎng)絡(luò)算法推薦綜合治理，不給錯誤內(nèi)容提供傳播渠道。

　　張鈸表示，人工智能算法本身帶來的不安全問題很難被預(yù)先發(fā)現(xiàn)或覺察，所以如果我們在使用過程中稍不注意便會產(chǎn)生無意識錯用，從而造成非常嚴(yán)重的后果，為此，他認(rèn)為技術(shù)創(chuàng)新是解決這一問題的良策之一。

　　除此之外，人工智能領(lǐng)域的善治，還有賴于法規(guī)、倫理以及企業(yè)自身等諸多層面的因素，對此多位權(quán)威人士也均給出了相關(guān)建議。

　　源頭出在自身

　　在張鈸看來，與信息系統(tǒng)中安全風(fēng)險常來自軟件設(shè)計漏洞不同，目前引發(fā)人工智能算法安全風(fēng)險的源頭更多在于技術(shù)本身?！斑@是由于第二代人工智能技術(shù)本身所引起的，第一代人工智能技術(shù)并不存在這個問題?！睆堚摫硎尽?/p>

　　人工智能技術(shù)最早于1956年起步于國外，到目前為止已經(jīng)歷兩代。第一代人工智能以知識驅(qū)動為特征，也被稱作“符號主義”；第二代人工智能則以數(shù)據(jù)驅(qū)動為特征，即目前為人熟知的“大數(shù)據(jù)”“深度學(xué)習(xí)”。中國人工智能技術(shù)從1978年開始發(fā)展，此前以第一代人工智能技術(shù)為主，進(jìn)展較小，近20年里進(jìn)入第二代后才迅猛發(fā)展，但也同時帶來此前未有的風(fēng)險。

　　為此張鈸提出了發(fā)展“第三代人工智能”的呼吁，后者具備知識、數(shù)據(jù)、算法和算力四大要素，既能最大化當(dāng)前人工智能技術(shù)的效能，也能規(guī)避第二代技術(shù)自帶的算法風(fēng)險。

　　不過，創(chuàng)新之路并非坦途，張鈸強調(diào)，發(fā)展第三代人工智能是一項非常長期的任務(wù)，人工智能安全和治理也是長期的任務(wù)。

　　“我們解決人工智能安全性問題必須兩手抓：第一手抓治理，這個治理不是短期的任務(wù)，是長期的任務(wù)；第二手抓創(chuàng)新發(fā)展，這個創(chuàng)新發(fā)展要克服人工智能算法本身的不安全性，這也是一個長期的任務(wù)。我們雖然有兩種途徑去做，但這兩種途徑都非常困難?！睆堚摫硎?。

　　“治本”亦需“治標(biāo)”

　　張鈸在指出應(yīng)從技術(shù)創(chuàng)新層面發(fā)力去“治本”的同時，也向記者表示，從法律法規(guī)、倫理規(guī)范、行業(yè)共識等不同層面去“治標(biāo)”也同樣重要。

　　中倫律師事務(wù)所合伙人陳際紅對9月1日起即將施行的《中華人民共和國數(shù)據(jù)安全法》（以下簡稱“《數(shù)據(jù)安全法》”）進(jìn)行了解讀。在其看來，由于人工智能和社會的關(guān)系越來越密切，所以立法司法解釋已經(jīng)進(jìn)入到隱私保護(hù)、數(shù)據(jù)安全、網(wǎng)絡(luò)安全、公平競爭、消費者權(quán)益保護(hù)等各個層面。

　　由于人工智能的產(chǎn)業(yè)都離不開數(shù)據(jù)處理，因此《數(shù)據(jù)安全法》和人工智能發(fā)展密切相關(guān)。陳際紅認(rèn)為，該法在法律里建立起數(shù)據(jù)安全的標(biāo)準(zhǔn)化體系，設(shè)定一個數(shù)據(jù)安全的檢測評估和認(rèn)證的管理體制?！爸匾倪€是數(shù)據(jù)分類分級的制度，重要數(shù)據(jù)和核心數(shù)據(jù)的清單和管理制度，預(yù)警處理機制和數(shù)據(jù)活動的國家安全審查，數(shù)據(jù)處理活動和國家安全密切相關(guān)，數(shù)據(jù)交易和數(shù)據(jù)的準(zhǔn)入和監(jiān)管，以及數(shù)據(jù)跨境流動的監(jiān)管規(guī)則。”陳際紅表示。

　　倫理規(guī)范層面，中國科學(xué)院自動化研究所研究員、聯(lián)合國教科文組織人工智能倫理特設(shè)專家組專家曾毅認(rèn)為，人工智能的治理并不存在“發(fā)展優(yōu)先還是治理先行”的矛盾，人工智能穩(wěn)健發(fā)展的兩大前提是可持續(xù)發(fā)展和人工智能的善治，兩者深度協(xié)同。

　　中國社科院科技哲學(xué)研究室主任、科學(xué)技術(shù)和社會研究中心主任段偉文則認(rèn)為，數(shù)字技術(shù)與人工智能產(chǎn)業(yè)發(fā)展的倫理風(fēng)險帶來了諸多社會信任問題，面對既防患于未然也溯及既往的數(shù)字治理趨勢，人工智能企業(yè)應(yīng)直面社會許可的挑戰(zhàn)，認(rèn)真感知公眾對科技企業(yè)的認(rèn)知和評價?！叭斯ぶ悄芷髽I(yè)不應(yīng)回避社會監(jiān)督，而是不斷思考、重塑科技的社會印象，技術(shù)改進(jìn)和倫理設(shè)計要齊頭并進(jìn)，攜手走向共建性的人工智能倫理治理?！倍蝹ノ谋硎尽?/p>

　　此外，在行業(yè)共識方面，本次大會推出了國內(nèi)首個《人工智能產(chǎn)業(yè)擔(dān)當(dāng)宣言》，這一宣言由北京智源人工智能研究院、瑞萊智慧發(fā)起，聯(lián)合百度、華為、螞蟻集團(tuán)等國內(nèi)產(chǎn)業(yè)領(lǐng)軍企業(yè)和機構(gòu)進(jìn)行發(fā)布。在發(fā)起儀式上，宣言成員代表表示，宣言將為積極探索國內(nèi)人工智能治理的新路徑提供有益經(jīng)驗。