神經(jīng)網(wǎng)絡(luò)通過(guò)分析大量的訓(xùn)練數(shù)據(jù)來(lái)學(xué)習(xí)并執(zhí)行計(jì)算任務(wù)，是構(gòu)成當(dāng)前人工智能（AI）系統(tǒng)的關(guān)鍵，應(yīng)用領(lǐng)域覆蓋語(yǔ)音識(shí)別系統(tǒng)到自動(dòng)翻譯系統(tǒng)，以及自動(dòng)駕駛汽車。
 
　　然而，神經(jīng)網(wǎng)絡(luò)卻如同黑盒一般，一旦受過(guò)訓(xùn)練，即使是他們的設(shè)計(jì)師也很少能知道它們正在處理或如何處理哪些數(shù)據(jù)元素，以及它們究竟在做什么。而麻省理工學(xué)院(MIT)最近揭示的一項(xiàng)研究成果表明了可通過(guò)新技術(shù)理解訓(xùn)練視覺(jué)數(shù)據(jù)的神經(jīng)網(wǎng)絡(luò)的內(nèi)在運(yùn)作。
 
　　兩年前，麻省理工學(xué)院(MIT)計(jì)算器科學(xué)和人工智能實(shí)驗(yàn)室（CSAIL）的計(jì)算器視覺(jué)研究團(tuán)隊(duì)描述了一種用于訓(xùn)練識(shí)別視覺(jué)場(chǎng)景神經(jīng)網(wǎng)絡(luò)的黑盒方法。該方法提供了一些有趣的見解，但它仍需要人工判斷。                                           （圖片來(lái)源：Christine Daniloff/MIT）
 
　　MIT稍早前發(fā)布的文件指出，在今年的計(jì)算器視覺(jué)和模式識(shí)別會(huì)議上，CSAIL研究人員提供了一個(gè)完全自動(dòng)化的系統(tǒng)，新論文說(shuō)明了執(zhí)行20多個(gè)任務(wù)進(jìn)行訓(xùn)練的四種神經(jīng)網(wǎng)絡(luò)分析，包括識(shí)別場(chǎng)景和物體、對(duì)灰色圖像著色以及解決困難的問(wèn)題。其中一些新網(wǎng)絡(luò)的規(guī)模非常龐大，若采用舊方法做分析的成本將非常高昂。
 
　　研究人員還在網(wǎng)絡(luò)上進(jìn)行了幾項(xiàng)實(shí)驗(yàn)，不僅揭示了幾種計(jì)算器視覺(jué)和計(jì)算器攝影算法的性質(zhì)，而且還提供了有關(guān)人類大腦組織的一些證據(jù)。
 
　　之所以稱為神經(jīng)網(wǎng)絡(luò)，是由于其與人類神經(jīng)系統(tǒng)相似，具有大量相當(dāng)簡(jiǎn)單而密集的信息處理“節(jié)點(diǎn)”。如同神經(jīng)元，神經(jīng)網(wǎng)絡(luò)的節(jié)點(diǎn)接收來(lái)自鄰居的信息信號(hào)，而后再發(fā)出自己的信號(hào)（或不發(fā)出）。和神經(jīng)元一樣，節(jié)點(diǎn)發(fā)出信號(hào)的響應(yīng)強(qiáng)度可以變化。
 
　　在新的論文和之前發(fā)表的文章中，麻省理工學(xué)院的研究人員都讓訓(xùn)練有素的神經(jīng)網(wǎng)絡(luò)執(zhí)行計(jì)算器視覺(jué)任務(wù)，并披露對(duì)不同輸入圖像響應(yīng)的單個(gè)節(jié)點(diǎn)發(fā)射強(qiáng)度。他們選擇了10個(gè)輸入圖像，這些圖像激發(fā)了每個(gè)節(jié)點(diǎn)的最強(qiáng)響應(yīng)。
 
　　在早先發(fā)布的論文中，研究人員將圖像發(fā)送給通過(guò)Mechanical Turk招募的工作人員，他們被要求確定圖像的共同點(diǎn)。而在新的論文中則是使用計(jì)算器系統(tǒng)來(lái)執(zhí)行。
 
　　“我們分類出了1,100個(gè)視覺(jué)概念，如綠色、漩渦紋理、木材、人臉、自行車車輪或雪山頂?shù)取?rdquo;麻省理工學(xué)院電氣工程研究生David Bau說(shuō)表示，“我們汲取了其他人開發(fā)的幾個(gè)數(shù)據(jù)集，并將它們合并成一個(gè)廣泛而密集的視覺(jué)概念數(shù)據(jù)集。它有許多卷標(biāo)，對(duì)于每個(gè)卷標(biāo)，我們都知道哪個(gè)圖像的像素對(duì)應(yīng)于哪個(gè)標(biāo)簽。”
 
　　研究人員也得知了哪些圖像的像素對(duì)應(yīng)于給定網(wǎng)絡(luò)節(jié)點(diǎn)的最強(qiáng)響應(yīng)。今天的神經(jīng)網(wǎng)絡(luò)是層狀組織，數(shù)據(jù)被饋送到最低層，經(jīng)過(guò)處理后再傳遞到下一層。使用可視數(shù)據(jù)，輸入圖像會(huì)被分解成小塊，每個(gè)塊被饋送到單獨(dú)的輸入節(jié)點(diǎn)。
 
　　針對(duì)網(wǎng)絡(luò)中的高層節(jié)點(diǎn)的強(qiáng)烈反應(yīng)，研究人員可以反向追溯到其觸發(fā)模式，從而識(shí)別出響應(yīng)的特定圖像像素。因?yàn)樗麄兊南到y(tǒng)能夠頻繁地識(shí)別出與精確的像素集群相對(duì)應(yīng)的標(biāo)簽，這些像素簇激發(fā)了來(lái)自給定節(jié)點(diǎn)的強(qiáng)烈響應(yīng)，所以它可以良好地表征節(jié)點(diǎn)的行為。
 
　　研究人員將數(shù)據(jù)庫(kù)中的視覺(jué)概念組織成一個(gè)層次結(jié)構(gòu)。層次結(jié)構(gòu)的每個(gè)層次都結(jié)合了以下級(jí)別的概念，從顏色開始，向上依次是紋理、材料、部件、對(duì)象和場(chǎng)景。通常情況下，較低層次的神經(jīng)網(wǎng)絡(luò)會(huì)響應(yīng)更簡(jiǎn)單的視覺(jué)屬性，如顏色和紋理，而高層則會(huì)響應(yīng)更復(fù)雜的屬性而觸發(fā)。
 
　　層次結(jié)構(gòu)也允許研究人員將網(wǎng)絡(luò)訓(xùn)練的重點(diǎn)量化為在不同視覺(jué)屬性下執(zhí)行不同的任務(wù)。如一個(gè)網(wǎng)絡(luò)可能被訓(xùn)練為將大部分節(jié)??點(diǎn)的黑白圖像著色以識(shí)別紋理。另一個(gè)網(wǎng)絡(luò)，當(dāng)訓(xùn)練跟蹤多個(gè)視頻幀的對(duì)象時(shí)，將其較高比例的節(jié)點(diǎn)用于場(chǎng)景識(shí)別，而不是在訓(xùn)練時(shí)識(shí)別場(chǎng)景；在這種情況下，其許多節(jié)點(diǎn)實(shí)際上都專門用于對(duì)象檢測(cè)。
 
　　研究人員的一項(xiàng)實(shí)驗(yàn)可以揭示神經(jīng)科學(xué)中的棘手問(wèn)題。通過(guò)在人腦中植入電極以控制嚴(yán)重神經(jīng)系統(tǒng)疾病，似乎表明大腦中的單個(gè)神經(jīng)元會(huì)對(duì)特定的視覺(jué)刺激產(chǎn)生反應(yīng)。這一假說(shuō)最初被稱為“祖母神經(jīng)元假說(shuō)”，是最近一代神經(jīng)科學(xué)家所熟知的詹妮弗·安妮斯頓神經(jīng)元假說(shuō)，即發(fā)現(xiàn)幾個(gè)神經(jīng)系統(tǒng)疾病的患者似乎只對(duì)特定好萊塢名人有反應(yīng)。
 
　　但許多神經(jīng)科學(xué)家對(duì)這種解釋提出異議。他們認(rèn)為所謂的珍妮弗·安妮斯頓神經(jīng)元只是許多神經(jīng)元之一，它們是響應(yīng)詹妮弗·安妮斯頓（Jennifer Aniston）的圖像而共同觸發(fā)的。這個(gè)神經(jīng)元可能是許多其他神經(jīng)元集群的一部分，還未對(duì)其他測(cè)試做出響應(yīng)。
 
　　由于新提出的分析技術(shù)是完全自動(dòng)化的，研究人員能夠測(cè)試在訓(xùn)練識(shí)別視覺(jué)場(chǎng)景的神經(jīng)網(wǎng)絡(luò)中是否發(fā)生類似的事情。除了識(shí)別調(diào)整到特定視覺(jué)概念的單個(gè)網(wǎng)絡(luò)節(jié)點(diǎn)之外，他們還考慮了隨機(jī)選擇的節(jié)點(diǎn)組合，但節(jié)點(diǎn)組合卻比選擇個(gè)別節(jié)點(diǎn)的視覺(jué)概念少了約80%。
 
　　對(duì)此Bau表示，這表明神經(jīng)網(wǎng)絡(luò)實(shí)際上正在試圖接近祖母神經(jīng)元。它們并不想傳播祖母神經(jīng)元的想法，而是試圖把它分配給一個(gè)神經(jīng)元。但大多數(shù)人不相信是如此簡(jiǎn)單正是這個(gè)結(jié)構(gòu)的有趣之處。