在云棲大會上,平頭哥正式發(fā)布了阿里的第一款芯片——含光800,主要用于視頻圖像識別/分類/搜索、城市大腦等,未來還可應(yīng)用于醫(yī)療影像、自動(dòng)駕駛等領(lǐng)域。
阿里巴巴集團(tuán)CTO、達(dá)摩院院長張建鋒說:“在全球芯片領(lǐng)域,阿里巴巴是一個(gè)新人,玄鐵和含光800是平頭哥的萬里長征第一步,我們還有很長的路要走。
據(jù)阿里巴巴方面介紹,含光800雖然是阿里巴巴第一款芯片,但卻是全球性能最強(qiáng)的AI芯片。作為一款主要用于云端視覺處理場景的芯片,含光800的性能打破了現(xiàn)有AI芯片記錄,在性能及能效比方面統(tǒng)領(lǐng)全球第一。
在業(yè)界標(biāo)準(zhǔn)的ResNet-50測試中,含光800推理性能達(dá)到78563 IPS,比目前業(yè)界最好的AI芯片性能高4倍;能效比500 IPS/W,是第二名的3.3倍。阿里巴巴方面的專家指出,傳統(tǒng)CPU、GPU在深度學(xué)習(xí)推理任務(wù)上并沒有完全發(fā)揮硬件能力,例如GPU架構(gòu)主要針對圖像處理設(shè)計(jì),其硬件結(jié)構(gòu)、軟件生態(tài)幾乎固化,因此對AI任務(wù)很難有深度優(yōu)化。為此,阿里巴巴在首先在芯片架構(gòu)上面做了創(chuàng)新。
據(jù)介紹,含光800采用自研架構(gòu),針對深度學(xué)習(xí)中使用的大量權(quán)重參數(shù)和張量數(shù)據(jù),在支持稀疏壓縮與量化處理的基礎(chǔ)上,通過獨(dú)特設(shè)計(jì)的數(shù)據(jù)訪存與流水線處理技術(shù),大大減低了I/O需求和數(shù)據(jù)的搬移;同時(shí)深度優(yōu)化了卷積,矩陣乘,向量計(jì)算和各種激活函數(shù),通過高有效的硬件資源調(diào)度和全并行的數(shù)據(jù)流處理,把AI運(yùn)算的性能和能效雙雙推向極致。