除了器件計(jì)算資源的靈活性,賽靈思的任意到任意 I/O 靈活性能夠確保器件可無縫集成到現(xiàn)有的基礎(chǔ)架構(gòu),例如直接連接到網(wǎng)絡(luò)或存儲(chǔ)設(shè)備,無需使用主機(jī) CPU。I/O 靈活性還允許平臺(tái)針對(duì)基礎(chǔ)架構(gòu)的變化或更新進(jìn)行調(diào)整。
片上存儲(chǔ)器
如表 2 所示,賽靈思器件提供業(yè)界領(lǐng)先的靈活、高帶寬、低時(shí)延的 500Mb 片上存儲(chǔ)器.如此大的片上存儲(chǔ)器緩存意味著工作負(fù)載的很大一部分存儲(chǔ)器要求都能通過片上存儲(chǔ)器來滿足,從而減小外部存儲(chǔ)器訪問帶來的存儲(chǔ)器瓶頸問題,以及高存儲(chǔ)器帶寬解決方案(例如 HBM2)的功耗和成本問題。例如,針對(duì)大多數(shù)深度學(xué)習(xí)網(wǎng)絡(luò)技術(shù)(例如 GoogLeNet)的系數(shù)/特性圖都可存在片上存儲(chǔ)器中,以提高計(jì)算效率和降低成本。
表 2:器件片上存儲(chǔ)器大小
片上存儲(chǔ)能消除片外存儲(chǔ)器訪問引起的巨大時(shí)延問題,將系統(tǒng)的實(shí)時(shí)性能最大化。
封裝內(nèi)的 HBM
針對(duì)需要高帶寬存儲(chǔ)器的情況,賽靈思在部分 Virtex UltraScale+ 器件中提供 HBM。除了封裝內(nèi) HBM 堆棧的 460GB/s 存儲(chǔ)器帶寬,賽靈思 HBM 存儲(chǔ)器控制器還增加更大的靈活性,以便將工作負(fù)載高效映射到器件和可用存儲(chǔ)器帶寬,將效率和計(jì)算效率最大化。