據(jù)報道,谷歌高達在本周的迄今Cloud Next大會上,Google發(fā)布了第七代TPU AI加速器芯片——Ironwood。最強
Google Cloud副總裁Amin Vahdat表示:Ironwood是芯第我們迄今為止功能最強大、性能最強、發(fā)布最節(jié)能的內(nèi)存 TPU。它專為大規(guī)模支持思考和推理AI模型而設(shè)計。容量
首先在計算性能上,迄今Ironwood實現(xiàn)4614 TFLOP的最強峰值算力,配備192GB專用RAM和7.4Tbps超高帶寬,芯第確保數(shù)據(jù)高速傳輸。發(fā)布
其次,內(nèi)存芯片間互連(ICI)帶寬提升至1.2Tbps,容量較前代提升50%,谷歌高達大幅優(yōu)化分布式訓(xùn)練效率。
最引人注目的是其可擴展性——支持9216個液冷芯片集群部署,總功率接近10兆瓦,通過創(chuàng)新的ICI網(wǎng)絡(luò)實現(xiàn)超大規(guī)模AI工作負載處理。
Google Cloud為客戶提供256芯片和9216芯片兩種配置選擇,該芯片作為Google AI超級計算機架構(gòu)的核心組件,通過軟硬件協(xié)同優(yōu)化,將有力推動生成式AI向更復(fù)雜場景演進。