在本周的Cloud Next大会上,Google正式推出了其第七代TPU AI加速器芯片——Ironwood。据Google Cloud副总裁Amin Vahdat介绍,Ironwood是Google迄今为止功能最强大、性能最优、且最节能的TPU。
这款全新的AI加速器芯片专为支持大规模的思考和推理AI模型而设计。在计算性能上,Ironwood实现了4614 TFLOP的峰值算力,并配备了192GB的专用RAM以及7.4Tbps的超高带宽,确保了数据的高速传输。此外,芯片间互连(ICI)带宽提升至1.2Tbps,较上一代提升了50%,从而大幅优化了分布式训练的效率。
Ironwood最引人注目的特点之一是其可扩展性,它支持9216个液冷芯片集群部署,总功率接近10兆瓦。通过创新的ICI网络,Ironwood能够实现超大规模AI工作负载的处理。Google Cloud为客户提供两种配置选择:256芯片和9216芯片。
作为Google AI超级计算机架构的核心组件,Ironwood通过软硬件的协同优化,将有力推动生成式AI向更复杂场景演进。这一创新成果不仅展示了Google在AI加速器芯片领域的领先地位,也为AI技术的发展注入了新的动力。