Meta推出全新一代AI芯片MTIA v2
Meta最近发布了第二代自研AI训练和推理芯片MTIA v2,采用台积电5nm工艺,并提升了计算能力和稀疏算力。虽然面积较前一代增大了13%,功耗增加了3.6倍,但在INT8精度下的稠密算力达到了上一代的近3.5倍,稀疏算力达到了上一代的近7倍,达到了708TFLOPS。Meta表示,他们的下一代基础设施将围绕人工智能展开建设,并预计在未来几年增长。MTIA v1是Meta在2023年推出的第一代人工智能推理加速器,它是为深度学习推荐模型而设计,旨在改善Meta的应用和技术体验。Meta表示,MTIA v2的架构在计算和内存带宽方面有所增加,并与工作负载紧密结合,旨在为用户提供高质量推荐排名模型。目前,MTIA芯片已经在Meta的数据中心部署,并为生产中的模型提供服务。Meta表示,他们对定制芯片的投资将成为构建和扩展独特人工智能工作负载最强大、最高效基础设施的重要组成部分。