Meta推出新款AI芯片,以期降低对英伟达的依赖
文章来源: 腾讯科技 于 – 新闻取自各大新闻媒体,新闻内容并不代表本网立场!
(被阅读 2365 次)
国外媒体今年早些时候就报道称,Meta计划部署一种新版本的定制数据中心芯片,以应对运行Facebook、Instagram和WhatsApp等AI产品中所需的日益增长的计算能力。这款内部称为“Artemis”的芯片将帮助Meta减少对Nvidia的依赖程度,并整体降低能源成本。
“这款芯片的架构基本上专注于提供计算、内存带宽和内存容量之间正确的平衡,以服务于排序和推荐模型,”Meta在一篇博客文章中写道。
新的Meta训练和推理加速器(MTIA)芯片是Meta广泛的定制硅计划的一部分,该计划还包括研究其他硬件系统。除了构建芯片和硬件,Meta还在开发软件方面进行了重大投资,以最有效地利用其基础设施的能力。
Meta在购买Nvidia和其他AI芯片上花费了数十亿美元,今年Meta首席执行官扎克伯格表示,公司计划从Nvidia购买大约350000颗旗舰H100芯片。扎克伯格说,加上其他供应商,Meta 计划今年累积获得相当于600000个H100芯片的算力。
中国台湾的台湾半导体制造股份有限公司将在其“5nm”工艺上生产新芯片。Meta表示,它的性能是第一代处理器的三倍。Mita的升级版芯片已在数据中心部署,并用于服务AI应用。该公司表示,它正在进行几个项目,“旨在扩大MTIA的范围,包括支持(生成性AI)工作负载。”