跳到正文
原文
TechCrunch · AI· Ram Iyer·· 1 小时前精选AI 评分70

谷歌推出两款新TPU芯片

Google broadens its AI hardware portfolio with two new specialized chips

AI 摘要

谷歌推出两款新TPU芯片TPU 8tx和TPU 8i Max,扩展其芯片组合至机密推理和为大工作负载提供更多内存容量,旨在减少对其他公司芯片的依赖,同时英伟达面临来自超大规模计算器和AI实验室的竞争压力。

正文 · 清洗整理版

谷歌正在加强其芯片制造能力,以减少其云计算业务对其他公司芯片的依赖。 周一,谷歌推出了其张量处理单元(TPU)的两个新变种,这些内部开发的芯片专为AI工作负载设计,扩展了其芯片组合到更多用例:机密推理和为大工作负载提供更多内存容量。 新的单元TPU 8tx和TPU 8i Max是该公司今年4月推出的第八代芯片的一部分,这些芯片在提供更多推理能力和支持大训练需求的基础上进行了改进。 TPU 8tx与AMD合作设计,基于TPU 8t芯片,专门用于机密地训练和运行AI模型。

该芯片“直接在硬件层构建安全性,即使在主动使用时也能保护敏感数据和模型权重”,该公司在博客文章中写道。 该芯片还具有定制的推理网络,允许它在训练的同时进行推理,因此可用于在飞行中提炼和训练小型模型。 根据谷歌的说法,这种能力对于公司可能希望在专有数据上训练模型,而无需在设备之间移动数据的情况可能很有用。 与此同时,TPU 8i Max基本上结合了该公司今年4月推出的两个专注于推理的TPU 8i芯片,将内存容量、处理能力和带宽翻倍,但集成在一个包装中。 结果是芯片,让AI模型在查询期间处理更大范围的信息。

芯片发布之际,像微软、亚马逊等超大规模计算器,甚至OpenAI和Anthropic等AI实验室都在开发自己的AI专用半导体及其配套软件,以减少对英伟达的依赖。 该消息也正值英伟达特别脆弱的时刻,其首席执行官黄仁勋上周周末承认与一名据称是中国间谍的人有婚外情。

来源:TechCrunch · AI · techcrunch.com

00