亚马逊发布TorchNeuron工具挑战Nvidia

周一，亚马逊网络服务（AWS）发布了一个名为TorchNeuron的工具，该工具使人工智能初创公司能够轻松将其人工智能应用程序迁移到亚马逊的人工智能芯片Trainium上。在此过程中，亚马逊也直接针对了帮助英伟达成为人工智能应用程序默认硬件选择的软件优势，并推动了其作为人工智能硬件首选供应商的崛起。

TorchNeuron与PyTorch配合使用，PyTorch是一个免费、开源的工具包，开发者使用它来构建、训练和运行人工智能模型。根据亚马逊的说法，它允许使用PyTorch编写的人工智能应用程序通过更改一行配置即可在Trainium上运行——无需重新编写代码。

亚马逊表示，大约85%的人工智能应用程序是使用PyTorch编写的。Facebook最初开发了它，但从2022年起，它已成为Linux基金会的一部分，该基金会维护开源项目。英伟达多年来一直确保其CUDA软件——该软件基础设施允许应用程序在英伟达GPU及其其他硬件上运行——无缝支持使用PyTorch编写的人工智能应用程序。结果，英伟达的硬件现在已深深嵌入该工具包中，实质上已成为默认选择。

TorchNeuron改编自PyTorch，因此熟悉PyTorch的开发者已经知道如何使用它。PyTorch用户也可以通过简单的配置更改将他们的应用程序移植到AMD GPU甚至苹果的芯片上。

然而，亚马逊认为，将应用程序移植到Trainium不仅容易，而且它还使人工智能初创公司能够访问亚马逊的整个云。毫不奇怪，AWS声称这对初创公司来说是一个比使用许多都与英伟达及其硬件相关的neoclouds更好的选择，例如CoreWeave、Nebius和Firmus。

“你正在构建AWS。你并不是在押注单一用途的计算提供商，并围绕它匆忙构建所有其他东西，”AWS Annapurna Labs（制造亚马逊定制芯片的部门）的技术软件副总裁Colin Brace通过电子邮件告诉TechCrunch。“在AWS上，”他继续说道，“从原型到生产的基础设施已经存在，允许创始人快速行动并在需要时扩展。”

AWS表示，由于同一芯片既处理训练（训练人工智能模型）又处理推理（将完成的模型投入使用，例如当它回答用户问题时），并且与初创公司需要的云基础设施紧密集成，因此即使AWS不提供最低的每标记价格，其云也将为它们节省成本。

“Trainium的价值在于性价比加上它是一个用于训练和推理的平台，这提高了整个工作负载的经济性，”Brace说。“看看Deepgram——他们迁移到了Trainium，利用了原生的PyTorch支持，并且在生产级精度下，他们每美元处理的音频量增加了70%。 Deepgram 是一个人工智能语音应用程序提供商，是ElevenLabs的竞争对手。

但亚马逊并不满足于仅仅为PyTorch应用程序开发者提供一个轻松迁移到其云的选项。

亚马逊还表示，它正在推动PyTorch不要自动以英伟达为中心，并且它将向主要的PyTorch项目贡献实现这一点的代码。在宣布新工具的博客文章中，该公司写道：公司：

亚马逊的方法超越了其自身硬件。该公司正在向PyTorch本身上游贡献变更，与PyTorch社区合作移除将框架与特定芯片绑定的代码。目标是使PyTorch对整个开发者社区更加硬件无关，而不仅仅是Trainium用户使用。

虽然这种策略无疑对那些销售与英伟达竞争的硬件和云服务的人来说是好的，但PyTorch的一点是隐藏让AI代码在硬件上运行的所有令人烦恼的困难。我们将要看看将英伟达推开那么远是否会给开发者带来更多选择和更实惠的选项，正如亚马逊承诺的那样，或者只是更多的配置麻烦。

无论如何，如果亚马逊成功地将PyTorch与英伟达深度解耦，这可能会对GPU巨头产生更大的影响，而不仅仅是处理芯片竞争对手。正如Brace所说：“真正的故事是移除锁定机制，让开发者真正有选择。”

当您通过我们文章中的链接购买时，我们可能会获得一小笔佣金。这不会影响我们的编辑独立性。