AWS发布TorchNeuron，PyTorch应用改一行配置可跑在Trainium上
AWS称该工具让用PyTorch写的AI应用无需重写代码即可迁移到自研芯片Trainium；AWS高管还称公司正向PyTorch上游提交解耦特定硬件的代码，但相关效果尚无公开数据。
AI解读：AWS周一发布TorchNeuron，用于把基于PyTorch的AI应用迁移到亚马逊自研芯片Trainium。AWS称只需改一行配置，不用重写代码。
AWS称约 85% 的AI应用使用PyTorch编写。该工具改编自PyTorch，熟悉PyTorch的开发者可直接上手。
AWS Annapurna Labs技术软件副总裁Colin Brace表示，Trainium的价值在于性价比，以及同一芯片同时承担训练和推理；他引用语音AI公司Deepgram的说法称，后者迁移后用同样的钱多处理 70% 的音频。
AWS还表示将与PyTorch社区合作，把移除框架与特定芯片绑定代码的改动提交到上游，目标是让PyTorch对硬件更中立。此举的效果尚无公开数据。
AWS周一发布开发工具TorchNeuron，让用PyTorch编写的AI应用可以运行在亚马逊自研的AI芯片Trainium上。据AWS说法，迁移只需改动一行配置，无需重写代码。
工具做了什么
TorchNeuron与PyTorch配合使用。PyTorch是开发者构建、训练和运行AI模型所用的免费开源工具包，最初由Facebook开发，自 2022 年起由Linux Foundation维护。AWS称约 85% 的AI应用用PyTorch编写。
TorchNeuron改编自PyTorch，因此已经会使用PyTorch的开发者无需学习新接口。AWS称，该工具把应用从PyTorch迁移到Trainium只需改一行配置。
AWS的说法与已有参照
AWS并非第一家让PyTorch应用通过简单配置迁移到其他芯片的公司。报道称，PyTorch用户也可以通过修改配置把应用迁移到AMD GPU或苹果芯片。AWS主张，迁移到Trainium还能接入亚马逊云的整体基础设施。
AWS Annapurna Labs技术软件副总裁Colin Brace在给TechCrunch的邮件中表示，Trainium的价值是“性价比加上同一平台同时覆盖训练和推理”。他举例称，语音AI公司Deepgram用原生PyTorch迁移到Trainium后，“每美元处理的音频量提高了 70%，且保持生产级准确率”。这些均为AWS方面提供的数据，尚无独立验证。
向PyTorch上游提交改动
AWS还表示，将把移除PyTorch中与特定芯片绑定代码的改动提交给PyTorch主项目，并与社区合作，目标是让PyTorch对整个开发者社区更具硬件中立性，而不只服务Trainium用户。
报道指出，这类改动能否给开发者带来更多选择和更低成本，还是增加配置负担，目前尚待观察。