亚马逊研发 AWS 大语言模型专用的 AI 芯片

软餐获悉,亚马逊位于德克萨斯州奥斯汀的办公室正在开发两款全新芯片—— Trainium 和 Inferential 。这两款芯片将被用于在 AWS 上训练大语言模型。亚马逊希望它们能与 NVIDIA 的 Grace Hopper 超级芯片相媲美。亚马逊表示其最大的优势是 AWS 已经被数百万客户广泛使用,他们已经习惯了服务器及其工具。超过 10 万家客户使用 AWS 进行机器学习。

目前亚马逊也在其 AWS 服务器中使用了 NVIDIA 芯片。 7 月,它宣布 Amazon EC2 P5 实例可供 AWS 用户使用,这些服务器搭载了 NVIDIA H100 Tensor Core GPU 。

(0)
瞻宇的头像瞻宇

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注