亚马逊研发 AWS 大语言模型专用的 AI 芯片

软餐获悉,亚马逊位于德克萨斯州奥斯汀的办公室正在开发两款全新芯片—— Trainium 和 Inferential。这两款芯片将被用于在 AWS 上训练大语言模型。亚马逊希望它们能与 NVIDIA 的 Grace Hopper 超级芯片相媲美。亚马逊表示其最大的优势是 AWS 已经被数百万客户广泛使用,他们已经习惯了服务器及其工具。超过 10 万家客户使用 AWS 进行机器学习。

目前亚马逊也在其 AWS 服务器中使用了 NVIDIA 芯片。7 月,它宣布 Amazon EC2 P5 实例可供 AWS 用户使用,这些服务器搭载了 NVIDIA H100 Tensor Core GPU。

亚马逊研发AWS大语言模型专用的AI 芯片
(0)
瞻宇的头像瞻宇

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注