微软建超级计算机集群以开发 ChatGPT

软餐获悉,微软正在为 Azure 云计算平台创建超级计算机,以帮助 OpenAI 开发和训练 ChatGPT 聊天机器人。微软还宣布推出一款新的 AI 虚拟机 ND H100 v5 VM,它使用 NVIDIA 的 H100 GPU(A100 GPU 的升级)。该虚拟机具有 8 个 NVIDIA H100 Tensor Core GPU,通过下一代 NVSwitch 和 NVLink 4.0 互联,每个 GPU 拥有 400 Gb/s 的 NVIDIA Quantum-2 CX7 InfiniBand。

微软表示,正在继续添加 GPU 并扩展网络,并尝试通过冷却系统、备用发电机和不间断电源系统使它们 24/7 不间断运行。为了训练大型语言模型,计算负载被分布在数千个 GPU 集群中,而 InfiniBand 网络加速了这个过程。微软将允许第三方通过 Azure OpenAI 来访问该虚拟机上运行的 ChatGPT 技术。

微软建超级计算机集群以开发ChatGPT
(0)
余渝的头像余渝

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注