微软建超级计算机集群以开发 ChatGPT

软餐获悉,微软正在为 Azure 云计算平台创建超级计算机,以帮助 OpenAI 开发和训练 ChatGPT 聊天机器人。微软还宣布推出一款新的 AI 虚拟机 ND H100 v5 VM,它使用 NVIDIA 的 H100 GPU(A100 GPU 的升级)。该虚拟机具有 8 个 NVIDIA H100 Tensor Core GPU,通过下一代 NVSwitch 和 NVLink 4.0 互联,每个 GPU 拥有 400 Gb/s 的 NVIDIA Quantum-2 CX7 InfiniBand。

微软表示,正在继续添加 GPU 并扩展网络,并尝试通过冷却系统、备用发电机和不间断电源系统使它们 24/7 不间断运行。为了训练大型语言模型,计算负载被分布在数千个 GPU 集群中,而 InfiniBand 网络加速了这个过程。微软将允许第三方通过 Azure OpenAI 来访问该虚拟机上运行的 ChatGPT 技术。

软餐已入驻TG电报,加入群组关注频道

微软建超级计算机集群以开发ChatGPT

本文为原创文章,转载需获授权。软餐食堂

(0)

相关推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注