软餐获悉，据一家名为 SemiAnalysis 的研究公司测算，OpenAI 运行 ChatGPT 每天大约需要消耗的成本为近 70 万美元，相当于每次查询就要花掉 36 美分。大部分费用用于运行人工智能系统所需的硬件基础设施——OpenAI 需要约 3,617 台 HGX A100 服务器（28,936 个 GPU）来为 Chat GPT 提供服务。而这个初步估计还是基于 GPT-3 模型得出的，GPT-4 模型的运行成本可能更高。
SemiAnalysis 表示，由于几个未知变量，估计 ChatGPT 成本是一个棘手的命题。该公司建立了一个成本模型来测算这一数据。SemiAnalysis 还称，如果将 ChatGPT 部署到 Google 的搜索引擎中，需要部署 512,820.51 台 A100 HGX 服务器和总共 4,102,568 个 A100 GPU，总成本将超过 1000 亿美元。
微信扫一扫