微软 new Bing 和谷歌 Bard 运行成本异常高昂,如何破解?

通过TG电报 订阅本站 / 加入群组

正如外界预料,不管是微软的 new Bing 还是谷歌即将推出的 Bard,这些 ChatGPT 或类 ChatGPT 背后的技术及运行成本高得惊人。

软餐获悉,据路透社的一篇报道称:

  • Alphabet 的董事长约翰·轩尼诗 (John Hennessy) 透露,搜索引擎使用具有大型语言模型的聊天机器人的成本可能是普通搜索的 10 倍。
  • OpenAI 的首席执行官 Sam Altman 也曾表示:“计算成本令人瞠目结舌。” 
  • 摩根士丹利的估算显示,2022 年用户在谷歌上每执行一次搜索,谷歌的成本为 0.2 美分。如果放置一个像 Bard 这样的聊天机器人 AI,到 2024 年谷歌的成本可能会增加多达 60 亿美元。

推高其成本的原因是在返回准确答案的背后,搜索引擎需要部署更多的芯片以保证强大的计算能力,其次是由此带来的高昂用电成本。

科技巨头们将采取几种方式来降低成本:

  • 提供付费订阅服务,例如每个月 20 美元的 ChatGPT Plus。
  • 在聊天机器人的回答中投放广告链接,以获取收入。
  • 在研发侧,降低训练和运行大型语言模型的成本。消息称,OpenAI 内部已找到了通过复杂代码来优化推理成本的方法,从而使芯片运行更高效。
  • 提供更小的、更有针对性的人工智能模型,以解决特定的任务。

还有观察人士认为,现在准确确定聊天机器人的成本还为时过早,因为效率和使用情况因所涉及的技术而有很大差异。

微软new Bing和谷歌Bard运行成本异常高昂,如何破解?

本文为原创文章,转载需获授权。软餐食堂

(0)

相关推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注