Claude 四分之一研发工作由其自身完成

Anthropic 让 Claude 自己完成其超过四分之一的研究与开发工作。该公司发布的一份报告显示,该公司使用一套六分制量表,来判断人工智能工具对 Claude 研究与开发(R&D)的贡献程度。该量表最高到第 5 级,代表人工智能可以自主完成所有工作。 Anthropic 表示,最后这一级别目前还谈不上,但人工智能确实经常发挥主导作用。 Anthropic 称,八月有 26% 的 R&D 工作是在第 4 级完成的。这意味着,人工智能智能体可以根据一条提示从头到尾执行任务,但人类始终保留控制权。

总体而言,至少有 90% 的工作【部分由人工智能完成】,而几乎所有工作都有 AI 在 “协助” 。 Anthropic 表示,它正试图为人工智能智能体的内部使用建立一个框架。据 Anthropic 称,越来越多公司使用人工智能智能体,并外包更多工作。因此,需要更多措施来监控这些智能体,并了解它们如何完成工作。 Anthropic 表示,目前这方面仍然欠缺。它已开发出一套系统,大致从三个方面考察智能体。该系统会考察智能体执行动作的数量,考察智能体执行一个动作需要多长时间,以及随后将该动作提交给人类或其他智能体进行核查。最后,它还会记录智能体发现问题的频率。借助这一模型,它目前已在内部平台上运行 30000 个人工智能智能体。该公司投入的所有算力中有 6% 到 12% 用于监控智能体。

(0)
RC-pulish的头像RC-pulish

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注