OpenAI 最新 AI 模型「幻觉」问题愈发严重

《纽约时报》刊登的一项由 OpenAI 开展的调查显示,其自身模型生成的虚假内容比其他模型更多。 GPT o3 与 o4-mini 被设计用来模拟人类的推理与逻辑。当这些模型在涉及公众人物的基准测试中进行考察时,近三分之一的 GPT o3 结果被发现是幻觉现象。相比之下,去年进行测试时,GPT o1 的错误率不到前者的一半。 GPT o4-mini 的表现更差,其任务中有 48% 存在幻觉现象。当这些模型处理一般常识性问题时,GPT o3 的幻觉现象达到了 51%,而 o4-mini 则高达惊人的 79%。

OpenAI 表示,产生幻觉问题并非因为这些推理模型 “更差”,而是因为它们在回答中可能更加冗长和大胆,倾向于推测各种可能性,而非重复可预测的事实。开发者最初希望这些系统能够具备批判性思维和解决复杂问题的能力;然而,这一雄心勃勃的做法似乎以牺牲事实准确性为代价,增加了创造性发挥的空间。而错误信息的风险会削弱人工智能整体的可信度。在这些幻觉问题得到有效解决之前,用户应对人工智能生成的信息保持谨慎和怀疑态度。

赞 (0)
RC-pulish的头像RC-pulish

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注