OpenAI 公布大模型新训练方法:阻止 ChatGPT “一本正经地胡说八道” 今日讯

2023-06-02 20:49:23来源:新浪VR


(相关资料图)

OpenAI 公司通过论文介绍了一种全新的方法,来训练生成式人工智能语言模型。

OpenAI 这一研究成果来得很是时候,最近,随着生成式人工智能技术流行,以及美国 2024 年总统大选初步启动,人工智能 " 胡说八道 " 的问题引发了史无前例的关注和讨论。

人工智能 " 胡说八道 ",术语上也被称为 "AI 幻觉 "。面对用户的提问,chatgpt以及谷歌的 Bard 等工具会杜撰出一些虚假信息,看上去像是权威正确的答案。

OpenAI 公司 " 随机生成数学 " 研究专家卡尔 · 柯比(Karl Cobbe)表示,发现并且减少人工智能模型的逻辑错误,也就是 "AI 幻觉 ",是构建 " 通用人工智能 " 的关键一步。另外," 过程监督 " 模式并非OpenAI公司发明,但是该公司正在加以推广普及。新方法的目的,是解决人工智能胡编问题,从而让语言模型能够解决更加复杂的推理难题。

标签:

  • 今日焦点
  • 行业动态