现在AI爆火，可是不可避免呈现许多问题，比方胡编乱造，信口开河。ChatGPT开发商OpenAI本周三发布了一份研讨论文，论述了怎么样才干处理人工智能(AI)“错觉”的新办法。AI错觉指的是谈天机器人用假造的信息进行回应。

  ChatGPT或谷歌“巴德”(Bard)这样的谈天机器人会彻底伪造信息，体现得好像他们在喋喋不休地讲现实，这便是AI错觉。举个比如：在谷歌2月份为巴德拍照的宣扬视频中，这个谈天机器人对詹姆斯·韦伯太空望远镜做出了不真实的陈说。最近，ChatGPT在纽约联邦法院的一份文件中引用了“虚伪”事例，涉案的纽约律师或许面对制裁。

  OpenAI研讨人员在陈述中称：“即使是最先进的模型也简单生成谎话，它们在不确定的时间会体现出伪造现实的倾向。这些错觉在需求多进程推理的范畴尤其是个问题，由于一个逻辑过错就足以损坏一个更大的处理方案。”

  为了对立AI错觉，OpenAI找到了一种潜在新战略：练习AI模型在推理出答案的每个正确进程上给予自我奖赏，而不单单是比及推理出正确的终究定论时才给予奖赏。研讨人员表明，这种办法被称为“进程监督”，与之相反的是“成果监督”，这或许会练习出更好的可解释AI，由于这种战略鼓舞模型依照更相似人类的“考虑”办法来进行推理。

  “检测和减轻一个模型的逻辑过错或错觉，是构建一致性通用AI(AI)的关键进程。”OpenAI数学论文生成器(mathgen)研讨员卡尔·科布(Karl Cobbe)在承受媒体采访时表明。

  他指出，虽然OpenAI并非发明晰进程监督办法，但该公司正在推进其开展。“这项研讨的动机是处理错觉问题，以使模型在处理具有挑战性的推理问题方面才能更强。”

  科布说，OpenAI现已发布了一个顺便的数据集，其间包括80万个人类标示，它们用于练习研讨论文中说到的模型。

  说实话 哥们挺帅的 应该是串过种的 但孩子显着是谁丑像谁 这个塌鼻梁+宽眼距 难绷

  生化4显着比7好玩啊，别教玩家玩游戏，比生化危机恐惧的游戏多了去了，不差你这一个

  说实话 哥们挺帅的 应该是串过种的 但孩子显着是谁丑像谁 这个塌鼻梁+宽眼距 难绷

  说实话 哥们挺帅的 应该是串过种的 但孩子显着是谁丑像谁 这个塌鼻梁+宽眼距 难绷

  生化4显着比7好玩啊，别教玩家玩游戏，比生化危机恐惧的游戏多了去了，不差你这一个

  说实话 哥们挺帅的 应该是串过种的 但孩子显着是谁丑像谁 这个塌鼻梁+宽眼距 难绷

  说实话 哥们挺帅的 应该是串过种的 但孩子显着是谁丑像谁 这个塌鼻梁+宽眼距 难绷