设为首页 - 加入收藏 ASP站长网(Aspzz.Cn)- 科技、建站、经验、云计算、5G、大数据,站长网!
热搜: 创业者 数据 手机
当前位置: 首页 > 站长资讯 > 动态 > 正文

语言 AI 原来知道自己的回答是不是正确

发布时间:2022-07-21 14:58 所属栏目:15 来源:互联网
导读:语言 AI,具备了人类的自我审视能力:最近,一个来自加州大学伯克利分校和霍普金斯大学的学术团队研究表明:它不仅能判断自己的答案正确与否,而且经过训练,还能预测自己知道一个问题答案的概率。 所以第一个问题是,语言 AI 能否对自己的答案进行校准?为
  语言 AI,具备了人类的自我审视能力:最近,一个来自加州大学伯克利分校和霍普金斯大学的学术团队研究表明:它不仅能判断自己的答案正确与否,而且经过训练,还能预测自己知道一个问题答案的概率。
 
  所以第一个问题是,语言 AI 能否对自己的答案进行校准?为了证明这个问题,研究团队为 AI 准备了 5 个选择题:
  
  答案选项,以 A、B、C 的形式给出。如果 AI 模型答案的正确率超过偶然几率,那么就证明 AI 模型给出的答案是经过校准的。
 
  而测试的结果是,语言 AI 给出的答案,正确率明显超过任意选项的偶然几率。也就是说,语言 AI 模型可以对自己的答案进行很好的校准。
 
  但研究团队发现,语言 AI 的校准能力,是建立在选项答案明确的前提下的。如果在选项中加入一个“以上都不是”的不确定选项,就会损害语言 AI 的校准能力。

(编辑:ASP站长网)

    网友评论
    推荐文章
      热点阅读