Kent Harrod网

临时以来 ，人们若何科幻小说不断以为家养智能（AI）无意见 ，知道随着AI的人们若何快捷睁开，这再也不是知道胡思乱想，致使患上到了AI向导者的人们若何招供。好比 ，知道美国OpenAI公司首席迷信家Ilya Sutskever在社交媒体上展现，人们若何一些最前沿的知道AI收集可能“有点意见”。

良多钻研职员展现
，人们若何AI零星尚未抵达具备意见的知道水平
，但AI的人们若何进化速率让他们开始思考 ：假如它们有了意见 ，咱们若何知道呢？

据《做作》报道 ，知道为了回覆这个下场，人们若何一个由19名神经迷信家、知道哲学家以及合计机迷信家组成的人们若何小组提出了一份尺度清单，假如知足这些尺度，就表明一个AI零星颇有可能是无意见的。8月17日，他们在预印本效率器arXiv上宣告了他们的临时指南。

合著者之一、美国非营利钻研机关家养智能清静中间哲学家Robert Long说，他们之以是这样做
，是由于“对于AI意见，彷佛真的缺少详细 、基于履历 、深图远虑的品评辩说”。

该团队展现，识别AI零星是否具备意见具备紧张的品格意思。合著者之一 、美国加利福尼亚大学欧文分校神经迷信家Megan Peters展现  ，假如某物被贴上了“无意见”的标签，“那末咱们作为人类理当若何看待这个实体，就会爆发很大变更” 。

Long展现，据他所知
，构建先进AI零星的公司不支出饶富多的自动来评估意见模子，并拟订妄想以防AI具备意见
。他填补道：“尽管如斯 ，假如你听听试验室负责人的行动 ，他们简直说过，他们对于AI意见或者AI感知很感兴趣。”

《做作》杂志分割了退出增长AI的两家主要科技公司——微软以及google。微软的一位讲话人展现，该公司开拓AI的中间因此负责任的方式辅助人类花难题 ，而不是复制人类的智能
。这位讲话人展现 ，自从GPT-4推出以来，“在探究若何短缺发挥AI后劲 、造福全部社会之际，需要新的措施来评估这些AI模子的能耐”
。google则未作出回应。

在AI中钻研意见的挑战之一是界说甚么是意见 。Peters说 ，为了陈说的目的，钻研职员关注的是“天气意见”，也便是所谓的主不雅体验 。这是存在的体验——成为人
、植物或者AI零星的感应。

有良多基于神经迷信的实际形貌了意见的生物学根基。可是，对于哪一个是“精确的”，人们并无告竣共识 。因此，为了建树他们的框架 ，作者运用了一系列这样的实际。其想法是 ，假如一个AI零星的运作方式与这些实际的良多方面相立室
，那末它就更有可能是无意见的。

他们以为，这是一种评估意见的更好措施，而不是重大地对于一个零星妨碍行动测试ーー好比，讯问ChatGPT它是否无意见 ，概况挑战它，审核它是若何反映的 。这是由于AI零星已经变患上颇为长于模拟人类。

英国萨塞克斯大学意见迷信中间主任、神经学家Anil Seth说  ，钻研小组提出的是一种很好的措施，它夸张的是，“咱们需要更精确、更经患上起魔难的意见实际”。

为拟订尺度 ，作者假如意见与零星措信托息的方式无关，不论它们是由甚么组成的——是神经元
、合计机芯片仍是其余甚么。他们还假如 ，经由人类以及植物的脑部扫描及其余技术钻研的基于神经迷信的意见实际可能运用于AI。在这些假如的根基上，钻研小组抉择了其中的6个实际
，并从中提取了一系列意见目的。

Seth对于团队提出的尺度印象深入
 。“它颇为深图远虑，不纸上谈兵，而且它的假如颇为清晰。”他说 ，“我不拥护其中的一些假如，但这残缺没关连，由于我很可能是错的。”

作者说，这远不是对于若何评估AI零星的意见的最开幕论 ，愿望其余钻研职员能辅助美满他们的措施 。不外，如今已经有可能将这些尺度运用于现有的AI零星服从展现，至少如今尚未任何AI零星具备意见。

相关论文信息 ：

https://doi.org/10.48550/arXiv.2308.08708