一个人回答艾未未的最深的困境之一

这张照片是生成的协助下达尔·E 2。

深的困境之一人工智能被称为校准问题。想象,我们设计了一个完全智能化,是因为世界上的自主机器人来完成其目标。我们如何确保机器人的目标将结合我们人类吗目标——它希望我们做同样的事情呢?我认为我们应该去一个意想不到的来源来帮助解决这个问题。我们应该看护理人员——父母和祖父母、保姆和幼儿教师,提高人类的孩子。

是对齐的问题我们真的应该担心吗?尽管最近人工智能的进步,一个完整的智能和自主机器人在未来仍有很长的路要走。”Moravec悖论“在AI指出人类活动看起来很难,就像下棋,电脑比显然更容易简单问题如捡起散落的棋子。但即使是最原始的机器人必须有一些方法来想象一个目标,实现终端如果目标是简单捡起一个包,并把它在正确的垃圾箱。

事实上,最近人工智能最强大的技术之一是“深强化学习,基于强化学习的经典思想在心理学。而不是详细操作电脑应该执行,强化学习系统设置一个目标。这叫做一个“目标函数最大化的点你在雅达利游戏得分,或国际象棋的游戏你赢了。甚至像GPT-3令人印象深刻的语言模型训练用一个简单的目标:预测接下来的几句话一段文字。这台机器一直试图实现这一目标,学习结果。

对齐的问题是我们如何确保人工智能的目标,简单还是复杂,不要与人类冲突的目标。哲学家尼克·博斯特罗姆有一个有关“回形针天启的警示故事。“我们训练一个强大的机器制造尽可能多的回形针的目标。它将把所有可以找到的金属回形针,然后世界上所有其他的东西回形针,最后人类大师变成纸夹。

认知科学家汤姆·格里菲思认为,我们已经处理的回形针天启的关注。很有影响力的社交媒体的算法,对于这个问题,很多传统媒体,旨在最大化人类接触,以确保他们提供的内容吸引了我们的注意力。这似乎像一个无辜的足够的目标。毕竟,所有优秀的写作的目的是试图让读者注意你说的话。但是,正如我们都知道,它的成本。可怕的愤怒吸引了我们的注意力比平静的分析和从关注更有价值的项目。(如写作bdappcom 。今天早上我才意识到我唯一会按时完成这一列是通过关闭互联网。)

看到这个问题的所有文章bdapp官网下载。

艾城的人一直在努力工作,试图解决一致性问题(有更多关于这个布莱恩基督徒的精彩的好书相同的名称)。显而易见的想法是培养计算机识别和理解人类的目标,并确保他们帮助人类去完成这些目标。但是随着社交媒体的例子展示了,我们人类往往不擅长识别我们自己的目标,这些目标往往是相互矛盾的。希腊哲学家甚至有一个特殊的词,“伦理学”,来描述所有这些情况下,我们的目标冲突。我真的要末日滚动或写我的专栏?当然,我宁愿写;滚动使我痛苦,但似乎无法抗拒。,适用于各种各样的人类欲望,从饼干可卡因。所以电脑怎么能算出我们真正想当我们不知道自己吗?

bdappcom

还有另一个问题。强化学习代理可以完成人类程序员为他们设定的目标。但情报的一个重要部分是能够设定自己的目标,并产生新的问题。真正聪明的人,一个系统应该也有一些自主权,它应该认识到世界已经改变,其价值观和目标也应该改变。我们不可能着手创建自主机器人,我们甚至可以认为将是一个非常糟糕的主意。但更多的情报可能不可避免地意味着更多的自治权。我们真的想创造机器人娇妻压制自己的目标和说服我们,他们是我们想要做什么?

解决这些问题可能来自一个意想不到的来源。我们人类已经面临对齐的问题,我们总是有。我们总是必须找出如何创建自主,聪明的人分享我们的价值观和目标,也可以改变甚至拒绝这些价值观和目标。他们是我们的孩子。

人类有一种独特的文化和技术变革的能力。我们适应环境通过文化以及生物进化。所以每个新一代面临环境比去年略有不同,发明不同的目标,价值观和规范应对环境。

人类回答这个问题来自低估和忽视医疗情报的情报。护理人员完成的任务产生新的,聪明,独立的生物。他们将发现,目标,和上一代的价值观。然而他们也为孩子提供保护,培养环境,让他们尝试和探索和发明新的目标和价值观来适应新环境。发展心理学家已经证明,两个孩子和照顾者复杂的认知能力,支撑这种文化evolution-like“心理理论”和“直观教学法。“这些能力允许人类代理改变他们的“目标函数”。他们也有保证,总的来说,这些功能为整个人类社会的利益(至少到目前为止)。

护理人员完成的任务产生新的,聪明,独立的生物。他们将发现,目标,和上一代的价值观。然而他们也为孩子提供保护,培养环境,让他们尝试和探索和发明新的目标和价值观来适应新环境。

医疗服务的情报并不仅仅适用于父母。许多不同的人照顾人类的孩子,他们总是有姑婶,叔叔和年长的兄弟姐妹,祖母和祖父,“alloparents无关。”和人类保健超出孩子的能力。教师和医生还必须找出如何帮助学生和病人制定自己的目标,同时保持一个困难的平衡指导和自主权。APS的导师奖将证明最好的学生是那些挑战他们的导师,甚至创造新的想法和新的科学。

关心和爱在一起。多种保健根植于非常具体的,特定的护理人员之间的关系和他们关心的人。对我们大多数人来说这些关怀关系是我们最深刻的满足感和快乐的源泉,我们最麻烦的困境。对齐的问题在我们的日常生活中,作为一个少年人都提高了,或指导一个具有挑战性的学生,可以证明,以及人工智能。而且从生物进化的角度来看,保健的核心部分是什么让我们人类。我们发展一个更广泛的护理人员照顾我们年轻的比其他灵长类动物,和那些年轻的特别需要。他们依靠护理人员给他们食物,但也帮助他们学习。所有的人类在在人生的某个阶段得到有效的治疗(大多数提供),和社区护理远远超出亲戚。

护理也是一个模型形式的道德行为,和许多宗教道德观念的核心。许多西方和东方宗教传统认为,我们可以通过扩展护理道德进步提供儿童和家庭的人。然而,这种保健并不适合标准的道德哲学和心理学的方法。

通常的进化的道德和心理账户,利他主义,与合作,以及大多数政治和经济理论,取决于社会契约的概念。在复杂的情况下,我们可以得到更好的结果对每个人如果人们权衡自己的利益和其他个人自治代理。

但是这个合同模型不适用自然护理。甚至不需要隐式谈判或互惠。事实上,它往往是深刻asymmetric-think父亲照顾他的无助的婴儿,或一个老师照顾一个努力的学生。而不是权衡自己的利益和另一个护理员扩展自己的利益包括那些其他的。此外,以这种方式扩大价值观和利益是一个具有挑战性的认知任务。

照料家庭,和情报,一直得到更少的知识和学术应有的关注。从古典哲学理论的角度来看,政治和经济学和心理学too-caregiving是一个特殊的异常。古典契约建立的社会关系在心理学、政治哲学和经济学假设代理是独立和自主决策的生物。但为人父母的道德是关于生物不自主,不能自己做决定,他们变成了一个人。

更关注的智能护理很重要,原因有很多。最迫切,我认为在早些时候的一篇专栏文章,它可能帮助我们照顾他们所需的资源。但它也可能是一个解决一致性问题在人工智能的关键。科幻小说作家Ted蒋介石有异常移动中篇小说软件对象的生命周期。它描述了教育困境的人同意照顾智能AIs和帮助他们学习。人类,像所有的父母一样,必须弄清楚什么时候决定放手的时候,以及如何进行谈判的微妙的平衡指导AIs的决定,让他们自己决定。

当然,这是科幻小说,但如果真正聪明的和自主的人工代理做的出现,那么我们将不得不找出如何超越利用他们达到自己的目的,让他们实现自己的目标。我们将不得不照顾他们,并帮助他们学会创建他们自己的目标。即使是现在,我们可能帮助解决一致性问题在人工智能通过思考我们如何解决它在人类的关系。

反馈这篇文章?电子邮件apsbdapp官网下载observer@psychologicalscience.org或登录置评。对写作感兴趣吗?阅读我们的贡献者的指导方针。