一个多云的未来:为什么我们不相信当他们的算法几乎总是对的

Roomba销量飙升,表明数百万人相信机器人真空吸尘器的room-navigation算法和强大的吸水能力保持地板干净。同样,一些计算机用户对象统计模型和其他算法,帮助我们进行网络搜索,看到有关社交媒体的文章,从Netflix和Spotify得到建议。

但我们准备拥抱算法活动所在的结果,可以说是更高的股份——如选择投资,驾驶汽车,执行手术,或评估工作和大学应用程序?

还没有,据新的研究在心理科学。

“这些结果表明,说服人们使用算法在本质上是不确定的领域并不是一个等待技术的改进和算法执行比今天更好。”

伯克利Dietvorst和Soaham Bharti(芝加哥大学)

“在某种程度上,投资、医疗决策,和其他领域固有的不确定性,人们甚至可能不愿意使用最好的算法在这些领域,“写了伯克利j . Dietvorst和Soaham Bharti(芝加哥大学)。这是尽管算法预测超越人类预测者在这些领域,由于其使用的工具,比人类更一致的规则,犯更少的错误。

“这个不愿采用算法比人类有巨大的成本,”研究人员仍在继续。半岛体育官方网址入口例如,“绝大多数的美国人说他们不会舒适的乘坐无人驾驶汽车…但早期研究表明,采用自动驾驶汽车能拯救成千上万的生命。”

如何解释我们的偏爱人类技能和本能在技术已经证明自己在开车,比我们执行手术,和招聘决策?从本质上讲,我们相信自己承担风险决策上不能简化地不确定,但我们不相信电脑为我们冒这种风险,因为他们的错误似乎更明显的非常罕见的场合。

“我们建议人们减少对预测误差的敏感性,使他们更喜欢决策方法,他们认为最高的可能性提供了一个近乎完美的回答(即。,一个没有错误),“Dietvorst和Bharti写道。“这个决定战略鼓励冒险和导致人们倾向于风险,而且本人,决策方法(如人工判断)当他们觉得一个算法不太可能产生一个近乎完美的答案。”

在九个研究中,研究人员发现,人们认为“相对半岛体育官方网址入口较大的主观差异不同大小的近乎完美的预测(最好的预测,生产没有错误)和相对较小的主观差异预测更多的错误。”因此,他们不太可能在域选择最好的决策者更不可预知的(例如,与随机的结果和结果由一个方程),而是更倾向于决策者基于他们认为生产的可能性高方差的近乎完美的选择和性能。这通常导致人们支持高风险和本人的决策者,如人类的判断,在不确定的领域。

“这些结果表明,说服人们使用算法在本质上是不确定的领域并不是一个等待技术的改进和算法执行比今天更好,”研究人员总结道。半岛体育官方网址入口”这种拒绝是实质性的影响,随着社会没有完全将受益于技术进步在间接但不确定的领域,直到人们愿意使用算法本质上是不确定的预测。”

但机器有道德吗?

最近的另一篇文章探讨了担忧所谓的无人驾驶的困境,自驾车辆必须使高风险的伦理决策在路上,如伤害谁和谁保存(如行人和乘客)。这些问题是工程和政策干扰,根据朱利安De Freitas等等。“我们不教人类怎么开车告诉他们该杀谁,如果面对一个被迫的选择。这是因为规划一个不太可能的,检测不到,无法控制的情况下会偏离我们的目标做教新手司机:减少伤害任何人。“同样的目标应该适用于自动驾驶汽车,研究人员说。半岛体育官方网址入口

引用

阿尔瓦雷斯,g。安东尼,s . E。Censi,。& De Freitas j . (2020)怀疑无人驾驶的困境 。心理科学观点15 (5),1284 - 1288。 https://doi.org/10.1177/1745691620922201

Bharti的年代。& Dietvorst b . j . (2020)。人们拒绝算法在不确定决策领域,因为他们有递减 对预测误差的敏感性心理科学31日(10)1302 - 1314。 https://doi.org/10.1177/0956797620948841