科学家希望人工愚蠢可以拯救人类

2018-10-19 12:09:01

作者:钦芘

一些科学家建议限制聪明的人工智能如何获得 - 一直到人类智能

巴黎索邦大学和路易斯维尔大学的科学家们建议,阻止人工智能过于聪明可能是拯救人类的唯一途径

8月11日,该团队发表了他们对康奈尔大学图书馆arXiv的展望,这是一个科学家发布开放获取研究论文的在线系统

MichaëlTrazzi和Roman Yampolskiy在他们的论文中写道:“我们说人工智能是在人工愚蠢的任务中制造的,当时有意限地引入一些限制以匹配人类执行任务的能力

” “人工通用智能(AGI)可以通过限制其计算能力和记忆,或通过在某些任务中引入人工愚蠢来使安全更加安全

”人类大脑可以做任何事情的人工智能,称为人工通用智能,没有已经创建了

然而,科学家们希望他们建议限制AI的计算能力,以及将其发展为与人类相似的行为,这是阻止人工智能接管甚至发生之前的最佳方式

聊天机器人 - 在线聊天机器可以进行简单的对话,或者可以引导您通过网站上的客户服务 - 已经经常被设置为具有人为的愚蠢性

根据该论文,程序员设计聊天机器人,使错误看起来更像人性化

他们写道:“为了获得不超过人类能力的AI,例如在算术中,必须人为地削弱数学能力所允许的计算能力

”此外,人类表现出认知偏差,导致系统性错误

为了建立一个安全的AGI,其中一些偏见可能需要复制

“这些偏见包括礼貌偏见,因此AI不会试图不冒犯他人,保守主义,因此AI的价值赢了不会改变也不会变成邪恶,而且聚光效应会很高,所以人工智能会高估它认为有多少人在观看它,所以即使在低监督下它也会表现得一样

看看所有最好的照片

这些幻灯片中的一周工人在中国苏州的一个装配厂对一个iPal社交机器人进行了最后的修改

科学家们希望他们建议限制AI的计算能力是阻止人工智能接管的最好方法

ALY SONG / REUTERS科学家还建议人工智能不应该自我提高,以便提高效率

牛津大学未来的斯图尔特阿姆斯特朗表示,“加工限制等问题可以用来使人工智能的思维可以解释 - 不足以削弱它,但要确保它无法摆脱我们无法追随的事情

”人文研究所在该论文上对“新科学家”进行了评论

但是,阿姆斯特朗并不认为这些限制是足够的

人工智能可能只是制作一份没有这些限制的自己的副本,因此它可以随心所欲地逃脱