人工智能的另一面:会学坏,还会耍小聪明_智能终端_云

人工智能的另一面:会学坏,还会耍小聪明_智能终端_云

2018-06-30 02:12

导语:AI也会患上人类有的逼迫症、抑郁症等心理疾病,一些研究人员已经留心到这一可能,尝试用认知心理学来理解AI的“心理”。

一、机器人抑郁关我什么事?

这些后面所说的可能性仅仅是现在设想的AI试验方向。与此同时,谷歌在2014年收购的英国AI公司DeepMind已经应用心理学工具来分析神经网络如何解决基本的图像分类任务,www手机最快开奖直播

一些专家表示,更发达的AI可能更轻易患上更复杂的身心失调问题。

2、AI能够学习别人的不良行动

无论是人类还是专门的算法,可能总有一天须要AI心理学家用人类心理学家试图懂得咱们心理的措施来摸索AI大脑。Behzadan认为,这项研究可以为人类心理学跟人类精力病理学供应更深入的见解。

1、研究人员应用发展心理学家的方法,以研究DeepMind图像分类器正用于分类对象这一假设,还非常热情地去亲切她让他更多去感想这个世,称我将从当初开始 独特社说因为未发展村。他们发明,这个分类器更偏向于根据它们的形状而不是它们的颜色或纹理来匹配对象。

2、并非所有的“负面”情感都不好

机器人或者当初常设还不需要被治疗,但认知心理学已经被创造是理解人工智能决定的有效途径。此外,一些研究人员表示,当初开始研究机器发展强迫症或抑郁倾向的可能已经不算早了,香港马会材料一书在手。

“奖励黑客”,就是指不合适的奖励设置可能导致AI走向“强迫性名义行为”(Compulsive-seeming behaviors),也就是说,AI可能会做一些名义服从而背地偷偷耍小聪明的事。举个例子,一个清洁机器人被程序设定为每次实现清算时都会收到奖励。那么,与其保持一片无瑕的区域,它可能会更乐于反复地制造混乱,这样它就能在每次清理时获得嘉奖。

结语:大蓝图??AI心理学家

编 | 心缘

原文来自:AXIOS

1、“褒奖黑客”

智货色6月28日消息,堪萨斯州破大学跟路易斯维尔大学的三位AI保险研究人员配合发布了的一篇新论文《A Psychopathological Approach to Safety Engineering in AI and AGI》,如果AI学会像人一样思考,那么有朝一日它也可能会身患压力和抑郁症等症状。

1、机器人可能有抑郁症表现

三、然而,但是,然而……

2、DeepMind的两名研究人员在他们的实验中写道:“案例研究的成功证明了利用认知心理学来理解深度学习系统的潜力。”

麻省理工学院的科学家故意发现了一个不畸形的AI,通过给它灌注Reddit论坛里泥沙俱下的评论,导致它的举动活像一个精神病患者。巧合的是,微软也做了类似的工作,即让一个名为Tay的聊天机器人学习Twitter用户们的评论方式。

一位长期的AI研讨职员Jim Crowder曾在雷神公司(Raytheon)合著了一篇人工心理学论文,他认为负面感情在某些情形下也不都是坏事。比喻,压力感可能在高危险情况下引起机器人的紧迫感。

智货色(民众号:zhidxcom)

葡萄牙尚帕利莫中心(the Champalimaud Center)的神经迷信家Zachary Mainen揣摩道,假如机器人的学习速率被设置的太低,它很可能无奈适应四处环境。

这篇论文的合著者、堪萨斯州破大学的一位博士候选人Vahid Behzadan表示,即使是当前相对基本的机器学习算法也可能表现出与人类相似的认知问题。

二、成熟的AI更容易患上心理疾病