你看到的是鲜花,这个变态 AI 看到的却是尸体

2018-06-06 13:00 来源:奇米新闻网编辑整理

▲点击上方 雷锋网 关注

你看到的是鲜花,这个变态 AI 看到的却是尸体

文 | 张莉

来自雷锋网(leiphone-sz)的报道

雷锋网按:据 BBC 报道,麻省理工学院媒介实验室的研究人员做了一个语重心长的实验,他们用网络上那些黑暗残忍的图片训练一个 AI 机器人,结果这个被称为“Norman ”的 AI 竟然变成了一个变态的“神经病人”,看到的都是世界的阴暗面。Norman 观看的图像被称为罗夏墨迹斑点,通常由心理学家用来确定某人是不是以积极的体式格局看待世界。这样的实验将有助于分析人们在网络的黑暗角落里的图像。近朱者赤,近墨者黑。人类世界的划定规矩在 AI 世界也同样适用。

雷锋网将全文编译如下:

遇见 Norman

你看到的是鲜花,这个变态 AI 看到的却是尸体

Norman 这个名字来源于希区柯克的著名电影《惊魂记》中的角色 Norman Bates

Norman 是一种训练有素的理解图像的算法,但就像希区柯克电影里的 Norman Bates 一样,它对世界的看法其实不乐观。

当人工智能生成的“正??”算法被问及它看到的抽象图形是什么时,它会选择一些令人高兴的东西:“一群鸟坐在树枝上”,而诺曼看见的是一小我私家被电死了??“正??”AI 看到两小我私家并列站在一起,而 Norman 看到的是一个男人从窗户跳下去。

这个神经病态算法是由麻省理工学院的一个研究小组发明的,作为实验的一部分,目的是为了看看训练人工智能处置惩罚来自“网络黑暗角落”的数据会对其世界观产生什么影响。

该软件的训练素材是人们在可怕环境中死亡的图片,这些图片来自 Reddit 网站上的一个小组。然后,可以或许识别图片和读懂文本的 AI,会展示墨迹图并被询问它在其中看到了什么。这些抽象的图像通常被心理学家用来帮助评估病人的心理状态,尤其是他们是用消极的还是积极的眼光看待世界。

Norman 的视角永远无情无义——它在每一幅图像中都看到了尸体、鲜血和毁灭。与 Norman 一起,另外一个 AI 被正常的猫、鸟和人的图像喂养训练。在这些抽象的墨迹点中,它看到了特别很是令人愉快的图像。

你看到的是鲜花,这个变态 AI 看到的却是尸体

来自 MIT 媒体实验室三人团队的 Iyad Rahwan 教授透露表现,Norman 的黑暗回响反映证实了机器学习新世界的残酷现实。

数据比算法更重要。它强化了这样一个观点,即我们用来训练 AI 的数据由 AI 感知世界的体式格局和它的行为体式格局所决定。

你看到的是鲜花,这个变态 AI 看到的却是尸体

它可以生产新闻,在视频游戏中创造新记录,充当客服,分析财务和医疗报告,并提供数据中心如何节约能源的见解。

但如果 Norman 的实验证清楚明了什么,那就是被不良数据训练的 AI 会变坏。

AI 也有种族歧视

Norman 对死亡和毁灭存有偏见,因为这是他所知道的全部,而在现实生活中,人工智能如果被缺陷数据训练,也会有同样的偏见。

去年5月,一份报告称,美法律王法公法院用于风险评估的基于 AI 的电脑程序对黑人囚犯有偏见。该项目指出,黑人重复犯罪的概率是白人的两倍,这是由于训练 AI 的数据有缺陷。

你看到的是鲜花,这个变态 AI 看到的却是尸体

在美国使用的预测警务算法也被发现有类似的偏见,也是由于训练他们的历史犯罪数据有问题。

有时候,人工智能“学习”的数据来自人类对开玩笑的热衷,因此,当微软的 chatbat Tay 于2016年在 Twitter上发布时,这款机器人很快就受到了种族主义者和捣乱者的欢迎,这些人教它?;ぐ兹酥辽现饕逭?,呼吁种族灭绝,并表达对希特勒的喜爱。

Norman 似乎其实不是唯一容易受到暗示的 AI。人工智能并没有停止种族歧视。

一项研究表明,接受过谷歌新闻培训的软件由于正在学习的数据而变得性别歧视。当被问到“男人对较量争论机程序员就像女人对X”,软件回答说“家庭主妇”。

巴斯大学较量争论机科学系的 Joanna Bryson 博士说,性别歧视 AI 多是因为很多机器都是由“来自加州的白人独身只身男性”编程的,经由过程使编程人员背景多样化,至少可以部分地解决这个问题。

机器接受培训人员意见的影响其实不奇怪??“当我们经由过程选择我们的文化来训练机器时,我们必然会把自己的偏见加诸于它??”她说。

数学算法无法创造公平。在机器学习中,偏见其实不是一个坏字眼,它只是意味着机器正在接受规训。她担心的是,一些程序员会故意选择把坏的东西或偏见硬塞进机器。她认为,要阻止这种情况发生,AI的创造过程需要更多的监督和更大的透明度。

Rahwan 教授透露表现,他用 Norman 做的实验证明,“工程师必须找到一种方法来平衡数据,”但他承认,“不断扩张并没有比重要的机器学习领域不克不及只让程序员来操控。愈来愈多的人相信,机器行为可以成为研究人类行为的方法”,他说。

他透露表现,新一代的“AI 心理学”会采取对正在开发的系统进行定期审核的体式格局进行,而不是像银行界旧有的系统那样。

*雷锋网收拾整顿。

你看到的是鲜花,这个变态 AI 看到的却是尸体

热门搜索