当前位置: 首页 >> 工程机械

使机器产生幻觉的怪异事件

2021-08-18 来源:吕梁机械信息网

使机器产生幻觉的“怪异事件”

可以使计算机看到海龟作为枪或听到协奏曲作为某人的声音,这引起了对在现实世界中使用人工智能的担忧。

乘客登记停车标志,并且当他坐的车加速时感觉到突然的恐慌。他张开嘴向前面的司机大喊,记得 - 当他看到火车在前方的轨道上向他们冲去时 - 没有中国机械网okmao.com。火车以每小时125英里的速度撞击,压碎自动驾驶汽车并立即杀死其乘员。

这种情况是虚构的,但它突出了当前人工智能框架中的一个非常真实的缺陷。在过去几年中,已经有越来越多的机器可以看到或听到不存在的东西。通过引入扰乱其识别系统的“噪音”,可以使这些机器产生幻觉。在最糟糕的情况下,尽管人眼可以清楚地看到停车标志,但机器无法识别它,他们可能会“幻觉”出一个像上面那样危险的情景。

那些在AI工作的人将这些故障描述为“对抗性的例子”,或者有时候,更简单地描述为“奇怪的事件”。

“停止”标志上的一些简单贴纸足以使其对机器视觉算法不可见,而对于人类来说它仍然是显而易见的(图片来源:Kevin Eykholt等)

“我们可以将它们视为我们期望网络以一种方式处理的输入,但是当看到输入时机器会做出意想不到的事情,”剑桥麻省理工学院的计算机科学家Anish Athalye说。

看到的东西

到目前为止,大部分注意力都集中在视觉识别系统上。Athalye自己已经证明有可能篡改猫的形象,使其看起来像我们的眼睛正常,但被所谓的神经网络误解为鳄梨酱 - 机器学习算法正在推动现代AI技术的发展。这些视觉识别系统已被用于支持您的智能手机标记您朋友的照片而无需告知他们是谁或识别手机图像中的其他对象的能力。

最近,Athalye和他的同事将注意力转向了物体。通过略微调整这些纹理和颜色,团队可以欺骗AI认为它们是别的东西。在一个案例中,一个被错误分类为浓缩咖啡的棒球和另一个被3D打印的乌龟被误认为是步枪。他们能够以类似的方式制作大约200个3D打印对象的例子。当我们开始将机器人放在我们的家中,我们的天空中的自动无人机和街道上的自动驾驶车辆时,它开始引发一些令人担忧的可能性。

“起初,这开始是一种好奇心,”Athalye说。“然而,现在,人们将其视为潜在的安全问题,因为这些系统越来越多地部署在现实世界中。”

采取目前正在进行现场试验的无人驾驶汽车:这些通常依靠复杂的深度学习神经网络来导航并告诉他们该做什么。

但去年,研究人员证明神经网络可能被误导为误读道路'停止'标志作为限速标志,只需通过在标志上放置小贴纸。

听到声音

神经网络不是唯一正在使用的机器学习框架,但其他人也似乎容易受到这些奇怪的事件的影响。它们不仅限于视觉识别系统。

“在我看过的每个领域,从图像分类到自动语音识别再到翻译,神经网络都可能受到攻击,对输入进行错误分类,”Google Brain的研究科学家Nicholas Carlini说道,他正在开发智能机器。Carlini已经展示了如何 - 通过添加听起来有点沙哑的背景噪音 - 一个声音读数“没有数据集文章是无用的”可以被误译为“ Ok Google浏览邪恶点com ”。它不仅限于言语。在另一个例子中,巴赫的大提琴套装1的摘录被转录为“语音可以嵌入音乐中”。

对Carlini来说,这样的对抗性例子“最终证明机器学习即使在非常简单的任务中也尚未达到人类能力”。

皮肤下

神经网络松散地基于大脑如何处理视觉信息并从中学习。想象一下一个小孩子正在学习猫是什么:当他们遇到越来越多的这些生物时,他们会开始注意到模式 - 这个叫做猫的猫有四条腿,柔软的皮毛,两个尖尖的耳朵,杏仁状的眼睛和长长的蓬松尾巴。在孩子的视觉皮层(处理视觉信息的大脑部分)内部,有连续的神经元层响应视觉细节而发射,例如水平和垂直线,使孩子能够构建神经“图片”。世界并从中学习。

神经网络以类似的方式工作。数据流经连续的人工神经元层直到被训练成数百或数千个相同事物的例子(通常由人类标记),网络开始发现模式,使其能够预测它正在观看的内容。这些系统中最复杂的系统采用“深度学习”,这意味着他们拥有更多这些层。

棒球看起来像浓咖啡(图片来源:麻省理工学院)

通过巧妙地改变物体的纹理,研究人员能够使3D打印的棒球看起来像浓咖啡(Credit:MIT)

然而,尽管计算机科学家理解神经网络如何工作的具体细节,但他们并不一定知道当他们处理数据时所发生的事情的细节。“我们目前还不能很好地理解它们,例如,解释为什么存在对抗性例子的现象,并知道如何解决它,”Athalye说。

问题的一部分可能与现有技术设计要解决的任务的性质有关:比如说区分猫和狗的图像。要做到这一点,该技术将处理许多猫和狗的例子,直到它有足够的数据点来区分它们。

“我们的机器学习框架的主要目标是平均实现良好的性能”,麻省理工学院的另一位计算机科学家亚历山大·马德里说,他研究机器学习框架的可靠性和安全性。“当你只是优化大多数狗的图像时,总会有一些狗图像会让你感到困惑。”

一种解决方案可能是训练神经网络,并提供更具挑战性的例子,说明你要教他们的东西。这可以使它们免受异常值的影响。

“绝对是朝着正确方向迈出的一步,”马德说。虽然这种方法似乎确实使框架更加健壮,但它可能有限制,因为有许多方法可以调整图像或对象的外观以产生混淆。

像深度学习神经网络一样令人印象深刻,它们在对物体进行分类,理解环境或处理意外情况时仍然无法与人类大脑相匹敌。

一个真正强大的图像分类器将复制“相似性”对人类意味着什么:它会理解一个孩子的猫的涂鸦代表与猫和现实生活的猫的照片相同的东西。像深度学习神经网络一样令人印象深刻,它们在对物体进行分类,理解环境或处理意外情况时仍然无法与人类大脑相匹敌。

如果我们想要开发真正能够在现实场景中运行的智能机器,也许我们应该回到人脑来更好地理解它如何解决这些问题。

绑定问题

虽然神经网络受到人类视觉皮层的启发,但人们越来越认识到这种相似之处仅仅是肤浅的。一个关键的区别在于,除了识别边缘或物体等视觉特征外,我们的大脑还会对这些特征之间的关系进行编码 - 因此,此边缘构成了此对象的一部分。这使我们能够为我们看到的模式赋予意义。

牛津理论神经科学和人工智能基金会的Simon Stringer说:“当你或我看一只猫时,我们会看到构成猫的所有特征以及它们之间的相互关系。” “这种'约束'信息是我们理解世界的能力和我们的一般情报的基础。”

这一关键信息在当前一代人工神经网络中丢失了。

“如果你没有解决绑定问题,你可能会发现场景中的某个地方有一只猫,但你不知道它在哪里,你不知道场景中哪些特征是那只猫的一部分, “斯金格解释道。

语音指令可以嵌入到classica音乐中(图片来源:Getty Images)

在我们看来,一段古典音乐听起来像是乐器的交响乐,但它可以改变,因此AI将其解释为口头指令(图片来源:Getty Images)

为了保持简单,建立人工神经框架的工程师忽略了真实神经元的几个特性 - 其重要性才刚刚开始变得清晰。神经元通过沿着身体的长度发送动作电位或“尖峰”来进行通信,从而在传输中产生时间延迟。个体神经元在传递信息的速率之间也存在差异 - 有些是快速的,有些是慢的。许多神经元似乎都在密切关注他们在决定是否自己开火时所获得的冲动时间。

“人工神经网络具有所有神经元完全相同的特性,但大脑中形态上不同的神经元的多样性向我暗示这并非无关紧要,”布里斯托大学的神经科学家杰弗里鲍尔斯说。目前的神经网络没有捕捉到大脑功能的各个方面。

另一个不同之处在于,虽然合成神经网络是基于通过一系列层向前移动的信号,但“在人类皮层中存在与自下而上连接一样多的自上而下连接”,斯金格说。

他的实验室开发了人脑的计算机模拟,以更好地理解它的工作原理。当他们最近调整他们的模拟以结合关于真实神经元的时间和组织的这些信息,然后在一系列视觉图像上训练他们时,他们发现他们的模拟处理信息的方式的根本转变。

他们开始看到更复杂的活动模式的出现,而不是所有的神经元同时发射,包括存在一个似乎像守门人一样的人工神经元亚群:它们只会在接收到的信号时发射来自视觉场景中相关的较低和较高级别的特征同时到达。

结合神经元可能就像大脑相当于结婚证书:它们形成了神经元之间的关系。

斯金格认为这些“结合神经元”可能就像大脑相当于结婚证书一样:它们形成了神经元之间的关系,并提供了一种事实检查手段,检查两个看似相关的信号是否真的相关。通过这种方式,大脑可以检测出现在视觉场景中的两条对角线和曲线是否真的代表了像猫耳朵这样的特征,或者完全不相关的东西。

“我们的假设是视觉大脑中存在的特征结合表示,并在我们的生物尖峰神经网络中复制,可能在促进生物视觉的稳健性方面发挥重要作用,包括识别物体,面部和人类行为,”斯金格说。

斯金格的团队现在正在寻找真实人类大脑中存在这种神经元的证据。他们还在开发“混合”神经网络,其中包含这些新信息,以确定它们是否能够产生更强大的机器学习形式。

鲍尔斯说:“目前还不清楚这是真实大脑中发生的事情,但它确实很有趣,并突出了一些有趣的可能性。”

斯金格的团队将要测试的一件事是他们的生物学启发的神经网络是否可以可靠地区分老人在家中摔倒,只是坐下来,或者放下购物。

“对于今天的机器视觉算法来说,这仍然是一个非常棘手的问题,但人类大脑可以毫不费力地解决这个问题,”斯金格说。他还与位于英国威尔特郡的Porton Down的国防科学与技术实验室合作,开发下一代可扩展的神经框架版本,可应用于军事问题,例如从智能相机中发现敌方坦克安装在自动无人机上。

斯金格的目标是在20年内在机器上赋予鼠类智能。

斯金格的目标是在20年内在机器上赋予鼠类智能。尽管如此,他承认创造人类智能可能需要一辈子 - 甚至可能更长。

Madry同意这种神经科学启发的方法是解决当前机器学习算法问题的有趣方法。

“大脑的工作方式与我们现有的深度学习模式的工作方式完全不同,这一点越来越清晰,”他说。“所以,这确实可能最终成为取得成功的完全不同的道路。很难说它是多么可行,以及在这里取得成功所需的时间框架是什么。“

与此同时,我们可能需要避免过多地信任我们将越来越多地接触到的人工智能机器人,汽车和程序。你永远不知道它是否会产生幻觉。

友情链接