菲律宾申博太阳城娱乐:忽悠AI图像识别系统的新方法:随机复制并粘贴

2018-09-19 09:09 稿源:雷锋网  0条评论
本文来源:http://www.2233858.com/www_86kx_com/

太阳成娱乐成总代理,图片来自美联社  简历显示,鲍勃·多尔于1923年出生于堪萨斯州,现年93岁,是资深政客。”  虽然该校今年在京普通理科计划数增加21人,但由于中外合作办学专业计划减招35人,整体在京招生计划仍比去年减少。尽管许多虚假大学已被查处,但有些学校的官网仍正常运转,且网上可在线咨询及报名。”徐女士说,司机离开后,她发现放在后座的手提包也不见了,里面有现金、储值卡、培训资料等物品。

但“原汁原味”不能绝对化,绝对化就不存在创造性转化问题。7.免责爱丽时尚网对本网站上所有内容包括但不限于网站运营或本网站上的信息、内容、材料或产品,不提供明示或暗示的担保。  以浙江为例,前三季度浙江GDP增速从上半年的7.7%回落到7.5%。  全球经济低迷的寒冬,丝毫挡不住中国制造业企业走出去的热情。

住宅用地供应方面,套型建筑面积90平方米以下住房面积所占比重不低于70%。邓小平访美期间观看牛仔表演并获赠牛仔帽。“说明书上说,吸上半小时,就能保持丰唇一到两小时。  “实在跌得太多了,也该有点反弹了。

图片来源图虫:已授站长之家使用

本文作者:图普科技

按:本文由「图普科技」编译自AI image recognition systems can be tricked by copying and pasting random objects

你并不总是需要构建复杂的算法来扰乱图像识别系统——你只要在随机位置添加对象就行了。

大多数情况下,可以用对抗模型更改一些像素以扭曲图像,从而使目标识别出现错误。一些例子包括用一张小贴纸让香蕉图像秒变烤面包机,或戴傻眼镜忽悠面部识别系统。乌龟被误认为是一支步枪的经典案例证明了欺骗人工智能是一件多么容易的事情。

然而,约克大学和加拿大多伦多大学的研究人员现已证实,将物体图像复制并粘贴到原图像中,就可以误导神经网络,无需耍任何花招。

目标移植

他们利用 Tensorflow 物体识别 API 中的模型进行了一系列实验。Tensorflow 物体识别 API 是一个由 Google 工程师构建的开源框架,用于执行图像识别任务。该 API 是构建在 TensorFlow 代码之上的另一层,描述了卷积神经网络的架构。

研究人员从某张图像中获取一个对象并将其添加到另一图像的不同位置,然后将这些图片输入到 API 中。arXiv 在发表的论文中将此技术称为「目标移植(object transplanting)」。

在第一个例子中,研究人员在一名男性坐在其起居室的图像中添加了一张大象的图像。该模型在不同目标周边输出了一系列彩色边界框,并计算了不同目标识别结果的可能性。它识别出目标是一名人类和笔记本电脑的可能性为99%,椅子为81%,手提袋为67%,书籍和杯子为50%。

到目前为止该模型的表现还不错。但当将大象的图片添加到同一图像中时,模型识别开始出现混乱。当大象图片被粘贴在红色窗帘上时,模型对于图中椅子的识别突然变得不那么自信了,评级从81%下降到了76%,但它对于桌面上有一个杯子的可能性从50%增加到了54%。

更奇怪的是,当大象图片被直接复制并粘贴在人的头顶上时,它被识别为椅子。当将动物的图片粘贴在场景中的不同位置时,它只在两个地方被正确识别:当它被放置在笔记本电脑和书柜的顶部时。

当大象的图片粘贴在场景中的不同位置时,API难以正常识别。在许多情况下,它完全无法识别。

图片来源:Rosenfeld等。

尽管如此,但该API仍可能正确识别物体,因为很少出现大象与一些客厅中的常见物品混在一起的图像。“神经网络从未见过两个不同类别物体在同一图片中组合,我们不可能指望神经网络能够在测试时成功处理这类图像”该论文写道。

但该测试并不是一个不公平的测试,它凸显了神经网络的脆弱性,他们无法轻松适应不在其训练数据内的新图像。研究人员写道:“我们认为要求不同物体类别在训练集中成对出现是不合理的,无论是在实践还是理论层面。”

人工智能很难识别重复图像

当该研究团队复制图像中已有的目标对象时,API仍然难以识别。

该模型可以毫不费力地从原图片中挑选出在显示器前面的键盘上躺着的猫。然而,当在图片上再添加一张该猫的照片,并重新调整使它看起来像是直接放在第一只猫后面时,猫的脚掌被识别为狗,键盘的一角被识别为一本书。

该团队用不同的图像重复进行了实验,结果牛头成了马,棒球棍成了笔记本电脑,手提包成了杯子 - 你现在明白了吧。

添加图像中已有的相同对象也具有相同的效果。图片来源:Rosenfeld等。

该论文解释说,从不属于真正目标区域内的像素中获取的特征会使图像中的物体变得混乱。“对于目标感兴趣区域ROI内部的像素以及ROI之外的像素,都是如此。”

这是所有图像分类模型都面临的难题。它们都是通过给定区域上一系列像素的特征来识别对象,但这意味着来自其他对象的像素可以与之重叠,从而使它们混淆。

研究人员将此问题称为“局部遮挡”。“局部遮挡被普遍认为是物体检测面临的一大挑战。成功解决局部遮挡问题将是实现泛化的好兆头。”

“这里生成的图像可以看作是对抗样本的一种变体,其中一些小图像带来的干扰(人类难以察觉)会导致神经网络的输出结果出现大幅度变化,”该论文总结道。

相关文章

相关热点

太阳成娱乐成总代理查看更多
?
www.99sb.com 申博现金赌场登入 申博官网 www.sb61.com www.860msc.com www.123tyc.com
申博手机客户端下载登入 申博在线开户网址 申博娱乐网址 申博138介绍人直营网 太阳城赌场太阳城直营网 申博娱乐直营网
www.360msc.com 申博138娱乐官方网 申博手机版下载客户端直营网 申博游戏现金网直营 申博电子游戏 菲律宾太阳娱乐官网登入