[烟台万润股票]顶尖人工智能无法识别这些简单图像

跟着越来越多的东西依靠于越来越难以捉摸的人工智能（AI），发现后者的缺点就显得越来越重要，此文中的黑箱研讨就越来越必不可少。

上面的图画是什么？很简略的黄黑间条嘛。不过假如你问问最先进的人工智能，它给出的答案会是校车，并且 99% 地必定。但 AI 错了。

固然，现在的计算机图画辨认技能现已十分先进。比方说，下面这幅图 AI 虽不能辨认出这是一条戴着墨西哥帽的吉娃娃狗（说实话有的人也未必能认出），可是最少能辨认出这是一条戴着宽边帽的狗。可是怀俄明大学进化人工智能实验室最近的一项研讨却标明，这些 AI 未必总是那么灵光，就像开篇的比如那样，最先进的 AI 把这些随机生成的简略图画当成了鹦鹉、乒乓球拍、百吉饼或许蝴蝶。

这一发现迫使咱们供认一个显着但重要的现实：即计算机视觉和人类视觉并不相同。并且鉴于咱们日益依靠神经网络去练习计算机辨认图画的，终究计算机是怎么想的连咱们人类都不知道了。

用进化算法诈骗AI

进化算法生成的随机图画，图画下方的文字是AI辨认出来的目标。

要想弄清楚这些自我练习的算法的聪明之处，办法之一正是看看它们的愚笨之处。研讨人员决议看看最先进的图画辨认神经网络是不是简单遭到自动错误信息的影响。比方说这些神经网络能认出猫来，那是不是也会把其他东西认成猫呢？

为此，研讨人员使用进化算法生成随机图画作为视觉钓饵。他们首要使用程序生成一幅图画，然后对图画进行略微的改动。接着把原图和略微修改后的图一并提交给根据 ImageNet 练习的神经网络。假如修改正的图被 AI 以为比原图更挨近某个目标，研讨人员就保存修改正的图，然后重复此进程。否则的话就回退重试。这样下来的成果便是最美观者生计—或许说，是计算机最能辨认的的图画存活了下来（而非最合适者—原图）。

最终该技能生成了数十幅神经网络确实信度超越 99% 的图画。它们有的是蓝橙相间的波涛线，有的是黄黑间条纹等等，可在 AI 眼里，它们却是海星（star fish）和校车（school bus）。

黑箱配对

AI 为什么会受骗呢？有些状况是能够了解的。比方说，眯着眼睛看的话，校车（school bus）确实看起来像是黄黑间条纹。相似地，随机生成的“君王蝴蝶”确实看起来像是蝴蝶翅膀，而被认作“滑雪面罩（ski mask）”的图画确实看起来像一幅夸大的人脸。

可是，研讨人员还发现 AI 一般还会被纯静态的图画捉弄。选用一种略微不同的进化技能之后，研讨人员生成了另一组图画（下图）。这些图画在人眼看来简直都是相同的，就像是一台坏掉的电视上的图画。可是在最先进的神经网络眼里，这些却是蜈蚣（centipede）、猎豹（cheetah）、孔雀（peacock）等等。

在研讨人员看来，神经网络好像形成了各种有助于辨认目标的视觉头绪。这些头绪有些是人类了解的（如校车的比如），有些则否则。上图中比如阐明至少在某些时分这些头绪是颗粒度很细的。或许经过练习后，神经网络把一连串的“绿色绿色、紫色、绿色”像素视为孔雀看见的方式了。所以当随机生成的图画正好也产生了相同的像素系列后，AI 就把它当作是孔雀了。这阐明 AI 或许针对每一种目标都推理出了若干的头绪，并以为经过这些头绪足以辨认出某一目标。

当然，人类精心制作这些图画来捉弄 AI 也阐明晰一个问题，即神经网络的规划和复杂性现已超出人类的了解范畴—哪怕咱们知道 AI 能辨认图画，但对它们怎么辨认图画却并不知晓。相似的研讨其意图正是想经过逆向工程的办法推导出 AI 的模型，找出人工智能的学习思路。虽然仍不甚了了，但最近两年的黑箱研讨已能井蛙之见。

AI的眼光有问题有问题吗？

当研讨人员把研讨成果提交给神经信息处理体系大会进行评论时，专家形成了爱憎分明的两派定见。一组人年岁略大，范畴经历更丰厚，他们以为这个成果是彻底能够了解的。另一派人则相对年青，他们对研讨成果的情绪是困惑。至少在一开始对强壮的算法却把成果彻底弄错感到惊奇。请记住，虽然这些人略微年青一点，但个个都是在尖端 AI 大会上宣布过文章的人了。

而在研讨团队负责人 Clune 看来，这反映了该范畴的代代搬运。若干年曾经，做 AI 的那帮人仍是开发 AI 的。而现在，神经网络现已满足先进，以至于研讨人员拿来用就行了。

拿来就能用未必是坏事。可是跟着越来越多的东西是根据 AI 来建立的，那么发现 AI 的缺点就显得益发的至关重要。把一些随机像素误以为是某种动物当然无伤大雅，可是假如 AI 让某些色情图片在安全查找过滤中漏网性质就很严峻了。Clune 期望这项研讨能够激起其他研讨人员跟进，在算法中考虑到图画的全体结构。换句话说，让计算机视觉更像人类视觉。

一起，这项研讨也促进咱们考虑 AI 其他方式的缝隙。比方说脸部辨认也依靠于同类的技能，因而也会有相似缺点。假如计算机视觉仅仅重视于部分特征的话，或许安上一个 3D 打印的鼻子就能让计算机以为你是他人。戴上一个面具就能让你从监督体系中消失。计算机视觉的使用越广泛，此类危险就会越大。

不过从更广泛的含义来说，这项研讨带给咱们的警示是咱们正进入自我学习体系的年代。现在，咱们依然操控着自己开发出来的东西。但跟着 AI 不断自我开发自己，有一天咱们发现自己搞不懂 AI 也不古怪。“计算机做什么不再是人写代码写出来的了，”Clune 说：“这简直是相互作用的组件间的规划效益导致的智能呈现。”在这一智能的使用上咱们无疑没有浪费时间。可是在咱们这么做的时分是否彻底了解了它就不太清楚了。

摘自:35氪
数据剖析, 数据发掘, 图画, 神经网络