上半年上半年，OpenAI 适时推出去最新四款 AI 视觉模型 CLIP。

大家众多人人人对它一共包括包括些印象，经近能力的表智能家居产品有哪些现数据集训练，CLIP 在图片素材识别和融合上展现了惊人的任何公司表现力。

诸如，输入文本 “震惊”，AI 万一 准确地对其 “瞪眼”种种 最之处的的特征来呈现，只是 再跟据 Text、Face、Logo 等一共文本各类信息，将其融合成一张新图像。

对其最之处的的词智能家居产品有哪些描述 方式描绘种种 张新图像总之其它动物总之万一 不对于哪里 难事，但总之 AI 总之，则万一 它兼具远高于的视觉识别和描述 方式能力不强，一共包括包括文本识别和图像识别。很有的，CLIP 模型万一 说代表行业了现有计算机视觉持续研究的远高于整体水平。

她们，恰恰两个兼具图片素材双重识别能力不强的 AI，却种种 张 “纸片”丈夫面前翻了车。

在哪里 回事呢？

AI 上当，“苹果”变 “iPod”

前两天 OpenAI 持续研究团队成员做种种 项测试，她们要偶然发现 CLIP 万一 轻易被 “攻击性图像”误导。

测试是两个的，持续研究人员给 CLIP 输入了如下一张图（左图）：

AI 只是 识别出去有没有苹果，很有的还相应数据出去其它其它动物品种：Granny Smith。

她们，当持续研究人员给苹果上贴上一张写着 iPod 的纸片，最终 AI 不得不说被误导了，如右图所示，其 iPod 的识别率达等到了 99.7%。

持续研究团队成员将此类攻击称做 “印刷攻击”，她们对于官方博客中写道：“对其任何公司方式模型能力的文本读取能力不强，有的是手写文字的自拍照片 片 就会欺骗模型。像‘对抗补丁’就像，诸如攻击在野外场景一共包括包括效。”

万一 看出，诸如印刷攻击得以实现出去很很简单，只万一 笔和纸方法三，只是 间接影响比比较明显。她们要再角度 一组案例：

左图中，AI 一次成功识别出去贵宾犬（识别率 39.3%）。

但右图中在贵宾犬他身再再加之之多个 “$$$”字符后，AI 就将其识别一下子成 存钱罐（识别率 52.5%）。

有没有为在哪里 会隐含诸如攻击任何公司方式，持续研究人员描述 说，最之处的的之处 CLIP 的多模态神经元—万一 对以文本、符号或概念任何公司方式呈现的不尽相同概念会做响应。

她们，诸如多模态神经元种种 把双刃剑，一一共方面它万一 得以实现对图片素材的平台高度整体控制，种种 一共方面遍及文字、图像的神经元也让 AI 起了 更易于攻击。

“多模态神经元”是根源

万一 ，CLIP 中不多模态神经元有没有是对于哪里 子呢？

此前，OpenAI 的持续研究人员发表种种 篇新论文《Multimodal Neurons in Artificial Neural Networks》，描述 了她们万一要如何已打开 CLIP 来观察其性能的。

OpenAI 对其两种工具来描述 方式模型的激活，一共是特征可视化（对其对输入对其基于梯度的优化来莫过于化神经元激活）、表现数据集示例（观察表现数据集中神经元莫过于激活图像的分布）。

对其诸如很很简单任何公司方式，OpenAI 偶然发现 CLIP RN50x4（对其 EfficientNet 缩放规则将 ResNet-50 放大 4 倍）中不原因数神经元都万一 重新得到描述 。诸如神经元貌似是 “多面神经元”的极端示例——其它其它动物只在更高层次的抽象上对不尽不尽相同用例会做响应。

一共包括包括，其它其它动物只是 对物体的图像有发应，只是 对草图、卡通和相应文本一共包括包括发应。诸如：

总之 CLIP 总之，还能识别蜘蛛侠的图像，因此其必删 中出现特定的 “蜘蛛侠”神经元万一 对蜘蛛侠的真实图像、漫画图像会做响应，也万一 对单词 “Spider”（蜘蛛）会做响应。

OpenAI 团队成员相应数据，人工智能各类软件系统万一 会像其它动物就像将诸如知识内部化。CLIP 模型意味着未来十年 AI 会没法形成更复杂的视觉各类软件系统，识别出更复杂短期目标。但种种 切上升上升阶段初级上升阶段。诸如任何公司人在苹果上贴上带有 “iPod”字在哪里 字条，CLIP 诸如的模型都未能准确的识别。

如在案例中，CLIP 只是 会做了存钱罐的必删 ，也响应种种 串串的亿亿美金 符号。与里面的例子就像，万一 在电锯上覆盖 “ $$”字符串，就万一 欺骗 CLIP 将其识别为储蓄罐。

值得一提值得一提，CLIP 的多模态神经元的关联偏差，原因是从互联必删 上获取的表现数据中学等到了。持续研究人员则表示，不得不说模型对于精选的互联网表现数据子集上对其训练的，但仍认真学习了其诸如不受整体控制的关联。一共包括包括诸如关联是良性的，但一共包括包括恶性的。

诸如，恐怖主义和 “中东”神经元相应联，拉丁美洲和 “移民”神经元相应联。更糟糕值得一提，种种 个神经元会和使皮肤黝黑她们、大猩猩相应联（这美国本土本土又得十分严重种族歧视）。

论是是微调全是零样本设置一下，诸如偏见和恶性关联都万一 会保留在各类软件各类软件系统，只是 在部智能家居产品有哪些署之前会以可见和也都不可见的任何公司方式任何公司任何公司表现去。诸如偏见行为形成万一 未能先验地预测，因此因此测量和校正起了 困难。

未部署到商业产品会中

机器视觉模型，旨在用计算机得以实现人的视觉功能包括，使计算机兼具对客观拥有世界 的三维场景对其感知、识别和描述 方式的能力不强。不难想象，其它其它动物现实中拥有世界 兼具广泛的应用场景，如自动驾驶、工业制造、安防、人脸识别等。

总之小部分场景总之，它对机器视觉模型准确度兼具远高于的规定要求，其次是自动驾驶市场领域。

诸如，此前腾讯体育以色列本 · 古里安高中和美国本土佐治亚理工学院的持续研究人员曾对特斯拉自动驾驶各类软件系统对其种种 项测试。她们对于路边的广告牌的精彩精彩集锦中添加种种 张 “汉堡攻击图像”，并将停留时间很长设置一只是 0.42 秒。

在特斯拉汽车行驶至此刻，全是图像有没有 一闪而过，但全是特斯拉全是捕捉等到了 “信号”，对其其了紧急刹车。这项测试意味着，自动驾驶的视觉识别各类软件系统仍出现比比较明显的漏洞。

一共包括包括，一共包括包括持续研究人员相应数据，对其很简单地在路面上贴上诸如标签，也万一 欺骗特斯拉的自动驾驶各类软件，在不会警告的出现情况下彻底改变车道。

诸如攻击对从医疗到军事的种种人工智能应用全是两个十分严重的威胁。

但从目前来貌似看，诸如特定攻击仍在可控覆盖覆盖范围，OpenAI 持续研究人员强调，CLIP 视觉模型尚未部署到任何公司商业产品会中。