①②能欺骗人脸识别系统的眼镜
③一名男性在佩戴后被识别成了女演员米拉 · 乔沃维奇,而他的女同事则成功扮演了一个中东男人。
图片来源:卡内基梅隆大学
为了评估和改进人工智能(AI)的识别能力,研究人员会设计一些“对抗性”图像,它们主要被用来欺骗机器视觉系统。麻省理工大学的一项研究用算法生成 “对抗性”图像并将其附加到了3D打印模型上,之后用这些模型去骗谷歌的图像分类AI。测试的结果有多夸张呢?3D打印的乌龟玩具被认成了步枪,AI眼中的棒球竟然是一杯浓缩咖啡。
AI对3D物品的错认足以引起我们对诸如自动驾驶、智能监控等系统的担忧,因为这些都很依赖AI的图像识别能力。而如果当下正受追捧的人脸识别技术也被“对抗性”图像攻破,那么我们日常生活中类似刷脸支付、刷脸过检等行为岂不是存在着巨大的安全风险?新的研究证明,这份担心非常有必要。因为现在,能欺骗人脸识别系统的眼镜已经出现了。
这副反面部识别眼镜由美国卡耐基梅隆大学和北卡罗来纳大学的研究人员合作开发,一共有五种。使用者戴上眼镜后能够成功骗过面部识别系统的“眼睛”。研究人员兼联合开发者马哈茂德·谢里夫在接受采访时说,眼镜被设计用来误导基于神经网络学习的面部识别系统,它成功骗过Face++的概率为90%。Face++是一款专注人脸检测、分析和识别的软件。
该面部识别软件的神经网络是基于对人脸像素颜色的分析来猜测一个人的身份的,被测者脸上任何轻微的变化都会影响到整个识别系统。
谢里夫表示,他们通过优化算法找到了可以躲过系统识别的眼镜颜色,并且保证颜色可以平滑过渡(类似于自然图像)。这些图案会扰乱面部识别系统的感知,影响AI读取它们的准确性。
研究人员透露,这种眼镜可以由用户自行打印出来。(赵利利编辑整理)
《中国科学报》 (2018-01-25 第6版 前沿)