人脸识别作为一种在机场和高安全性场景下识别人员的方法正在迅速普及，但这远非万无一失。
研究人员证明，他们可以欺骗现代人脸识别系统，以发现不在那里的人。
网络安全公司McAfee的一个小组针对类似于面部识别系统的面部识别系统发起攻击，该系统目前在机场用于护照验证。通过使用机器学习，他们创建了一张看起来像人眼的人的图像，但是被人脸识别算法识别为其他人的图像-等同于欺骗机器，使某人即使不乘坐飞机也可以登机。
该研究的负责人说：“如果我们使用实时摄像头，该摄像头使用面部识别来识别和解释他们在看谁，并将其与护照照片进行比较，那么我们就可以现实而反复地造成这种针对性的误分类，”研究负责人说。
这个怎么运作
为了误导该算法，研究人员使用了一种称为CycleGAN的图像翻译算法，该算法擅长将照片从一种样式变形为另一种样式。例如，它可以使港口照片看起来像是由莫奈（Monet）绘制的，或者可以使夏天拍摄的山脉照片看起来像冬天拍摄的照片。
McAfee团队使用了该项目两个线索中每一个线索的1,500张照片，并将这些图像馈送到CycleGAN中，以将它们彼此变形。同时，他们使用面部识别算法来检查CycleGAN生成的图像，以查看其识别对象。在生成了数百张图像之后，CycleGAN最终创建了一个伪造图像，其肉眼看起来像人A，但愚弄了人脸识别，以为是人B。
尽管该研究对人脸识别系统的安全性提出了明确的担忧，但也有一些警告。首先，研究人员无法访问机场用来识别旅客的实际系统，而是使用最新的开源算法对其进行近似。“对于攻击者而言，我认为这将是最难克服的部分，” Povolny说，“在[他们]无法访问目标系统的地方。” 尽管如此，考虑到人脸识别算法之间的高度相似性，他认为即使在实际的机场系统上，这种攻击也可能会起作用。
GAN的工作方式
· 生成对抗网络是一类算法，它们巧妙地使神经网络相互竞争以产生更好的结果。
在传统的GAN中，只有两个网络：一个生成器，用于训练数据集（例如夏日风景）以吐出更多的夏日风景；以及一个将生成的景观与相同数据集进行比较的判别器，以确定它们是真实的还是假的。
CycleGAN通过具有两个生成器和两个鉴别器来修改此过程。还有两个图像集，例如夏日风景和冬季风景，代表了您想要在其间转换的照片类型。
这次，第一台生成器训练夏天风景的图像，目的是尝试生成冬天风景。同时，第二个生成器训练冬季景观的图像以生成夏季图像。在鉴别出伪造的风景与真实的风景之前，这两个鉴别者再次努力工作以发现伪造的风景。
第二，今天这样的攻击需要大量的时间和资源。CycleGAN需要强大的计算机和专业知识来训练和执行。
但是，人脸识别系统和自动护照控制已越来越多地用于世界各地的机场安全，covid-19大流行和对非接触式系统的需求加速了这一转变。政府和公司已经在执法，雇用和事件安全等领域广泛使用了该技术，尽管许多团体呼吁暂停这种发展，而且一些城市已经禁止了该技术。
还有其他技术尝试颠覆人脸识别。芝加哥大学的一个团队最近发布了Fawkes，该工具旨在通过在社交媒体上略微更改您的照片来“遮盖”脸部，从而使依赖数十亿张此类图片的刮擦数据库的AI系统蒙上阴影。人工智能公司Kneron的研究人员还展示了面具如何使全世界已经在使用的面部识别系统蒙上阴影。
迈克菲研究人员说，他们的目标最终是证明这些AI系统中固有的漏洞，并明确指出人类必须始终处于循环之中。
Povolny说：“人工智能和面部识别是功能强大的工具，可帮助人们识别和授权人员。” “但是，当您只是拿走它们而盲目地更换一个完全依赖于人类的现有系统而又没有进行任何第二次检查时，您突然就会引入比以前更大的弱点。”
热门跟贴