联系我们

AI 101

什么是假货?

mm

更新

 on

随着伪造品的制作变得更加容易和丰富,对它们的关注也越来越多。深度假货已成为涉及AI道德,错误信息,信息和互联网的开放性以及法规的讨论焦点。深入了解伪造品并对什么是伪造品有直观的了解是值得的。本文将阐明Deepfake的定义,检查其用例,讨论如何检测Deepfake,并检查Deepfakes对社会的影响。

什么是Deepfake?

在继续深入讨论fakefake之前,花一些时间并弄清楚是有帮助的 什么是“假货”。关于Deepfake的术语有很多混淆,并且通常将该术语错误地应用于任何伪造的媒体,无论它是否是真正的Deepfake。为了获得Deepfake的资格,必须使用机器学习系统(特别是深度神经网络)来生成有问题的伪造媒体。

Deepfake的关键成分是 机器学习。机器学习使计算机能够相对快速,轻松地自动生成视频和音频。深度神经网络在真实人物的镜头上进行训练,以使该网络了解人们在目标环境条件下的外观和运动方式。然后,将训练有素的网络用于其他人的图像,并使用其他计算机图形技术对其进行增强,以使新人与原始素材结合在一起。使用编码器算法确定原始人脸和目标人脸之间的相似度。一旦脸部的共同特征被隔离,就会使用第二种AI算法,称为解码器。解码器检查编码(压缩)的图像,并根据原始图像中的特征对其进行重建。使用了两种解码器,一种在原始对象的脸上,另一种在目标人员的脸上。为了进行交换,在人X的图像上训练的解码器将获得人Y的图像。其结果是,人Y的脸是在人X的面部表情和姿势上的重构。

目前,制作Deepfake仍需要花费大量时间。假货的创建者必须花费很长时间手动调整模型参数,因为次优参数会导致明显的瑕疵和图像故障,从而使假货的真实本性消失。

尽管人们经常假设大多数Deepfake都是用一种称为 生成对抗网络(GAN),这些天创建的许多(也许大多数)deepfake不依赖于GAN。 SUNY Buffalo的Siwei Lyu表示,虽然GAN在早期Deepfake的创建中确实发挥了重要作用,但大多数Deepfake视频是通过替代方法创建的。

为了训练GAN,要花费不成比例的大量训练数据,并且与其他图像生成技术相比,GAN渲染图像的时间通常要长得多。 GAN比视频更能生成静态图像,因为GAN难以保持帧与帧之间的一致性。使用一个编码器和多个解码器来创建深度伪造的情况更为常见。

Deepfake用作什么?

在线上发现的许多伪造品本质上都是色情的。根据AI公司Deeptrace所做的研究,在2019年9月拍摄的大约15,000个Deepfake视频样本中, 其中约95% 本质上是色情的。这个事实令人不安的含义是,随着该技术变得更易于使用,假冒复仇色情的事件可能会增加。

但是,并非所有的深造假品本质上都是色情的。 Deepfake技术有更多合法用途。音频Deepfake技术可以帮助人们在由于疾病或伤害而受损或丢失后播放常规声音。 Deepfake还可用于隐藏处于敏感,潜在危险情况下的人的脸,同时仍允许其嘴唇和表情被读取。 Deepfake技术可以潜在地用于改善外语电影的配音,帮助修复旧的和损坏的媒体,甚至创建新的艺术风格。

非视频Deepfake

尽管大多数人在听到“ 假货”一词时会想到虚假视频,但虚假视频绝不是用Deepfake技术制作的唯一虚假媒体。 Deepfake技术也用于创建照片和音频伪造品。如前所述,GAN通常用于生成伪造图像。据认为,有很多情况下,伪造的LinkedIn和Facebook个人资料都包含使用Deepfake算法生成的个人资料图片。

也可以创建音频Deepfake。深度神经网络经过训练可以产生包括名人和政客在内的不同人的语音克隆/语音皮肤。音频Deepfake的一个著名例子是AI公司Dessa 利用了AI模型 受非AI算法支持,以重新创建播客主持人Joe Rogan的声音。

如何发现Deepfake

随着伪造品变得越来越复杂,将它们与真正的媒体区别开来将变得越来越困难。目前,有 几个迹象 人们可以寻找视频是否可能是深深的假象,例如嘴唇同步不良,动作不自然,脸部边缘闪烁,以及头发,牙齿或反射等精细细节变形。 Deepfake的其他潜在征兆包括同一视频的低质量部分以及不规则的眨眼。

尽管目前这些迹象可能会帮助您识别出一个深层虚假,但随着深层虚假技术改进了可靠的深层虚假检测的唯一选择,可能是其他类型的经过训练以区分假冒产品与真实媒体的AI。

包括许多大型科技公司在内的人工智能公司正在研究检测伪造品的方法。去年12月,在三个技术巨头的支持下,深度检测检测挑战开始了:亚马逊,Facebook和微软。来自世界各地的研究团队共同研究了检测伪造品的方法,竞相开发出最佳的检测方法。其他研究人员小组,例如Google和Jigsaw的一组联合研究人员,正在研究一种“面部取证”,可以检测出已被更改的视频, 使他们的数据集开源 并鼓励其他人开发深度检测方法。前面提到的Dessa致力于 完善Deepfake检测技术,以确保检测模型可以在野外(在互联网上)找到的Deepfake视频上工作,而不仅仅是在预先组成的训练和测试数据集(如Google提供的开源数据集)上工作。

也有 其他策略 正在研究以应对深层假货的扩散。例如,检查视频与其他信息源的一致性是一种策略。可以从其他角度搜索可能发生的事件的视频,或者可以检查视频的背景细节(例如天气模式和位置​​)是否存在不一致之处。超出此, 区块链在线分类账系统 可以在最初创建视频时对其进行注册,并保留其原始音频和图像,以便始终可以检查派生视频的操纵性。

归根结底,重要的是要创建可靠的检测Deepfake的方法,并且这些检测方法必须与Deepfake技术的最新进展保持一致。虽然很难确切知道深度欺诈的后果,但是如果没有可靠的方法来检测深度欺诈(以及其他形式的伪造媒体),错误信息可能会泛滥并降低人们对社会和机构的信任。

深度欺诈的影响

允许深层假货不受控制地扩散的危险是什么?

伪造品目前造成的最大问题之一是未经许可的色情,这是通过将人们的面部与色情视频和图像结合在一起而设计的。人工智能伦理学家担心,假冒复仇色情作品会在深造中得到更多利用。除此之外,伪造品可能被用来欺负并损害几乎任何人的声誉,因为它们可能被用来将人们置于有争议和损害性的场景中。

公司和网络安全专家已经对使用Deepfake来促进诈骗,欺诈和勒索表示关注。据称,deepfake音频已经 用来说服员工 公司向骗子转移资金的过程

伪造品甚至可能会产生有害影响,甚至超出上述范围。 Deepfake可能会削弱人们对媒体的整体信任,并使人们很难区分真实新闻和虚假新闻。如果网络上的许多视频都是伪造的,那么政府,公司和其他实体就更容易对合法的争议和不道德的行为提出质疑。

对于政府而言,伪造品甚至可能对民主运作构成威胁。民主要求公民能够基于可靠的信息做出有关政治人物的明智决定。错误信息破坏了民主进程。例如,加蓬总统阿里·邦戈(Ali Bongo)出现在一段录像中,试图使加蓬公民安心。总统被认为长期处于不适状态,他突然出现在 一场可能是假视频的未遂政变拉开了序幕。 唐纳德·特朗普总统声称,他在录音中吹牛说要抓住生殖器抓女人 是假的,尽管也将其形容为“更衣室谈话”。安德鲁王子也 声称Emily Maitilis的律师提供的图片是假的,尽管律师坚持要求其真实性。

最终,尽管可以合理使用Deepfake技术,但滥用该技术可能会造成许多潜在的危害。因此,创建和维护用于确定媒体真实性的方法非常重要。

专门从事以下工作的Blogger和程序员 机器学习 深度学习 话题。 Daniel希望帮助他人将AI的力量用于社会公益。