尽管人们对于利用DeepFake 操纵选举、在世界各国制造混乱的行为高度关注，但绝大多数人其实都比较天真，会把女明星的脸映射到色情明星的身上。任何熟悉互联网历史的人都不会对此感到惊讶。
在最近关于全身DeepFake 的报告中，一家名为Deep Trace Labs 的公司（一家总部位于阿姆斯特丹的公司，之前专注于人工智能操纵的内容）表示，他们在合成媒体领域进行了广泛的研究。今天，该公司发布了一份备受期待的报告《DeepFake现状：前景、威胁和影响》，其中他们探讨了网站、论坛和移动应用程序上深度假货的流行情况。
正如Deep Trace Labs 的Giorgio Patrini 解释的那样，这项研究是在该公司于2017 年成立时开始的，包括对网站、论坛和服务的全面检查。研究人员梳理了论坛和DeepFake 社区帖子，寻找晦涩难懂和不太受关注的元素，以全面了解DeepFake 对现状构成的威胁。 Deep Trace通过其内部开发的公共API和专用工具从这些网站、渠道、论坛和社区收集数据。它还可以查看并非所有内容都来自DeepFake 的网站或YouTube 频道。
Deep Trace 发现，目前网络上有14,678 个DeepFake 视频，其中96% 是色情视频，其中大多数都将著名女演员的面孔转移到色情明星的身体上。事实上，大多数深度假货都针对女性，而大多数非色情内容则针对男性。 YouTube 上90% 以上的DeepFake 视频来自西方世界，从女演员、音乐家到政治家和企业人物。但帕特里尼强调，这不仅仅是西方的现象。
帕特里尼说，在DeepFake 色情网站上，近三分之一的视频具有非西方主题，其中韩国流行歌星占目标的四分之一。这表明DeepFake 色情是一种日益全球化的现象。
帕特里尼说，我们的数据显示，大多数人实际上仍然是演员，但也有少数商业和政治领袖。我认为这可以归因于与非色情DeepFake 相关的活力机制。创作者主要是试图创造高质量DeepFake 结果的业余爱好者。选择知名人物，如马斯克、特朗普或尼古拉斯·凯奇，意味着你的DeepFake 结果更加明显，同时也增加了喜剧元素。
据报道，过去几年，有关生成对抗网络（GAN）的论文数量激增。生成对抗网络是两种类型的神经网络，一种是合成器或生成器，另一种是检测器，可以生成DeepFake 图像或视频，然后在反馈循环中仔细检查质量，直到最终产品得到令人信服的改进。生成对抗网络绝不是DeepFake 的幕后黑手，但Patrini 表示，它们无疑是由深度学习驱动的最流行、最有效的生成方法。
Deep Trace 的研究表明，生成对抗网络上帖子数量的显着增加只能间接表明这两种现象是相关的。 Deep Trace 无法在生成对抗网络的更多研究与DeepFake 的增加之间建立直接的因果关系。
帕特里尼说，不仅仅是拥有博士学位的研究人员，更多的人能够试验并提出新的算法变体，我们可以通过论文的增长来间接衡量这一点。发布更多的实验结果并将其扩展到新的应用程序表明，这些想法有潜力转化为可重用的代码和更可靠、更高效的工具，供非专家使用。
Deep Trace 还指出，DeepFake 创作社区正在不断壮大。 Github、4chan、8chan 和其他基于论坛的网站都共享开源DeepFake 代码。
帕特里尼说，我们在报告中提出的一个关键点是，一些社区的动机和活动与其他社区截然不同。如果我们只看负面新闻，很明显，一些社区和论坛主要集中在使用DeepFake 创作工具来创作非自愿的DeepFake 色情内容。
Patrini 认为，其中一些社区以提供非法或边缘化内容而闻名，例如4chan 和8chan。这些平台上的深度造假工具的商品化可能会导致该技术继续产生有害和恶意的用例，例如网络欺凌或政治宣传。
但Patrini很快注意到其他平台上也有爱好者和个人，而YouTube上关注DeepFake的博主更符合他们的兴趣。以博主Ctrl Shift Face 为例，他将汤姆·克鲁斯和阿尔·帕西诺的面孔变成了喜剧演员和印象派比尔·哈德尔的面孔。
帕特里尼说：“我不会说这些用途具有明显的积极作用，但从表面上看，它们肯定不是恶意的。”此外，由于DeepFake 不仅仅是发生在西方的现象，Deep Trace 认为这需要全球采取行动来打击恶意使用。
DeepFake 为企业带来了巨大的商机，从出现的各种工具和网站的数量可以看出，帕特里尼指出，这有助于这些工具的商品化和日益普及。仅仅DeepFake 的想法就足以撼动政治进程。
