上周，世界上最著名的流行歌星之一泰勒·斯威夫特（Taylor Swift）的色情照片在网上疯传。

数百万人在社交媒体平台 （前身为推特）上观看了斯威夫特的非自愿深度伪造色情图片。

此后， 采取了严厉措施，屏蔽了对泰勒·斯威夫特的所有搜索，试图控制这一问题。

这并不是一个新现象：深伪技术已经存在多年了。然而，生成式 AI 的兴起使得深度伪造比以往任何时候都更容易。

（来源：AI 生成）

专门研究生成式 AI 和合成媒体的人工智能专家亨利· 阿杰德（）表示，在与生成式 AI 相关的所有类型的伤害中，未经同意的深度伪造影响的人数最多，其中女性占绝大多数。

值得庆幸的是，希望还是有的。新的工具和法律可能会使攻击者更难将人们的照片武器化，并帮助我们追究犯罪者的责任。

以下是打击非自愿深度伪造色情的三种方法。

水印

这一种方法是指社交媒体平台对上传到其网站上的帖子进行筛选，并删除违反其政策的内容。

但正如 上的泰勒·斯威夫特的视频所示，这一过程充其量只能算是零敲碎打，遗漏了很多有害内容。此外，也很难区分真实内容和人工智能生成的内容。

一种技术解决方案是水印。水印在图像中隐藏了一个不可见的信号，可以帮助计算机识别图像是否是人工智能生成的。

例如，开发了一个名为 SynthID 的系统，该系统使用神经网络修改图像中的像素，并添加人眼看不见的水印。即使对图像进行编辑或截图，也能检测到这种标记。

理论上，这些工具可以帮助公司改进内容审核，并使他们更快地发现虚假内容，包括未经同意的深度伪造内容。

优点：水印可能是一个有用的工具，它能让我们可以更容易、更快地识别人工智能生成的内容，并识别应该删除的有毒帖子。

人工智能初创公司 的研究人员萨莎·卢奇奥尼（）研究了人工智能系统中的偏见，她说默认情况下在所有图像中加入水印，也会使攻击者在一开始就更加难以制造出未经同意的深度伪造图片。

缺点：这些系统仍处于试验阶段，尚未广泛使用。心存不轨的攻击者仍然可以篡改它们。相关公司也没有将这项技术全面应用于所有图像。

例如， Imagen 人工智能图像生成器的用户，可以选择是否希望人工智能生成的图像带有水印。 所有这些因素都限制了它们在打击深度伪造色情图片方面的作用。

主动防御

目前，我们在网上发布的所有图片都是免费的，任何人都可以用来创建深度伪造图像。

由于最新的图像制作人工智能系统非常复杂，要证明人工智能生成的内容是假的越来越难。

但是，通过一系列新的防御工具，人们可以让自己的图像在人工智能系统中看起来扭曲或变形，从而保护自己的图像不被人工智能利用。

美国麻省理工学院的研究人员开发了一种名为 PhotoGuard 的工具。它的作用就像一个保护罩，能以人眼看不见的方式改变照片中的像素。

当有人使用像图像生成器 Stable Diffusion 这样的 AI 应用程序来处理经过 PhotoGuard 保护的图像时，结果看起来会很不真实。

Fawkes 是芝加哥大学研究人员开发的一种类似工具，它用隐藏的信号掩盖图像，使面部识别软件更难识别人脸。

另一个名为 Nightshade 的新工具可以帮助人们抵御人工智能系统的攻击。该工具由芝加哥大学的研究人员开发，可以在图像上涂上一层看不见的“毒药”。

开发该工具的目的是为了保护艺术家，避免他们受版权保护的图片在未经其同意的情况下被科技公司修改。

不过，从理论上讲，它可以用于任何图像，只要图片的所有者不想被人工智能系统涂改。

当科技公司未经同意在网上抓取训练素材时，这些中毒的图像将打破人工智能模型。猫的图像可能变成狗，泰勒·斯威夫特的图象也可能变成狗。

优点：这些工具让攻击者更难使用我们的图像创建有害内容。说，这些工具在为个人提供免受人工智能图像滥用的保护方面表现出了一定的前景，尤其是在约会应用程序和社交媒体公司默认应用这些工具的情况下。

说：“我们在互联网上发布的每张图片都应该使用 Nightshade 这款工具。”

缺点：这些防御罩适用于最新一代的人工智能模型。但不能保证未来的版本不会覆盖这些保护机制。它们也不适用于已经在线的图片，也更难应用于名人的图片。

法规

技术补救措施仅限于此。说，唯一能带来持久变化的是更严格的监管。

泰勒·斯威夫特的病毒式“假新闻”为打击“假色情”的努力提供了新的动力。白宫表示，这一事件“令人震惊”，并敦促国会采取立法行动。

到目前为止，美国各州对这项技术的监管一直都是蜻蜓点水。例如，加利福尼亚州和弗吉尼亚州已禁止未经同意制作深度伪造色情作品。纽约州和弗吉尼亚州也禁止此类内容的传播。

不过，我们终于可以看到联邦层面的行动了。美国国会最近重新提出了一项新的两党法案，该法案将分享伪造裸体图像定为联邦犯罪。

美国新泽西州一所高中的假色情丑闻也促使立法者通过了一项名为《防止假冒亲密图片法案》的法案。

泰勒·斯威夫特的案件引起了人们对这一问题的关注，这可能会赢得更多两党的支持。

世界各地的立法者也在推动制定更严格的技术法律。2023 年英国通过的《网络安全法》规定，禁止分享深度伪造的色情材料，但不包括制作这种材料。犯罪者可能面临长达六个月的监禁。

在欧盟，一系列新法案从不同的角度解决了这个问题。全面的《人工智能法案》要求深度伪造创作者明确披露这些材料是由人工智能创建的，《数字服务法案》将要求科技公司更快地删除有害内容。

中国于 2023 年生效的深度伪造法案走得最远。在中国，深伪创作者需要采取措施，防止将其服务被用于非法或有害目的，在将用户图像制作成深伪作品之前征得用户同意，要对用户身份进行验证，并对人工智能生成的内容进行标注。

优点：监管将为受害者提供追索权，追究未经同意的深度伪造色情作品创作者的责任，并形成强大的威慑力。

它还发出了一个明确的信息，即制作未经同意的深度伪造色情制品是不可接受的。

说，法律和提高公众意识的活动可以产生真正的影响，让人们清楚地认识到，制作这种深度伪造色情内容的人是性犯罪者。

他说：“这将改变一些人对这类内容的冷漠态度，认为它们无害或不是一种真正的性虐待形式。”

缺点：表示执行这类法律会很困难。就目前的技术而言，受害者很难确定是谁侵犯了他们，也很难对那个人提起诉讼。 制作深度伪造作品的人可能也在不同的司法管辖区，这使得起诉更加困难。

作者简介：梅丽莎·海基莱（Melissa Heikkilä）是《麻省理工科技评论》的资深记者，她着重报道人工智能及其如何改变我们的社会。此前，她曾在 POLITICO 撰写有关人工智能政策和政治的文章。她还曾在《经济学人》工作，并曾担任新闻主播。

支持：大义

运营/排版：何晨龙

01/

02/

04 /

05/