泰勒斯威夫特的深度假冒色情影片并不是新鲜事但这并不意味著我们不该感到担忧。

Emma McGowan 2024年1月30日

在AI生成的泰勒斯威夫特色情图片在X平台前Twitter上迅速传播后，我们不禁要问：这对AI的未来意味著什么？

最近，AI生成的著名歌手泰勒斯威夫特的露骨图片的事件令人不安，这些图片的广泛传播展示了AI能力的阴暗面。这些图片被认为是使用微软设计软体创建，并在平台上引发了广泛关注，突显了AI生成虚假色情图片日益严重的挑战。

随著这些图片在平台上迅速扩散，这一事件不仅引发了粉丝和隐私维护者的愤怒，还引发了有关媒体创作中AI伦理使用的重要问题。

Avast的威胁情报总监米哈伊萨拉特Michal Salt在这一重要讨论中提供了丰富的知识和专业见解。他专注于技术、安全和伦理之间的交集，为AI生成内容的影响提供了深刻的见解。

在接下来的部分中，我们将深入探讨他的见解，研究图像操控的历史平行、AI能力带来的伦理困境，以及在日益依赖AI的世界中，数字信任和安全的更广泛影响。

假色情并非新问题

萨拉特将当前AI在生成逼真图像方面的能力与过去使用Photoshop的情况进行了对比。就像Photoshop多年前彻底改变了图像处理，AI如今使创建真实图像变得更加简单。然而，操控图像的概念并不新鲜；AI只是这场持续故事中的最新工具而已。

“这在某种程度上只是一种不同的照片编辑软体，”他解释说，强调操控图像的概念已经关注了十多年。现在的关键区别在于AI技术带来的便利性和可及性。这一变化引发了重要问题，即社会如何适应和规范这些新工具，这些工具使创建逼真图像比以往任何时候都更容易。

最紧迫的担忧之一是使用AI生成露骨图片的伦理问题，特别是针对未经同意的特定个体。虽然生成一般的裸露图片可能不会引起太多伦理问题，但真正的问题在于轻易创建可识别人员的露骨图片。

“AI生成的色情内容本身可能并没有什么内在的错误或伦理问题，”萨拉特说。“但对我来说，伦理问题在于，你可以相对轻易地生成带有已知或特定面孔的图片。”

泰勒斯威夫特的深度假冒色情影片并不是新鲜事但这并不意味著我们不该感到担忧。

这种能力不仅限于像泰勒斯威夫特这样的名人，还可能延伸到任何人，强调了制定伦理指导和立法的必要性：虽然所谓的“报复色情”或未经同意分享裸照在48个州是非法的，而AI生成的深伪色情目前仅在10个州被禁止。这一差异显示出立法跟上技术的需求。

或许因为对生成性AI的获取相对较新，对于在没有受害者同意的情况下创建露骨内容的规范相对较少。不过，萨拉特表示，对于AI公司来说，实施这些规范并不会非常困难：简单地不允许针对特定人物的图像生成，或不使用客户提供的图片作为素材，就能为绝大多数人提供充足的障碍。

“当然，有些人将能突破这些限制，强迫模型执行不应该做的事情，”萨拉特说。“从我看来，现在几乎无法完全避免这个问题你只能让它变得更困难。我想表达的观点是，提供这些服务的公司应该更加努力地去避免这个问题。”

也有可能有人会创建自己的色情生成模型，无任何限制。不过，萨拉特指出，尽管这是可能的，但需要大量的技术知识和大量的计算能力。

“并不是很多人能够自己创建AI来生成裸体图片，”萨拉特说。“因此，这更像是使用Photoshop，你需要具备一定的技能才能做到这一点。”

萨拉特将当前的AI发展状况与安全行业的演变进行了对比。他观察到，安全行业正在“重新开始使用AI”。这一比较突显了将AI发展视为一个持续过程的重要性，识别和修复漏洞是技术成熟的关键。

在X平台上泰勒斯威夫特的AI生成图片突显了负责任使用AI的重要性。随著AI的不断进步，平衡技术能力与伦理考量和安全措施将至关重要。通过向米哈伊萨拉特这样的专家学习并反思过去的挑战，我们可以在这个复杂的领域中以更明智和谨慎的方式前进。