泰勒斯威夫特的深伪色情影片并不新鲜但这并不意味著我们不应该感到担忧。

.png?width=48&height=48&name=image%20(3).png) ](https://blog.avast.com/author/emma-mcgowan) 2024年1月30日

随著由人工智慧生成的泰勒·斯威夫特色情图像在X平台上疯传，我们不禁要问：这对AI的未来意味著什么？

最近，一个令人不安的事件发生了，AI生成的在X（前身为Twitter）上迅速传播，暴露了AI能力的阴暗面。这些图像被认为是使用微软设计工具创建的，吸引了广泛关注，并凸显了AI生成假色情内容的日益挑战。

随著这些图像在平台上的快速扩散，事件不仅引发了粉丝和隐私倡导者的愤怒，还提出了关于AI在媒体创作中伦理使用的关键问题。

Avast的威胁情报总监米哈伊·萨拉特为这次及时的讨论带来了丰富的知识和专业经验。通过专注于技术、安全和伦理的交汇处，萨拉特提供了对AI生成内容影响的深入见解。

在接下来的部分中，我们将深入了解他的见解，探讨影像操控的历史平行、AI能力所带来的伦理困境，以及在我们越来越AI驱动的世界中对数位信任和安全性更广泛的影响。

假色情不是新问题

萨拉特将当前AI生成逼真图像的能力与过去Photoshop的使用相提并论。正如Photoshop在几年前彻底改变了图像处理技术一样，AI现在则使创建现实图像变得更加容易。然而，操纵图像的概念并不新鲜；AI只是这场持续故事中的最新工具。

“这在某种程度上只是一种不同的照片编辑软体，”他解释道，强调操纵图像的问题已经困扰了十多年。现在的关键区别在于AI技术所带来的便利性和可获得性。这种变化引发了关于社会如何适应和管理这些新工具的重大问题，因为这些工具已使创建现实图像变得前所未有的容易。

最紧迫的问题之一是使用AI生成明确图像，特别是未经特定个人同意的情况下的伦理含义。虽然生成一般的裸体图像可能不会引发太多的伦理问题，但真正的问题在于这种生成识别出来的个体的明确图像的简易性。

“AI生成色情内容本身可能没有任何固有的问题或伦理困境，”萨拉特表示。“但对我来说，伦理问题在于你能相对轻易地生成一个带有已知或特定面孔的图像。”

这种能力扩展到了像泰勒·斯威夫特这样的名人，还可能涉及任何人，强调了对伦理指导和立法的迫切需要：虽然所谓的「报复色情」（或未经同意分享的裸体照片）在48个州是，但AI生成的深度伪造色情内容目前

也许因为生成式AI的获得仍属于相对新兴的现象，围绕未经主体同意的明确内容创建几乎没有防范措施。不过，萨拉特认为，为AI公司实施这些防范措施并不会非常困难：如不允许生成特定个体的图像或使用客户提交的图像作为源材料等简单方法，就可以为绝大多数人提供足够的屏障。

“当然，有些人能打破这些限制，强迫模型做不应该做的事情，”萨拉特说。“从我看来，目前几乎不可能完全避免这种情况——你只能让它变得更加困难。我想我想表达的重点是，提供这些服务的公司应更努力地避免这种情况。”

还有可能会有人创建自己的色情生成模型，这样就没有任何限制。不过，萨拉特指出，即使这样做是可能的，但也需要_大量_技术知识和_大量_计算能力。

“并不是所有人都有能力自己创建一个生成裸体的AI，”萨拉特表示。“所以这更像是使用Photoshop，你需要有一定的技能才能做到这一点。”

萨拉特将目前的AI发展状态与安全行业的演变进行比较。他观察到，我们正在见证安全行业“从头开始接受AI”。这种对比突出了将AI开发视为一个持续过程的重要性，在这个过程中，识别和修复漏洞对于技术的成熟至关重要。

泰勒·斯威夫特在X上的AI生成图像突显了负责任使用AI的重要性。随著AI不断进步，平衡技术能力与伦理考量及安全措施将至关重要。透过向像米哈伊·萨拉特这样的专家学习并反思过去的挑战，我们可以以更有见识和谨慎的方式驾驭这一复杂的领域。