Emma McGowan 2024年1月30日

在泰勒斯威夫特的AI生成色情图片在X前Twitter上疯传后，我们不得不问：这对AI的未来意味著什么？

最近，AI生成的泰勒斯威夫特的露骨图片在X上迅速流传，展现了AI能力的阴暗面。这些图片被认为是使用微软设计师创建的，并引起了广泛关注，突显出AI生成虚假色情作品不断增长的挑战。

随著这些图片在平台上迅速扩散，这一事件不仅引发了粉丝和隐私倡导者的愤怒，也提出了关于AI在媒体创作中伦理使用的关键问题。

Avast 的威胁情报总监米哈尔萨拉特Michal Salt为这一及时的讨论带来了丰富的知识和专业技术。萨拉特关注科技、安全和伦理的交集，对AI生成内容的影响提供了深刻的见解。

在接下来的部分中，我们将深入探讨他的见解，分析图像操控的历史类比、AI能力带来的伦理困境，以及在越来越依赖AI的世界中对数位信任和安全的更广泛影响。

虚假色情并不是新问题

萨拉特将当前AI生成逼真图像的能力与过去使用Photoshop进行的操作进行了比较。正如Photoshop几年前彻底改变了图像处理，AI现在也使得创建逼真图像变得更加容易。然而，操控图像的概念并不新鲜；AI只是这场持续斗争中的最新工具。

“这在某种程度上只是一种不同的照片编辑软体，”他解释道，强调操控图像的担忧已有十多年历史。现在的关键区别在于AI技术带来的便捷和可及性。这一变化引发了关于社会如何适应和监管这些新工具的重要问题，因为这些工具使得创建逼真图像变得前所未有的容易。

AI与露骨内容的伦理困境

其中一个最迫切的问题是使用AI生成露骨图像尤其是未经特定个人同意的情况下的伦理含义。虽然生成一般的裸体图像可能不会引发太多伦理问题，但真正的问题在于创建识别性别特定的人物的露骨图像的便利性。

“生成AI色情内容本身可能没有固有的错误或伦理问题，”萨拉特表示。“但对我来说，伦理问题在于你可以相对容易地生成一幅带有已知或特定面孔的图像。”

这一能力不仅限于像泰勒斯威夫特这样的明星，还扩展到任何人，强调了制定伦理准则和立法的必要性：虽然所谓的“报复色情”或非自愿分享裸体在48个州是非法的，但AI生成的深度假色情在目前仅在10个州被禁。这一巨大差异凸显了立法亟需追赶技术的必要性。

AI公司如何防止深度假色情的生成？

或许是因为生成AI的访问相对较新，因此在未经主体同意的情况下创建露骨内容的保护措施相对较少。不过，根据萨拉特的说法，对AI公司来说，实施这些措施并不会太困难：简单的一步，如不允许生成特定人物的图像或使用客户提交的图片作为素材，就能为绝大多数人提供足够的障碍。

“当然，有些人能够打破这些限制，迫使模型做一些不该做的事，”萨拉特说。“在我看来，现在几乎不可能完全避免这一点你只能让它变得更难。我想我在此试图表达的是，提供这些服务的公司应该更加努力地去避免这种情况。”

此外，还有可能有人创建自己的无限制的色情生成模型。萨拉特指出，尽管这是可能的，但需要相当多的技术知识和计算能力才能实现。

“能够自己创建生成裸体的AI的人并不多，”萨拉特表示。“因此，这更像是使用Photoshop，你需要一定水平的技能才能做到这一点。”

萨拉特将当前AI发展的状态与安全产业的演变相提并论。他观察到，我们正在见证安全产业“重新开始使用AI”。这一比较突显了将AI发展视为持续过程的重要性，在这一过程中，识别和修复漏洞是成熟技术的关键。

在X上出现的泰勒斯威夫特的AI生成图片强调了负责任使用AI的重要性。随著AI的不断进步，平衡技术能力与伦理考量和安全措施将变得至关重要。通过向米哈尔萨拉特等专家学习并反思过去的挑战，我们能够以更明智和谨慎的方式应对这一复杂的情况。