艾玛麦戈万 2024年1月30日

在泰勒斯威夫特的AI生成色情图片在X前Twitter上走红后，我们不禁思考：这对AI的未来意味著什么？

最近，AI生成的著名歌手泰勒斯威夫特的露骨图像在X平台上迅速蔓延，揭示了AI能力的黑暗一面。这些据信是使用微软Designer创建的图片，引起了广泛关注，并突显出AI生成伪色情作品日益严峻的挑战。

随著这些图像在平台上迅速传播，此事件不仅引发了粉丝和隐私倡导者的愤慨，还提出了有关AI在媒体创作中伦理使用的关键问题。

Avast威胁情报总监米哈伊萨拉特提供了丰富的知识和专业见解，对此时此刻的讨论进行分析。萨拉特专注于技术、安全与伦理的交集，提出了对AI生成内容影响的深刻见解。

在接下来的部分中，我们将深入探讨他的见解，回顾图像操控的历史类比、AI能力所带来的伦理困境，以及在越来越依赖AI的世界中数位信任和安全的更广泛影响。

假色情不是新问题

萨拉特将目前AI生成逼真图像的能力与过去使用Photoshop的情况作比较。正如Photoshop在多年前颠覆了图像操控，现在的AI使得创建现实的图像变得更加容易。然而，操控图像的概念并不新鲜；AI只是这个持续故事中的最新工具。

“这在某种程度上只是一种不同的照片编辑软体，”他解释说，强调操控图像的问题已存在超过十年。现在的关键区别在于AI技术带来的便利性和可得性。这一变化引发了关于社会如何适应和监管这些新工具的重要问题，因为这使得创建现实图像变得前所未有的容易。

AI与露骨内容的伦理困境

最迫切的担忧之一是使用AI生成露骨图像的伦理影响，特别是对特定个体的无授权生成。虽然生成一般的裸体图片可能不会引起太多伦理上的疑虑，但真正的问题在于生成可辨识个体的露骨图像的便利性。

“AI生成的色情内容本身或许并没有固有的伦理问题，”萨拉特说。“但对我来说，伦理问题在于你可以相对容易地生成带有已知或特定面孔的图像。”

这种能力不仅限于像泰勒斯威夫特这样的名人，还可能扩展到任何人，这强调了需要伦理指导和立法的重要性：虽然所谓的报复色情或非自愿分享裸体在48个州是非法的，但AI生成的深伪色情目前仅在10个州被禁令禁止。这一明显差异强调了立法需要跟上技术的步伐。

AI公司如何防止生成深伪色情？

或许是因为生成AI的获取相对较新，因此在创建无受害者同意的露骨内容方面缺乏足够的防护措施。然而，萨拉特指出，实施这些防护措施对AI公司而言不会太困难：像不允许生成特定人图像或禁止使用客户提交的图片作为素材这样简单的措施，就可以为绝大多数人提供足够的屏障。

“当然，有些人可以突破这些限制，迫使模型做一些不应该做的事，”萨拉特说。“我认为目前几乎无法完全避免这种情况只能让它变得更加困难。我想强调的是，提供这些服务的公司应该更加努力地去避免这种情况。”

此外，还有可能有人创建自己不受任何限制的色情生成模型。然而，萨拉特指出，虽然这是可能的，但需要大量的技术知识和大量的计算能力。

“并不是很多人能够自己创建生成裸体的AI，”萨拉特说。“所以，这更像是使用Photoshop，你需要有一定的技术水平才能做到。”

萨拉特将当前AI发展的状态与安全行业的演变作了比较。他观察到我们正目睹安全行业“重新开始与AI合作。”这一比较强调了将AI发展视为一个持续过程的重要性，在这个过程中，识别并修复脆弱性是成熟技术的关键。

在X上出现的泰勒斯威夫特的AI生成图像凸显了负责任使用AI的重要性。随著AI的持续推进，平衡技术能力与伦理考量及安全措施将至关重要。通过向米哈伊萨拉特这样的专家学习，并反思过去的挑战，我们可以以更具资讯和谨慎的方式应对这一复杂的环境。