.png?width=48&height=48&name=image%20(3).png)
](https://blog.avast.com/author/emma-mcgowan) 2024年1月30日
随著AI生成的泰勒·斯威夫特色情图片在X（前Twitter）上迅速走红，我们不禁要问：这对AI的未来意味著什么？
最近，AI生成的
在X平台上引发了轰动，显示了AI能力的阴暗面。这些图片被认为是通过微软设计软件创建的，于是引发了广泛关注，突显出AI生成假色情内容的日益严峻挑战。
随著这些图片在平台上迅速传播，这一事件不仅引发了粉丝和隐私倡导者的愤怒，还提出了关于AI在媒体创作中伦理使用的关键问题。
Avast威胁情报总监米哈尔·萨拉特（MichalSalát）在这一重要讨论中提供了丰富的知识和专业见解。萨拉特敏锐地关注科技、安全和伦理的交汇点，对于AI生成内容的影响提供了深刻的思考。
在以下几个部分中，我们将深入探讨他的见解，研究图像操控的历史并行、AI能力带来的伦理困境及其对我们日益AI驱动的世界的数字信任与安全的更大影响。
假色情并不是新问题
萨拉特将当前AI生成逼真图像的能力与过去Photoshop的使用进行了比拟。正如Photoshop在多年前革新了图像处理一样，AI现在使得创建逼真图像变得更加简单。然而，操作图像的概念并不新鲜；AI仅仅成为这一持久故事中的最新工具。
“这在某种程度上只是一种不同的照片编辑软件，”
他解释说，强调操控图像的概念十多年前就已经引起了关注。现在的关键区别在于AI技术带来的便利性和可及性。这一转变引发了有关社会如何适应和规范这些新工具的重要问题，这些工具使得创建逼真图像比以往任何时候都更加容易。
AI与露骨内容的伦理困境
当前最紧迫的担忧之一是使用AI生成露骨图片的伦理影响，特别是未经特定个人同意的情况下。虽然生成通用裸体图片可能不会引发太多伦理问题，但真正的问题在于生成具可识别性人物的露骨图片的容易度。
“从本质上来说，AI生成色情片并没有什么不当或伦理问题，”萨拉特表示。“但对我来说，伦理问题在于，你可以相对轻松地生成一个带有已知或特定面孔的图片。”
这一能力不仅限于泰勒·斯威夫特等名人，可能扩及任何人，突显出需要伦理指导和立法的重要性：所谓的“报复色情”
（或非自愿分享裸照）在48个州是，而AI生成的深度伪造色情目前在仅10个州。这一明显差异强调了法律需要追上科技的必要性。
AI公司如何防止深度伪造色情的创建？
或许由于生成AI的访问相对较新，因此在未经当事人同意的情况下创建露骨内容的护栏很少。然而，萨拉特认为，为AI公司实施这些防护措施并不会太困难：仅仅是不允许生成特定人物的图片，或者不使用客户提交的图片作为素材，就足以为绝大多数人提供足够的屏障。
“当然，仍然会有人能够突破这些限制，迫使模型做一些它不该做的事情，”萨拉特说。“在我看来，目前几乎不可能完全避免这一点——只能使其更难。我想强调的是，提供这些服务的公司应更努力避免这种情况。”
也有可能有人创建自己的无限制色情生成模型，但萨拉特指出，尽管这是可能的，但需要_大量_的技术知识和_巨大的_计算能力。
“能够自己创建一个生成裸体图片的AI的人不多，”萨拉特表示。“所以，这更类似于使用Photoshop，你需要具备一定的技能才能做到。”
萨拉特将当前AI发展的状态与安全行业的演变进行了比较。他观察到，我们正目睹安全行业在AI技术方面“重新开始”。这一比较强调了将AI发展视为一个持续过程的重要性，识别和修复漏洞是成熟技术的关键。
泰勒·斯威夫特在X上生成的AI图片强调了负责任使用AI的重要性。随著AI技术的持续进步，在技术能力与伦理考量及安全措施之间取得平衡至关重要。通过向像米哈尔·萨拉特这样的专家学习并反思过去的挑战，我们可以以更加知识丰富和谨慎的方式导航这一复杂的局面。
