深度伪造技术 Deepfake，再一次深陷舆论风波之中。

据报道，韩国有人利用 AI 技术制作不雅照片和视频，并在聊天室内分享。

聊天室内有超过 3700 名成员，每个人都至少提交了 10 张他们认识的女性的照片，并通过了面试才能进群。

很多未成年人把手伸向身边的同学，即使是一张普普通通的生活照，在 AI 软件的帮助下也能轻松制作出她们的“淫秽视频”。

而更加绝望的是，根据韩国警方的统计，抓捕的 120 名虚假视频犯罪嫌疑人中，青少年几乎占75.8%。

这次事件，因为情况严重，被网友直呼“韩国 N 号房 2.0”。

据韩联舍一篇名为《超过3/10的受害者是未成年》的报道中指出：

目前，共有 781 名深度伪造受害者在线求助，其中 288 人（36.9%）是未成年人。

韩国国内舆情上来了，这些人就消停一阵，然后过阵再卷土重来。

见韩国国内进展缓慢，韩国女性们开始反击，将阵地转移到海外社交媒体上，于是有了这些“求助帖”，并登上热搜：

现在 DeepFake 技术进化神速，像这种直播换脸，也能做到实时了：

甚至还有人换脸成马斯克进行直播：

Google DeepMind 团队在本月研究发布的一篇关于研究人们如何滥用生成式 AI 的论文指出。

所谓的极具亲密性的图像、视频，用 AI 制作的“淫秽视频”都不是首要问题，真正危险的地方在于假冒他人身份。

这是一件很可怕的事，身份被别人随意操控。

关于如何检测 DeepFake 图像一直是一个热点话题，比如根据牙齿判断，把图像饱和度拉满，AI人像的牙齿就会变得非常诡异，边界模糊不清。

对于换脸的图片，会存在一些问题：

• 不自然的眼球运动和眨眼
• 尴尬的面部表情或嘴部动作
• 肤色、光线或阴影不一致
• 模糊和视觉伪影

用 AI 检测 AI 的方法是可行的，但这类的检测工具依然存在问题，这方便了深度伪造技术的进一步对抗训练，从而导致 DeepFake 技术再度进化。

这是一个对抗学习的过程，就像验证码识别的发展过程一样。

最初验证码很简单，只需要几个数字，但随着破解技术的进化，验证码越来越复杂，以至于到最后人类都很难操作。

DeepFake 工具和 DeepFake 检测工具，也会面临这样的局面。

在 Science 上的一篇文章是这样说的：

• 面对这一挑战，应该做两手准备：
• 建立 DeepFake 的技术道德标准

开发精准的 DeepFake 检测工具

不过我个人感觉，技术道德标准应该约束不了这些人。

法律约束应该也同步进行，尽早完善相应法律。

对于韩国 N 号房 2.0，你怎么看？