Deepfake(深度伪造),再度深陷舆论的风波。

这一次,用这项AI技术犯罪的严重程度被网友直呼是“韩国N号房2.0”,魔爪甚至伸向了众多未成年人

事件影响之大,直接冲上了各大热搜、热榜。

早在今年5月,《韩联社》便通报过一则消息,内容是:

首尔大学毕业生朴某和姜某,从2021年7月至2024年4月,涉嫌利用Deepfake换脸合成色情照片和视频,并在通信软件Telegram上私密传播,受害女性多达61人,包括12名首尔大学学生。

仅是这位朴某便用Deepfake合成了大约400个色情视频和照片,并与同伙一起分发了1700个露骨的内容。

然而,这件事情还是Deepfake在韩国泛滥的冰山一角。

就在最近,与之相关的更多细思极恐的内幕被陆续扒了出来。

例如韩国妇女人权研究所公布了一组数据:

从今年1月1日到上周日,共有781名Deepfake受害者在线求助,其中288名(36.9%)是未成年人

而这个“N号房2.0”也是非常恐怖的存在。

据《阿里郎》进一步的报道:

一个与Deepfake相关的Telegram聊天室,竟吸引了220000人,他们通过篡改妇女和女孩的照片来创建和分享伪造的图像,受害者包括大学生、教师,甚至是军人。

不仅是受害者有未成年人,甚至加害者也有大量的青少年

不仅如此,这次舆论的兴起过程也是非常的drama。

因为肇事的韩国男性们(以下简称韩男)可以说是非常的猖獗,有舆论苗头的时候,他们就会稍微“克制”一下:

有些韩男对这件事的态度也是较为恶劣,甚至有初中男生开公开写到“不用担心,你不够漂亮,不至于被Deepfake”这种话。

于是乎,韩国女性们(以下简称韩女)的反击开始了。

她们将“阵地”转向韩国之外的社交媒体,例如在X上,有人发布了制作Deepfake学校的地图:

还有韩女在微博中发布“求救贴”

随着舆论在各大社交媒体上发酵,韩国政府也出面做出了表态:

目前已经有超过200个学校收到Deepfake影响;计划将Deepfake犯罪的刑期从5年提高到7年。

据了解,韩国警方已成立特别工作组,专门应对深度伪造性犯罪等虚假视频案件,该工作组将运行到明年3月31日。

Deepfake已逐渐进化

事实上,最新Deepfake技术已经进化到了“恐怖”阶段!

生图AI Flux以一组真假难分的TED演讲照片,引千万