据韩国庆南地方警察厅 5 月 22 日通报，警方近日破获一起利用人工智能技术制作、传播 " 深度伪造（Deepfake）" 色情视频（即 AI 换脸色情视频）的重大案件，已逮捕 23 名犯罪嫌疑人，年龄跨度从 10 岁至 40 余岁。这些嫌疑人主要罪行包括制作性剥削材料和传播虚假视频等。
△受害者的脸被 " 移植 " 到色情视频的示意图
案件核心嫌疑人是一名高中生（A 某）。调查显示，A 某从去年 11 月至今年 4 月期间，创建并运营了三个聊天群组，上传了约 500 部自制合成色情视频。其同伙包括 15 名青少年和 7 名 20 至 40 多岁的成年人，这些人在群组中累计制作分享了 3500 余部色情视频。涉案的聊天群组参与者高达 840 余人。
△示意图
警方调查发现，犯罪团伙利用市面上可免费获取的 AI 应用程序，将女明星和普通女性的面部图像移植到裸照上，制作成逼真的伪造视频。今年 2 月，警方接到线报称某群组 "OOO Room" 内有人使用十几岁和二十几岁青少年偶像照片制作 Deepfake 视频，随即展开调查。
A 某等嫌疑人供述犯罪动机 " 纯粹出于性好奇和好玩心理 "。
目前，韩国警方正在追查更多 Deepfake 性犯罪。
