韩国“N号房”事件因 Deep Fake 再现，受害者向中国网友求救

728 0 0

文章摘要

视频AI生成技术的发展带来了一系列社会问题，尤其是在未经同意的情况下制作和传播女性色情图像方面。韩国女性在社交媒体上揭露了深度伪造技术的滥用，引起了广泛关注。Telegram因其加密通信和群组聊天功能成为犯罪者的首选平台。

2021年至2024年间，韩国首尔大学毕业生朴某和姜某涉嫌利用深度伪造技术制作并传播色情照片和视频，受害者多达61人。朴某制作了1852份换脸色情照片及视频，传播了约100条视频。受害女性在Telegram群聊中遭到威胁，经过两年半的申诉，案件得到调查。韩国警方表示，犯罪者的目的不是为了营利，而是为了满足个人欲望。

深度伪造色情内容在Telegram上广泛传播，一个拥有超过22万名成员的频道能够按需提供深度伪造的裸照图像。该频道通过图像机器人将上传的女性照片转换为深度伪造裸照，用户可以自定义生成图像中的身体部位。频道允许用户免费生成两张深度伪造裸照，之后需要付费，每张照片费用为0.48美元。频道仅接受加密货币付款，以保持匿名。

韩国女律师协会人权事务主任Seo Hye-jin指出，Telegram聊天室中制作和分享性剥削及深度伪造图像是诱发大规模性犯罪的根源。韩国性暴力救济中心主任Kim Hye-jung表示，盈利结构的存在表明市场对深度伪造图像的需求量很大，社会对此类罪行的轻视是诱发性犯罪的关键因素。

韩国警方表示，今年迄今受理的深度伪造性犯罪案件数量已飙升至297起。2023年韩国与深度伪造图像有关的犯罪案件已高达180起。韩国的监管框架存在漏洞，法律规定成年人若以违背他人意愿的方式处理或编辑他人的伪造视频、音频或照片内容且意图传播，可被判处最高五年监禁或最高5000万韩元的惩罚。但实际上，惩罚往往比法条规定要宽松得多。

韩国与深度伪造有关的犯罪数量及青少年犯下此类罪行的比例都呈上升趋势。韩国国民力量党代表赵恩熙表示，数字犯罪行为在青少年群体中蔓延，许多人将其视为游戏。她呼吁通过系统性法条修订来防范此类犯罪。

韩国青少年获取人工智能服务的门槛相当低。一项调查显示，约77.5%的青少年听说过生成式AI，52.1%的青少年使用过该技术。尽管越来越多的青少年因违法使用深度伪造技术而受到惩罚，但大多数判例相对较为宽松。犯罪专家强调，政府应采取措施教育学生，确保他们意识到这类犯罪行为的严重性。

美国初创公司Security Hero的报告显示，韩国是深度伪造色情内容最多的国家。韩国媒体监管机构要求Telegram在相关问题上定期合作，并为与Telegram的直接沟通提供便利。韩国政府表示，将推动更严格的法律，把购买或观看性剥削深度伪造定为犯罪行为。韩国警方计划进行为期7个月的打击数字性犯罪，并增加监控此类事件的监管人员数量，为受害者建立24小时热线。Telegram也表示，将积极审核其平台上的有害内容，包括非法色情内容。