换脸乌克兰美女在中国赚钱，AI已经开始跨国犯罪了

346 0 0

作者信息

【原文作者】 硅星人Pro
【作者简介】 硅（Si）是创造未来的基础，欢迎来到这个星球。
【微信号】 Si-Planet

文章摘要

在OpenAI发布Sora后，人们开始关注AI视频时代的到来。然而，AI虚假视频的迅速发展引起了人们的担忧，尤其是它们如何在社交平台上赚取收入。例如，小红书上的“娜塔莎进口食品”博主，通过AI生成的视频迅速积累了大量粉丝，但其内容完全由AI生成，且使用了乌克兰人Olga Loiek的肖像。这些视频在抖音等平台上被用于传播关于俄罗斯的虚假信息，而Olga本人和家人对此感到痛苦。

AI肖像克隆软件如HeyGen的使用使得创建克隆人短视频变得容易，这些视频不仅通过挑动流量话题赚钱，还通过带货获得收入。尽管Olga和家人尝试申诉，但平台的反应迟缓。最终，相关账号被封禁，但黑产团队已经赚取了大量收入，而Olga和家人承受了痛苦。

苹果公司联合创始人史蒂夫·沃兹尼亚克警告说，AI视频内容行业需要强监管。中国的《民法典》和《互联网信息服务深度合成管理规定》已有相关规定，但短视频平台在应对AI生成内容方面仍存在不足。抖音等平台虽然有相关规定和治理措施，但对于侵犯肖像权的事件，平台的响应速度仍然不够快。

文章强调，随着AI换脸技术的快速发展，黑产产业链迅速成长，内容监督技术和管理跟不上现实需求。如果没有有效的监管和审核，未来可能会出现更具煽动性和难以辨别的虚假视频。