文章摘要
【关 键 词】 深度伪造、换脸技术、网络安全、电信诈骗、隐私保护
在近期的一次深夜直播中，一位看似是埃隆·马斯克的人物吸引了上万网友在线围观并打赏。这位“马斯克”不仅模仿火箭发射的动作，还捏捏自己的脸颊以证明身份。然而，这位“20多岁的马斯克”实际上是通过Deepfake深度伪造技术生成的，只需一张照片即可实现换脸直播。这一技术的发展让许多网友感到震惊，认为深度换脸已从科幻概念变为现实。
除了直播，Deepfake技术还被用于制作马斯克个人TikTok账号的视频。视频中的“马斯克”在车里唱歌，同时宣传特斯拉汽车。这些视频的真实程度让人难以怀疑其真实性，甚至有网友认为“假”马斯克比真人更有魅力。
Deepfake技术的发展引起了广泛关注。一个开源的深度换脸项目在GitHub上获得了超过3万星标。两年前，YouTube上就有一个教程，教人们如何使用另一个开源换脸项目。虽然当时人物表情还略显僵硬，但现在的真实程度已经大大提高。
然而，随着Deepfake技术的成熟，电信诈骗也升级了。美国一位82岁的退休老人因误信AI制作的马斯克宣传投资机会的视频，被骗走了69万美元的退休金。监测深度伪造视频的机构Sensity的调查显示，自去年年底以来，马斯克出现在近1/4的深度伪造诈骗视频中，其中针对加密货币的视频出现率高达90%。制作这些伪造视频的成本极低，不到10美元，几分钟内就能完成。
为了应对深度伪造视频带来的问题，一些平台已经采取了措施。例如，YouTube在今年3月更新了政策，要求创作者披露是否使用了AI进行创作，并禁止欺诈和篡改视频。在1-3月期间，YouTube删除了超过1570万个频道和超过820万个违反内容政策的视频。然而，假视频仍然难以根除。
尽管Deepfake技术带来了一些负面影响，但一些网友认为，只要保持警惕，就可以享受这项技术带来的乐趣。总的来说，Deepfake技术的发展既令人惊叹，也引发了对网络安全和隐私保护的担忧。
原文和模型
【原文链接】 阅读原文 [ 1075字 | 5分钟 ]
【原文作者】 量子位
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★☆☆☆
