比飓风更可怕的，是一张 AI 生成图片

289 0 0

文章摘要

飓风“海伦妮”在美国南部多州造成严重破坏，与此同时，一张AI生成的图片在社交媒体上引发广泛关注，成为两党争论的焦点。共和党成员Amy Kremer分享了一张小女孩在救生艇上抱着小狗的图片，尽管图片明显是AI生成的，但仍然获得了大量观看和转发。这张图片被用作政治工具，攻击执政党应对飓风的失责，同时伴随着各种阴谋论和假新闻的传播。

AI假图片已经成为党派之间相互掣肘的工具，政客们不在意信息真假，只要有传播效力即可。这些图片的传播原理是感性印象取代客观事实，而这种传播学原理在AI时代更加猛烈地回响。

这些AI假内容的制造者和传播者主要是社交媒体用户，他们利用AI工具生成以假乱真的图像，然后在社交平台上发布，以获取流量和曝光。Facebook成为重灾区，因为平台算法化赶上了用户老龄化，中老年人难以鉴别AI内容。AI生成的图文帖通常是标题党配合夺人眼球的图片，用户的评论显示他们并没有意识到图片是由AI生成。

AI假图片除了骗流量外，还想骗钱，比如附赠购买链接或引流到其他广告网站。许多照片可能是用Meta AI生成的，这些照片骗过了自己的用户，矛盾至此转换成了流量的循环。

AI生成垃圾内容影响的不仅是Facebook，连Quora这样的高质量文本内容社区也不得不面对AI生成内容稀释社区内容质量的现状。现在许多AI生成图片正在和现实牢牢捆绑在一起，每个用户都会质疑每一张照片的真实性，哪怕它是基于现实的实拍照片。

这些内容往往针对毫无戒心的老年人，他们基于同情心，贡献了自己的点赞和转发，不知不觉中却成了算法的帮凶。而作为具有重要责任的社交平台，例如Meta，则陷入了AI的自我“矛盾之战”：用户使用Meta的AI工具生产出虚假信息和垃圾信息，将其发布到Meta平台，而Meta的AI团队则需要通过技术鉴别到底哪些是真实图片，哪些是AI生成的。AI生成工具的诞生，无疑再次为网络垃圾化的进行提供了加速度。如果无法解决这个挑战，被“困在系统中”的不仅仅是用户，或者平台，而是所有人。