他们正在用 AI，疯狂给互联网「下毒」

142 0 0

文章摘要

近年来，AI生成内容在短视频平台上的泛滥引发了一系列问题，尤其是那些以猎奇、恐怖为主题的视频，给用户带来了极大的精神污染。这类视频通常只有10秒左右，前几秒看似平淡无奇，随后画风突变，AI生成出极其诡异的景象，最终停留在令人不寒而栗的一帧。这类内容通过算法推荐迅速传播，例如一条“蜘蛛长颈鹿人”的视频在Instagram上获得了3.62亿观看量和349万点赞。这种传播量意味着它作为爆火内容，会跳出算法随机推送给用户，一旦用户因好奇心停留，算法便会将其推向更多类似视频，形成恶性循环。

这类视频的本质在于触发用户深层的不适和惊悚感，瞬间让大脑短路，甚至不敢划走。与人类导演精心编排的恐怖片不同，AI生成的视频是一种“无意的恐怖”，比刻意制造的恐怖更令人不安，因为它没有任何轨迹可以预判。这类视频已经跳出了AI和现实擦边的恐怖谷，而是在普通的生活场景里，突然让人畸变，长出异常的肢体，变成不可名状的怪物。这种内容超出了人类的理性认知，让人感到“这个东西不应该存在”。

视频制作者利用AI批量生成并投放内容，不断试探流量机制，总有一条能钻进流量的缝隙。一旦某条视频被推爆，更多同类视频就会接连涌入，形成恶性循环。即使平台限流，制作者只需换一批提示词，便可以开始新一轮“流量赌博”。AI生产内容的速度远远快过人类创作和平台的算法变化，无论平台怎么调整，都会面临政策赶不上对策的窘境。人类创作者需要研究平台算法、策划选题、拍摄制作，耗时耗力耗钱制作出一条优质视频，而AI分秒钟生产数十条垃圾视频，发到平台上不火也没关系，马上再上传几十条。这种“暴力破解”的方式让低质量、假信息占据了用户的信息流，创作生态和平台内容都往劣币驱逐良币的方向滑落。

与此同时，AI生成内容的泛滥让真正由人类创作的内容越来越难以被发现。视频制作者获得了流量，每一个刷到视频的用户受到精神污染，整个内容平台被这些猎奇、低质的AI生成内容所侵蚀。只有这些毫无底线利用AI的人赢了，而流量带来的快钱正在驱使越来越多的人加入这个行当。例如，17岁的YouTuber Daniel Bitton通过AI复制爆火视频，每月赚到10万美元。他甚至在营销邮件中鼓吹“花时间制作高质量的YouTube视频在经济上没有意义”，并出售他的“成功公式”。

平台方面，Meta不仅放任这些内容泛滥，还在助长这一现象。马克·扎克伯格在投资者会议中提到“AI帮助人们创作，能让用户刷短视频的体验更好”，并增加了AI制作的内容类别。Meta甚至调高了用户信息流里AI内容的比重，同时把AI制作工具卖给广告商，推出的Advantage+服务能让广告商一次性生成50条广告，再投放到平台里去赌算法推荐。根据Meta的数据，AI内容大量注入平台后，用户在Facebook的留存时间增加了8%，Instagram增加了6%。对Meta来说，只要AI能带来更多流量和广告收入，AI垃圾内容的泛滥就不是问题。

然而，这种趋势可能导致未来的社交媒体不再是人与人之间的交流平台，而是一个赌场：AI垃圾制造者在赌平台算法，用户在赌下一条视频不会给自己造成精神污染，平台在赌自己能在流量和内容崩坏之间找到盈利的平衡。如果事情走向极端，这可能会导向一个AI生成内容主导，人类创作沦为边缘，真假信息难以辨别，用户被垃圾内容“Mindfxxk”的互联网时代。尽管一些平台已经要求创作者在AI生成内容上标明“AI制造”的标签，但或许人们需要一个更细分、更周详的规范，来保护“不明真相”的用户。