比飓风更可怕的,是一张 AI 生成图片

AIGC动态2个月前发布 geekpark
454 0 0
比飓风更可怕的,是一张 AI 生成图片

 

文章摘要


【关 键 词】 AI假图社交媒体政治工具信息真实性网络垃圾化

飓风“海伦妮”在美国南部多州造成严重破坏,与此同时,一张AI生成的图片在社交媒体上引发广泛关注,成为两党争论的焦点。共和党成员Amy Kremer分享了一张小女孩在救生艇上抱着小狗的图片,尽管图片明显是AI生成的,但仍然获得了大量观看和转发。这张图片被用作政治工具,攻击执政党应对飓风的失责,同时伴随着各种阴谋论和假新闻的传播。

AI假图片已经成为党派之间相互掣肘的工具,政客们不在意信息真假,只要有传播效力即可。这些图片的传播原理是感性印象取代客观事实,而这种传播学原理在AI时代更加猛烈地回响。

这些AI假内容的制造者和传播者主要是社交媒体用户,他们利用AI工具生成以假乱真的图像,然后在社交平台上发布,以获取流量和曝光。Facebook成为重灾区,因为平台算法化赶上了用户老龄化,中老年人难以鉴别AI内容。AI生成的图文帖通常是标题党配合夺人眼球的图片,用户的评论显示他们并没有意识到图片是由AI生成。

AI假图片除了骗流量外,还想骗钱,比如附赠购买链接或引流到其他广告网站。许多照片可能是用Meta AI生成的,这些照片骗过了自己的用户,矛盾至此转换成了流量的循环。

AI生成垃圾内容影响的不仅是Facebook,连Quora这样的高质量文本内容社区也不得不面对AI生成内容稀释社区内容质量的现状。现在许多AI生成图片正在和现实牢牢捆绑在一起,每个用户都会质疑每一张照片的真实性,哪怕它是基于现实的实拍照片。

这些内容往往针对毫无戒心的老年人,他们基于同情心,贡献了自己的点赞和转发,不知不觉中却成了算法的帮凶。而作为具有重要责任的社交平台,例如Meta,则陷入了AI的自我“矛盾之战”:用户使用Meta的AI工具生产出虚假信息和垃圾信息,将其发布到Meta平台,而Meta的AI团队则需要通过技术鉴别到底哪些是真实图片,哪些是AI生成的。AI生成工具的诞生,无疑再次为网络垃圾化的进行提供了加速度。如果无法解决这个挑战,被“困在系统中”的不仅仅是用户,或者平台,而是所有人。

“极客训练营”

原文和模型


【原文链接】 阅读原文 [ 2516字 | 11分钟 ]
【原文作者】 极客公园
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★★

© 版权声明
“绘蛙”

相关文章

暂无评论

暂无评论...