披萨上涂胶水、建议用户吃石头、毒蘑菇……谷歌又被大模型带沟里

AIGC动态7个月前发布 almosthuman2014

815 0 0

文章摘要

谷歌的AI Overview功能近期因其生成的不准确、甚至有害的回答而在社交媒体上引发争议。这项功能旨在通过人工智能技术在搜索结果顶部提供答案，但一些用户发现，当查询如“披萨上为什么粘不到一块”时，AI会给出如涂胶水等不合理的建议。AI还错误地声称兔子曾在NBA打过球，并提供了错误的个人信息。

谷歌被指其AI回答不仅愚蠢，而且在某些情况下可能对用户构成危害，如建议人们吃石头或错误处理被响尾蛇咬伤的伤口。对此，谷歌紧急手动禁用了某些搜索的AI Overview功能，并着手修复和优化问题。

尽管谷歌坚称AI Overview功能为用户提供了大量高质量信息，并强调展示的案例是不常见的查询，公司也承认已对违反政策的行为采取行动，并利用这些例子继续完善产品。AI专家加里·马库斯指出，AI技术从80%的正确率提升到100%极具挑战性，因为它需要像人类事实核查员那样进行推理和判断。

谷歌的AI Overview功能自2023年5月起作为测试版推出，至今已处理超过10亿次查询。然而，此次事件突显了谷歌在AI领域的竞争压力，以及技术尚未完全准备好的现实。马库斯认为，当前的AI模型天生无法对自己的工作进行理性检查，这是行业的致命弱点。

在AI领域的竞争日益激烈之际，谷歌的声誉取决于其能否解决这些基本问题。同时，机器之心发起了2024年“人工智能+”标杆示范征集活动，旨在挖掘和展示该领域具有市场竞争力和技术实力的机构、产品、案例，推动行业的发展。