披萨上涂胶水、建议用户吃石头、毒蘑菇……谷歌又被大模型带沟里

AIGC动态1个月前发布 almosthuman2014

236 0 0

文章摘要

谷歌的AI Overview功能近期因其生成的不准确、甚至有害的回答而在社交媒体上引发争议。这项功能旨在通过人工智能技术在搜索结果顶部提供答案，但一些用户发现，当查询如“披萨上为什么粘不到一块”时，AI会给出如涂胶水等不合理的建议。AI还错误地声称兔子曾在NBA打过球，并提供了错误的个人信息。

谷歌被指其AI回答不仅愚蠢，而且在某些情况下可能对用户构成危害，如建议人们吃石头或错误处理被响尾蛇咬伤的伤口。对此，谷歌紧急手动禁用了某些搜索的AI Overview功能，并着手修复和优化问题。

尽管谷歌坚称AI Overview功能为用户提供了大量高质量信息，并强调展示的案例是不常见的查询，公司也承认已对违反政策的行为采取行动，并利用这些例子继续完善产品。AI专家加里·马库斯指出，AI技术从80%的正确率提升到100%极具挑战性，因为它需要像人类事实核查员那样进行推理和判断。

谷歌的AI Overview功能自2023年5月起作为测试版推出，至今已处理超过10亿次查询。然而，此次事件突显了谷歌在AI领域的竞争压力，以及技术尚未完全准备好的现实。马库斯认为，当前的AI模型天生无法对自己的工作进行理性检查，这是行业的致命弱点。

在AI领域的竞争日益激烈之际，谷歌的声誉取决于其能否解决这些基本问题。同时，机器之心发起了2024年“人工智能+”标杆示范征集活动，旨在挖掘和展示该领域具有市场竞争力和技术实力的机构、产品、案例，推动行业的发展。

原文和模型

【原文链接】 阅读原文 [ 2255字 | 10分钟 ]
【原文作者】 机器之心
【摘要模型】 glm-4
【摘要评分】 ★★★★★

智谱AI

智谱AI是由清华大学计算机系技术成果转化而来的公司，致力于打造新一代认知智能通用模型。公司合作研发了双语千亿级超大规模预训练模型GLM-130B，并构建了高精度通用知识图谱，形成数据与知识双轮驱动的认知引擎，基于此模型打造了ChatGLM（chatglm.cn）。此外，智谱AI还推出了认知大模型平台Bigmodel.ai，包括CodeGeeX和CogView等产品，提供智能API服务，链接物理世界的亿级用户、赋能元宇宙数字人、成为具身机器人的基座，赋予机器像人一样“思考”的能力。