文章摘要
【关 键 词】 黑神话：悟空、微软必应、AI搜索引擎、信息泄露、技术风险
国产3A游戏《黑神话：悟空》自上线以来，迅速在全球范围内引起广泛关注，单日销量突破450万份，总销售额超过15亿元人民币。然而，游戏的火爆也带来了一些负面影响。例如，一位知名游戏主播在直播时因晕3D症状而成为“全球首个受害者”，此外，微软必应搜索错误地将某机锋网员工的个人手机号显示为官方客服电话，导致其个人信息泄露。
微软必应作为全球第二大搜索引擎，覆盖36个国家和地区，用户超过6亿。2023年2月，微软宣布将ChatGPT集成进新版必应，采用OpenAI的AI模型GPT-4。然而，此次事件暴露出AI搜索引擎在信息抓取和处理上存在不足。微软上个月宣布对必应进行重大更新，将AI生成的答案优先显示，以更有效地满足用户查询意图。但这种变革也引发了业内人士的担忧，担心AI生成的内容会蚕食内容发布方的流量。
事实上，微软并非唯一一家将AI结果添加到搜索页面的公司。谷歌、Arc Search等浏览器也曾推出类似工具，但都出现了一些问题，如生成错误信息、提供不恰当建议等。专家警告，AI“幻觉”问题可能永远无法解决。华盛顿大学计算语言学实验室教授Emily Bender表示，大语言模型的基本原理就是“编造”内容，这种情况反而是偶然，它们并不清楚自己在说什么。
尽管AI搜索引擎在某些场景下具有优势，但企业和技术行业必须意识到，不能因为某种事物强大就认定它是一种好用的工具。大语言模型只是出色的模仿者，过度信任它们可能会让用户陷入困境。虽然“幻觉”问题在未来可能逐渐减少，但问题本身可能永远无法被真正修复。
原文和模型
【原文链接】 阅读原文 [ 2455字 | 10分钟 ]
【原文作者】 AI前线
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★☆
