谷歌AI搜索惨败，竟教唆网友自杀！

1,454 0 0

文章摘要

近期，谷歌AI Overview的搜索结果引起了广泛关注，其给出的部分答案荒谬至极，包括建议在披萨上使用胶水以防止芝士滑落，吃有毒蘑菇、杀人、跳桥等极端内容。这些回答不仅错误，甚至可能造成严重后果。事实上，这些回答大多源自于网络上的错误信息或讽刺内容，AI Overview将这些内容当做事实进行输出。

其中，一个引人注目的例子是，当用户询问如何防止披萨上的芝士滑落时，AI Overview建议在酱汁中加入1/8杯无毒胶水，这一回答实则源自于11年前Reddit上一个玩笑性质的帖子。此外，AI Overview还建议用户吃有毒的蘑菇、杀人、跳桥等，这些都是网络上不负责任的信息。

AI Overview的问题在于，它无法区分网络上的真实信息和错误信息，甚至将讽刺内容当作事实。例如，有网站故意以白底白字隐藏虚假信息，AI Overview却将其抽取出来作为答案。此外，AI Overview还犯了常识性错误，如时间计算错误，甚至错误地表示美国前总统Andrew Johnson多次从同一大学毕业。

针对这些问题，谷歌已经开始采取行动，删除错误内容并改进AI系统。然而，这一事件再次引发了对AI搜索准确性和可靠性的担忧。在AI技术不断发展的今天，确保其输出信息的真实性和准确性显得尤为重要。谷歌此次的教训提醒我们，AI系统在处理网络信息时，需要更加谨慎和严谨，以避免误导用户。