MIT新研究揭秘「AI洗脑术」！AI聊天诱导人类「编造」记忆，真假难辨

799 0 0

文章摘要

MIT的研究发现，人工智能（AI）能够操纵人类记忆，导致参与者形成虚假记忆。在一项实验中，200名参与者观看了一段犯罪视频，随后与基于大型语言模型（LLM）的聊天机器人互动，回答相关问题。实验结果显示，36.4%的参与者被聊天机器人误导，形成了错误的记忆，如错误地回忆现场有枪。这种错误记忆在一周后仍然存在，且参与者对这些错误记忆的自信程度高于对照组。

实验设计模拟了证人场景，将参与者随机分配到四个不同的条件组：对照组、基于调查的条件组、预先编写脚本的聊天机器人条件组和生成聊天机器人条件组。实验发现，与生成聊天机器人的交互显著增加了错误记忆的形成，且这些错误记忆的持久性较高。

研究还探讨了AI如何通过引导性问题扭曲目击者的记忆，从而影响证词的可靠性。AI的交互属性、即时反馈和回复强化、社会因素如AI的可信度，以及个性化交互能力，都可能影响记忆的形成。此外，AI的阿谀奉承可能导致“回音室效应”，强化用户的偏见和误解。

研究结果对法律诉讼、临床环境和教育环境等对记忆准确性至关重要的领域提出了警示，提示在这些环境中使用AI时需要格外谨慎。同时，AI系统塑造人类记忆的能力也为有益的应用提供了潜在途径，例如通过聊天机器人诱发积极的错误记忆，或帮助减少消极记忆，对患有创伤后应激障碍（PTSD）的人可能有积极意义。

实验所用的数据、代码和相关材料已经公布在GitHub仓库中，供进一步研究和分析。研究由Samantha Chan领导，其论文可在arXiv上查阅。