ChatGPT的记忆机制被公开了

AIGC动态1天前发布 QbitAI
56 0 0
ChatGPT的记忆机制被公开了

 

文章摘要


【关 键 词】 记忆功能逆向工程聊天记录用户洞察技术实现

ChatGPT的新版记忆功能近期引发了广泛关注,尤其是其逆向工程被民间技术大佬破解后,揭示了更多技术细节。该功能主要分为参考保存记忆参考聊天记录两大模块,其中后者更为复杂,包含三个子系统:当前对话历史记录对话历史记录用户洞察。这些系统共同作用,旨在提升ChatGPT的个性化交互能力。

保存记忆系统是用户可控的基础功能,允许用户通过特定提示(如“Remember that I…”)保存个人信息,例如姓名、饮食偏好等。这些信息会被注入系统提示中,用户可以通过界面查看或删除。技术实现上,ChatGPT通过bio工具保存记忆,并采用LLM调用处理用户消息和现有事实列表,最终生成新事实列表或拒绝请求。此外,开发者还可以构建简单的UI来管理这些信息。

聊天记录系统则更为复杂,分为三个子系统。当前对话历史记录仅包含最近一天的信息,通过过滤ChatMessage按时间排序实现。对话历史记录则引用先前对话的上下文,提供简短的背景信息,但无法维护消息顺序或明确时间范围。其技术实现依赖于两个向量空间(message-contentconversation-summary),通过相似性过滤查询生成系统提示。用户洞察是更高级的功能,通过对多个对话的分析生成用户画像,例如用户在特定领域的知识水平。其实现基于RAG实施方案,通过向量空间和批处理完成更新。

尽管记忆功能在理论上能够提升用户体验,但实际反馈却呈现两极分化。支持者认为,该系统能够有效节省内存,消除查询歧义,并最大程度地理解用户需求。尤其是用户洞察系统,据推测贡献了约80%的性能提升。然而,许多用户反馈功能存在严重问题,例如无法保存超过64个单词的信息,以及幻觉问题依旧存在。此外,该功能目前仅对部分用户开放,无法通过API供开发者使用,进一步限制了其应用范围。

总体而言,ChatGPT的记忆功能在技术上展现了显著的创新,但其实际效果仍需进一步优化和完善。用户期待OpenAI能够解决现有问题,并扩大功能的适用范围,以真正实现个性化交互的承诺。

原文和模型


【原文链接】 阅读原文 [ 1799字 | 8分钟 ]
【原文作者】 量子位
【摘要模型】 deepseek-v3
【摘要评分】 ★★★★☆

© 版权声明
“绘蛙”

相关文章

“极客训练营”

暂无评论

暂无评论...