清华、面壁提出创新AI Agent交互：能主动思考、预测需求

477 0 0

文章摘要

清华大学联合面壁智能团队提出了新一代主动Agent交互范式（ProActive Agent），这一范式下的Agent具备主观能动性，能够主动观察环境、预判用户需求，并在未被明确指示的情况下主动帮助用户解决问题。这种主动Agent实现了从“被命令”到“会思考”的质的飞跃。

主动Agent在日常生活中有丰富的应用潜力，如根据用户习惯和偏好主动提供行程安排、工作助手、生活管家、健康管理等服务。研究团队通过采集不同场景下的人类活动数据构建了一个环境模拟器，进而构建了数据集ProactiveBench，通过训练模型获得了与人类高度一致的奖励模型，并比对了不同模型在数据集下的性能。

主动Agent技术原理包括三个组件：环境模拟器、主动智能体和用户智能体。环境模拟器模拟特定环境并为智能体交互提供沙盒条件；主动智能体通过环境模拟器提供的信息预测用户意图，生成预测任务；用户智能体模拟用户行为并对主动智能体的任务做出反馈。

研究提出了一套度量方式衡量奖励模型和人工标注员的一致性，包括需求遗落(MN)、静默应答(NR)、正确检测(CD)和错误检测(FD)。结果表明，所有现有模型在正确检测上表现良好，但其他指标性能较差。研究训练的模型性能最优，被选为ProactiveBench的奖励模型。

通过奖励模型，可以进一步衡量主动智能体的性能表现。闭源模型倾向于主动提出任务而不能在用户无需帮助时保持静默，而开源模型经过数据集训练后明显更优，证实了研究数据合成流水线的有效性。

该研究还进行了消融学习以研究提出任务数量和用户反馈对智能体性能的影响。结果表明，让模型提出多个可能的任务并一一进行判断，以及给予模型来自奖励模型的反馈，都可以提升模型性能，降低误报率，提高准确度。

总之，该研究提出的主动Agent范式有望将AI从被动工具转变为具有洞察力和主动帮助的智能协作，开启人机交互新范式。这一技术革新将改变我们与AI的交互方式，为大众创造更加包容和便利的智能化生活环境。随着技术进步，我们可以期待更自然的人机协作模式、更智能的场景适应能力和更深度的个性化服务。