OpenAI智能体曝本月诞生！比谷歌Anthropic慢，竟是担心prompt攻击

95 0 0

文章摘要

OpenAI在智能体领域的发展备受期待，尽管在AI领域一直处于领先地位，但在智能体的推出上却显得较为谨慎。据报道，OpenAI可能在本月发布其计算机操作智能体，这一消息引起了广泛关注。去年，Anthropic和谷歌分别发布了基于Claude 3.5 Sonnet的计算机操作智能体和Vertex AI Agent Builder工具，以及正在秘密开发的「Project Jarvis」智能体，这些智能体能够通过截屏、解析屏幕内容来自动点击按钮或输入文本，帮助用户完成基于网页的日常任务。

OpenAI在研发此类软件方面也有所布局，去年2月就透露正在开发AI智能体，并计划在1月发布代号为「Operator」的AI智能体工具。然而，OpenAI的智能体发布似乎有所延迟，主要原因是对AI安全问题的担忧，特别是提示注入攻击。这种攻击方式可能导致智能体在执行任务时被恶意网站诱导，忘记之前的指令，从而窃取用户的敏感信息。

提示注入攻击对于计算机操作智能体构成了更大的威胁，因为这些智能体需要接管用户设备并自动完成任务，如在线购物或编辑电子表格等。Anthropic虽然承认了提示注入的风险，但并未提供太多解决方案，只是建议开发者采取预防措施，如使用专用虚拟环境隔离敏感数据。OpenAI在发布AI智能体软件时，能否提供更多的安全保障以及在功能上超越Anthropic和Google的方案，成为了业界关注的焦点。