文章摘要
【关 键 词】 AI安全、数据库漏洞、SQLite、漏洞研究、技术前沿
谷歌的Big Sleep项目最近取得了一项突破性成果，其AI Agent在SQLite数据库中发现了一个真实世界的安全漏洞。这是AI首次在广泛使用的现实软件中识别出未知的、可利用的内存安全问题。SQLite是一款广泛使用的开源数据库引擎，其漏洞可能被攻击者用于数据泄露、系统入侵或破坏，潜在损失可能高达数十亿美元。AI在官方发布版本之前发现了这一漏洞，避免了对用户的影响。
Big Sleep项目由谷歌Project Zero和Google DeepMind合作，旨在探索大型语言模型（LLM）在识别和演示安全漏洞方面的潜力。项目采用了一个利用LLM辅助的漏洞研究框架，通过在Meta的CyberSecEval2基准测试上提升了性能，展示了这种方法的有效性。AI Agent发现的漏洞是一个栈缓冲区下溢漏洞，存在于SQLite中的seriesBestIndex函数。该函数在处理包含rowid列约束的查询时，导致写入了带有负索引的堆栈缓冲区，从而可能产生潜在的可利用漏洞条件。
Naptime和Big Sleep项目的关键驱动因素是，已经发现并修补的漏洞变种仍在现实中不断被发现。项目通过提供一个具体的起点，比如此前修复的漏洞的详细信息，降低了漏洞研究中的不确定性。AI Agent通过与目标代码库的交互，模仿人类安全研究员的工作流程，使用一系列专用的工具进行代码浏览、运行Python脚本、程序交互和报告进度。
这项工作具有巨大的潜力，因为它可以在软件发布前发现漏洞，意味着攻击者没有机会利用这些漏洞。谷歌研究者表示，这是一条有希望的道路，能为防御者带来不对称的优势。尽管模糊测试也能带来帮助，但AI有望帮助防御者找到那些难以通过模糊测试发现的漏洞。Big Sleep团队将继续推进这项工作，为防御者带来显著优势，并分享研究成果，缩小公共技术前沿和私有技术前沿之间的差距。
原文和模型
【原文链接】 阅读原文 [ 4411字 | 18分钟 ]
【原文作者】 新智元
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★☆
