重塑信息安全，科技创新助力维护数字世界安全

AI首次发现真实世界中的重大安全漏洞：SQLite中的漏洞被AIagent发现

近日，谷歌研究团队宣布了一个令人振奋的消息：其AIAgent在广泛使用的现实软件中发现了一个未知的可利用内存安全漏洞，这个漏洞存在于全球广泛使用的SQLite数据库中。
这不仅是AI首次在真实世界的软件中找到未知的、可利用的内存漏洞，而且意味着AI技术在网络安全领域的应用取得了重大进展。

一、背景

SQLite是一款被广泛使用的开源数据库引擎，应用于智能手机、浏览器、嵌入式系统、IoT设备等多种环境，涵盖了许多用户和敏感信息。此前，微软曾因全球蓝屏事故而遭受巨大损失，如果未来某一天，AI能帮我们解决所有技术领域的单点瞬时故障，将会为人类节省下多少财富？

二、AIAgent的发现

谷歌研究者的Bigsleep项目中的AIAgent，在SQLite的广泛使用的现实代码中，发现了一个漏洞。
这个漏洞是一个可利用的栈缓冲区下溢漏洞，存在于一个通常为索引类型的字段中，由于一个特殊的哨兵值-1的使用，导致了一系列的问题。

三、方法架构与工具链

为了降低攻击者手动寻找类似漏洞的难度，谷歌研究者开发了一种名为Naptime的项目架构来增强大型语言模型进行漏洞研究的能力。
这个架构的核心是AIAgent与目标代码库之间的交互。
为了模仿人类安全研究员的工作流程，研究团队开发了一系列专用的工具。
在这个过程中，AIAgent通过一系列的工具和模型，对代码进行深入分析并发现漏洞。
在这个过程中，它不仅能够理解代码的逻辑结构，还能通过生成测试用例来验证其假设的正确性。
AIAgent还能够根据已知的漏洞信息来寻找类似的潜在问题，这对于防御者来说是一个巨大的优势。

四、模糊测试与LLM的优势

传统的模糊测试并没有发现这个漏洞的原因在于其工具配置的限制和对于文本格式的模糊输入的限制。
虽然模糊测试在某些情况下可能有效发现漏洞但存在一定的局限性而对于复杂的基于文本的格式如SQL则可能无法有效发现漏洞。
与此相比LLM的优势在于其能够理解代码的逻辑结构并能够模仿人类安全研究员的工作流程进行漏洞研究。
此外LLM还能够通过生成高质量的测试用例和根本原因分析使得问题的分类和修复变得更加便宜和有效。
这意味着LLM具有潜力帮助防御者在软件发布前发现更多的漏洞从而减少潜在损失。
这对于像SQLite这样的广泛使用且复杂的开源项目来说是一个巨大的福音。
尽管模糊测试在某些情况下仍然具有价值但与LLM相比其效果可能并不显著。
因此谷歌研究者将继续分享其研究成果并推进零日计划的使命让零日攻击变得更加困难。
同时他们也将继续探索新的方法和技术以提高LLM的性能和准确性使其在网络安全领域发挥更大的作用。
在这个过程中他们希望能够缩小公共技术前沿和私有技术前沿之间的差距让更多人受益。
未来的趋势预计会倾向于更多自动化、智能化的安全防御系统出现以解决当前面临的安全威胁保护网络安全维护正常的生活和工作秩序正常运行或促使网络和程序朝更为健壮安全的方向发展这项重要突破不仅在计算机科学界引起广泛的关注和讨论也在更广泛的领域引发了对于人工智能未来的无限遐想和发展前景的乐观预期让我们拭目以待人工智能将如何改变我们的生活和工作方式带来怎样的挑战和机遇让我们共同期待一个更加美好的未来！本次发现的SQLite漏洞及其后续研究为我们提供了一个窥探人工智能未来的窗口让我们看到了人工智能在网络安全领域的巨大潜力和可能性期待未来有更多的突破和创新出现为我们的网络安全保驾护航！此外我们也应该意识到网络安全的重要性并积极参与到网络安全的学习和研究中共同为构建一个更加安全、可靠的网络环境而努力！最后感谢谷歌研究团队的辛勤工作和贡献让我们期待更多关于人工智能在网络安全领域的研究和应用！

---

---

相关标签： 程序测试、 谷歌、 漏洞、

上一篇：微软最新公告揭示

下一篇：微软推出重要更新