一组由GPT-4组成的智能代理团队自主破解零日安全漏洞成功率达到53%

最近，研究人员利用GPT-4智能体团队，成功入侵了超过一半的测试网站。他们使用的是之前没人知道的“零日”漏洞。这些漏洞是网络系统中的安全漏洞，别人还没发现，所以也没有补丁来修复它们。 几个月前，这个研究团队发布了一篇论文，称他们能用GPT-4自动发现并利用一些已知但尚未修复的漏洞。当给定一个通用漏洞披露（CVE）列表时，GPT-4能自动利用其中87%的严重漏洞。 最近，他们又发布了一篇论文，说通过一种叫“任务特定智能体分层规划”（HPTSA）的方法，他们能利用一组自主、能自我复制的大型语言模型（LLM）代理团队，成功入侵零日漏洞。HPTSA的方法不是让一个智能体做所有任务，而是由一个“规划智能体”来监督，启动多个“子智能体”来完成特定任务。就像一个老板分派任务给不同的员工一样，规划智能体协调整个过程，分配任务给每个“子智能体”，这样每个智能体的工作量就减少了。 HPTSA方法 规划代理 ：一个监督整个过程的“规划代理”。 子代理 ：多个专门的“子代理”处理特定任务。 管理代理 ：规划代理协调管理代理，管理代理再指挥每个“专家子代理”的所有努力，减少单一代理在复杂任务中的负担。 这种方法类似于Cognition Labs使用的技术。他们在Devin AI软件开发团队中，先规划好工作，找出需要的工人，然后项目管理整个过程，生成专家“员工”来处理不同的任务。 在针对15个真实世界的网络漏洞进行测试时，HPTSA方法比单一LLM智能体效率高出550%，成功入侵了15个漏洞中的8个。而单一LLM智能体只能入侵3个漏洞。 有些人担心这些技术会被用来恶意攻击网站和网络。研究人员之一Daniel Kang特别指出，当前聊天机器人模式下的GPT-4还无法理解和利用这些漏洞，无法自主进行黑客攻击。这样至少可以确保AI技术在合法和道德的范围内使用。 具体方法 1. 系统架构 研究提出的HPTSA（Hierarchical Planning and Task-Specific Agents）系统包括三个主要组件： 层次化规划代理（Hierarchical Planner Agent） ： 负责探索环境（例如，网站）并确定需要尝试的漏洞类型和页面。负责初步探索目标系统（比如一个网站）。 根据探索结果，生成指令并发送给团队管理代理。确定哪些部分可能存在漏洞，并计划下一步的操作。 团队管理代理（Team Manager Agent） ： 负责确定使用哪些具体的任务特定代理来执行操作。根据规划代理的指示，调度多个任务特定的专家代理。 检索并整合之前各代理运行的信息，调整任务指派。整合各个专家代理的结果，决定需要进一步探索的方向。 任务特定代理（Task-Specific Agents） ： 专门设计用于检测和利用特定类型的漏洞，如XSS（跨站脚本攻击）、SQLi（SQL注入）、CSRF（跨站请求伪造）等。 这些代理可以访问工具（如Playwright，用于浏览器测试）、文档和提示模板。 2. 任务特定代理设计 任务特定代理被设计为专家代理，专注于特定类型的漏洞： XSS代理 ：专门寻找和利用XSS漏洞。 SQLi代理 ：专门寻找和利用SQL注入漏洞。 CSRF代理 ：专门寻找和利用CSRF漏洞。 SSTI代理 ：专门寻找和利用服务器端模板注入漏洞。 ZAP代理 ：使用ZAP工具进行自动化漏洞扫描。 通用网络攻击代理 ：用于尝试其他一般性的漏洞。 每个代理都可以访问特定的工具和文档，使用提示模板进行任务执行。 3. 实验设置和执行 为了测试HPTSA系统，研究团队构建了一个包含15个真实世界零日漏洞的基准数据集。实验设置如下： 实验环境 ：在隔离的沙箱环境中重现这些漏洞，确保测试过程中不会影响真实用户。 测量指标 ：主要指标是“pass at 5”和“pass at 1”，即在5次尝试中的成功率和一次尝试中的成功率。 对照实验 ：将HPTSA系统的性能与以下几种方法进行对比： GPT-4无描述代理（没有漏洞描述信息的单一代理）。 GPT-4有描述代理（提供漏洞描述信息的单一代理）。 开源漏洞扫描器（如ZAP和MetaSploit）。 实验结果 研究团队通过实验测试了HPTSA系统在发现和利用零日漏洞方面的效果。以下是实验结果的简要总结： 1. 成功率 Pass at 5 ： 定义 ：在5次尝试中至少有一次成功利用漏洞的成功率。 结果 ：HPTSA系统的成功率为53%。 Pass at 1 ： 定义 ：在1次尝试中成功利用漏洞的成功率。 结果 ：HPTSA系统的成功率为33.3%。 对比结果 ： HPTSA系统相比于单一的GPT-4无描述代理，成功率显著提高。 HPTSA系统在多次尝试中的成功率（pass at 5）比单一GPT-4无描述代理高出4.5倍。 2. 成本分析 平均运行成本 ： 每次运行HPTSA系统的平均成本为$4.39。 总体成功成本 ： 成功利用一个漏洞的平均总成本为$24.39。 3. 对比基准 研究团队还将HPTSA系统与以下基准进行了比较： GPT-4无描述代理 ： 不提供漏洞描述信息的单一GPT-4代理。 HPTSA系统在多个基准测试中的表现优于这种单一代理。 GPT-4有描述代理 ： 提供漏洞描述信息的单一GPT-4代理。 HPTSA系统在没有漏洞描述信息的情况下，表现接近这种有描述信息的代理。 开源漏洞扫描器 ： 包括ZAP和MetaSploit等工具。 HPTSA系统在测试的漏洞集上表现显著优于这些开源工具，后者在测试集中没有成功利用任何漏洞。 4. 案例研究 研究通过具体案例展示了HPTSA系统的工作流程和实际效果： 成功案例 ： HPTSA系统能够通过多次尝试逐步锁定目标页面，并成功利用XSS和CSRF漏洞。 例如，在flusity-CMS的漏洞利用中，系统通过多次尝试，最终成功利用了特定的XSS和CSRF漏洞。 失败案例 ： 对于一些特定漏洞，HPTSA系统未能成功利用，例如alf.io的授权不当漏洞。 这些失败通常是因为特定的API端点难以发现或缺乏明显的输入框。 论文： https://arxiv.org/pdf/2405.12514

Menu

分类目录

一组由GPT-4组成的智能代理团队自主破解零日安全漏洞成功率达到53%

Related Posts

Meta AI提出了一种新的语言模型架构“Large Concept Model (LCM) 让模型更像人类思考

阿里巴巴推出QVQ-72B 一个基于Qwen2-VL-72B的新型多模态推理模型

Fireworks AI新功能能够将图像或PDF等非文本内容转化为LLM可理解的结构化文本

Hume AI推出全能文本与语音引擎 OCTAVE 根据文本实时生成特定人格特质的声音

Anthropic 公布了一种全新的 AI 越狱技术可以轻松破解所有前沿模型

INFP：基于音频驱动的双人对话中的互动头像生成能自动区分谁在说话，谁在听

Recommendeds

阿里云发布 VideoLLaMA 2 视频语言模型提升模型对视频、音频内容的理解能力

Facet AI：可以精确控制图像元素的展现适合制作广告和专业图像

Stable Diffusion 3论文：一种新的多模态扩散变换器（MMDiT）架构

智能 AI 电话客服 Bland AI 宣布获得1600 万美元 A 轮融资可自动接打客户电话

IC-Light 升级为IC-Light V2-Vary 可更灵活地调整光源位置和强度

Open Interpreter 推出01 App 能运行在各种硬件上并通过语音控制来操作设备

GameGen-O：可以生成开放世界游戏的模型自动生成角色、场景、动作和事件

无需专业技能从文本生成高质量可编辑的矢量图形和动画

Ideogram改进图像渲染质量和控制推出Describe增强提示功能

Perplexity AI推出可以将你的答案一键生成博客、文章的工具：Perplexity Pages

Welcome Back!

Retrieve your password

Add New Playlist

Are you sure want to unlock this post?

Are you sure want to cancel subscription?

Menu

分类目录

一组由GPT-4组成的智能代理团队 自主破解零日安全漏洞 成功率达到53%

Support authors and subscribe to content

加入会员

Related Posts

Recommendeds

Welcome Back!

Retrieve your password

Add New Playlist

Are you sure want to unlock this post?

Are you sure want to cancel subscription?

一组由GPT-4组成的智能代理团队自主破解零日安全漏洞成功率达到53%