概述:2026-11-13 小M 提供的 16 个 AI 安全框架清单,逐条经 GitHub 实核(⭐数/活跃度/存续状态以当日 gh api 实测为准)后整理。按「攻方渗透 / 守方代码审计 / AI 自身安全红队 / 工具调度层」四类归位,并给出落到日常安全运营与开发工作的建议。相关:大模型安全、MITRE ATT&CK 威胁框架
0. 可信度说明(先读)
- ✅ 已核实:每条仓库地址当日实测可达、⭐数/描述/最近推送时间来自 GitHub API(gh api,2026-11-13)。清单给的 star 数与实测有出入处,以实测为准。
- ⚠️ 待核实:各项目「核心能力」细节(内置工具数、Agent 分工等)来自原清单文字,未逐条读源码/README 验证,采用前先看仓库原文。
- ❌ 原清单问题:
mhtsec/ARTEX已 404(疑似删库),同描述镜像 fork(⭐≤22)存在,原版不可再依赖。
1. 分类地图
| 类别 | 项目 | 一句话定位 |
|---|---|---|
| A. AI 自主渗透/红队 | strix、shannon、pentagi、PentestGPT、CyberStrikeAI、ARTEX†、T3MP3ST、pentestagent、cai† | LLM 驱动端到端攻防:从意图到受控执行 |
| B. AI 代码审计(守方) | semgrep、vulnhuntr | 静态扫描 + LLM 零样本挖洞 |
| C. AI 自身安全(模型红队) | garak、PyRIT、promptfoo、agentic_security | 越狱/提示注入/隐私泄露扫描,AI 系统的”渗透测试” |
| D. 工具调度/执行层 | hexstrike-ai | MCP 服务器,让任意 AI Agent 调用 150+ 安全工具 |
† = 有存续风险(ARTEX 原库已 404;cai 已 archived,2026-08-22 后不再维护)。
2. 逐项目卡片
A. AI 自主渗透 / 红队平台
01. strix ✅ 已核实
- 仓库:https://github.com/usestrix/strix
- ⭐ 75,196(清单写 68k)|最近推送 2026-11-12|活跃
- 定位:开源 AI 渗透测试工具,发现并修复应用漏洞(API 原文:“find and fix your app’s vulnerabilities”)。
- 清单补充(⚠️ 待核实):攻防两端都覆盖,输出修复建议而非仅告警。
02. shannon ✅ 已核实
- 仓库:https://github.com/KeygraphHQ/shannon
- ⭐ 51,796(清单写 48.8k)|最近推送 2026-11-12|活跃
- 定位:面向 Web 应用与 API 的 AI 渗透测试器;分析源码 → 识别攻击向量 → 实际执行利用验证漏洞真实性(进入生产前)。
- 价值:区别于静态扫描器”输出告警”,它验证可利用性,误报治理思路可借鉴。
03. pentagi ✅ 已核实
- 仓库:https://github.com/vxcontrol/pentagi
- ⭐ 34,043(清单写 25.5k)|最近推送 2026-10-22
- 定位:全自主 AI Agent 渗透系统。
- 清单补充(⚠️ 待核实):四类分工 Agent(情报搜集/脚本编写/环境管理/漏洞利用)、Docker 沙箱隔离、内置 Nmap/MSF/sqlmap 等 20+ 工具、知识图谱记录攻击链。
04. PentestGPT ✅ 已核实
- 仓库:https://github.com/GreyDGL/PentestGPT
- ⭐ 16,408|最近推送 2026-07-14(半年未更,注意时效)
- 定位:LLM 驱动的自动化渗透测试智能体框架(该领域早期代表项目)。
05. CyberStrikeAI ✅ 已核实
- 仓库:https://github.com/AIPentest/CyberStrikeAI
- ⭐ 8,588(清单写 7.6k)|最近推送 2026-11-13|活跃
- 定位(API 原文):AI 原生网络安全的”行动体系”——意图转化为受控执行,证据转化为操作记忆,每次操作优化下一次操作。
- 关键词:受控执行(governed execution)+ 证据记忆,与纯自由 Agent 的差异点在治理。
06. T3MP3ST ✅ 已核实
- 仓库:https://github.com/elder-plinius/T3MP3ST
- ⭐ 7,030(清单写 6.5k)|最近推送 2026-09-08
- 定位:自主红队演练平台;多智能体攻防元框架(meta-harness)。作者 elder-plinius 是 LLM 越狱领域知名研究者,偏对抗性prompt/红队场景。
07. pentestagent ✅ 已核实
- 仓库:https://github.com/GH05TCREW/pentestagent
- ⭐ 3,289|最近推送 2026-11-09
- 定位:黑盒安全测试 AI Agent 框架,支持漏洞赏金、红队演练、渗透测试工作流。
08. ARTEX ❌ 原仓库已失效
- 清单地址 https://github.com/mhtsec/ARTEX → 404(2026-11-13 实测)
- 同描述镜像存在(如 bookSiYi1412/ARTEX ⭐22、ztx888/ARTEX ⭐8),描述为”AI 自主渗透测试系统|百度 agent+ 攻防挑战赛冠军项目”。
- 结论:原版不可引用;确需了解按镜像仓库名检索,且注意 fork≠官方维护。
09. cai(Cybersecurity AI)⚠️ 已 archived
- 仓库:https://github.com/aliasrobotics/cai
- ⭐ 9,857|archived: true(最后推送 2026-08-22,此后只读)
- 定位:网络安全 AI 框架(攻防兼顾)。可参考其架构设计,但不建议新项目基于它起步(无维护)。
B. AI 代码审计(守方,直接服务开发流程)
10. semgrep ✅ 已核实
- 仓库:https://github.com/semgrep/semgrep
- ⭐ 17,626|最近推送 2026-11-13|极活跃
- 定位:轻量静态分析(SAST),模式即代码的规则体系,多语言支持,可集成 GitLab/GitHub。
- 清单补充(⚠️ 待核实):AI 增强方向——LLM 自动生成规则与修复建议。
- 与本机关联:code-reviewer 智能体(检检)工具清单里 semgrep 一直是”待装”状态,这就是那条工具。
11. vulnhuntr ⚠️ 停更 21 个月
- 仓库:https://github.com/protectai/vulnhuntr
- ⭐ 2,820|最后推送 2025-02-06
- 定位:基于 LLM 的零样本漏洞挖掘——无需自定义规则,专挖业务逻辑漏洞/隐藏后门;清单称已挖出多个开源组件 0day(⚠️ 待核实)。
- 思路价值大于直接使用价值:零样本审计 Prompt 工程可移植到自有代码审计流程。
C. AI 自身安全(模型/Agent 红队)
12. garak ✅ 已核实(NVIDIA 出品)
- 仓库:https://github.com/NVIDIA/garak
- ⭐ 10,009|最近推送 2026-11-06|活跃
- 定位:LLM 漏洞扫描器——深度越狱、多轮诱导、隐私泄露、模型投毒检测;支持本地开源模型离线扫描。
- “离线扫描”属性对公司数据红线友好(模型不出内网)。
13. PyRIT ✅ 已核实(Microsoft 出品)
- 仓库:https://github.com/microsoft/PyRIT
- ⭐ 4,801(清单写 4.6k)|最近推送 2026-11-13|活跃
- 定位:微软开源生成式 AI 红队工具包;自动化扫描 + 自适应多轮攻击(API 描述:“automated scans, adaptive multi-turn”)。
14. promptfoo ✅ 已核实
- 仓库:https://github.com/promptfoo/promptfoo
- ⭐ 27,114|最近推送 2026-11-13|极活跃
- 定位:测试 prompt/Agent/RAG 的评估+红队框架;声明式配置、CLI 与 CI/CD 集成;可横向对比 GPT/Claude/Gemini/DeepSeek 等模型表现。清单称 OpenAI/Anthropic 在用(⚠️ 待核实)。
15. agentic_security ✅ 已核实
- 仓库:https://github.com/msoedov/agentic_security
- ⭐ 2,044|最近推送 2026-11-12
- 定位:智能体化 LLM 漏洞扫描器 / AI 红队工具包。体量小,属轻量备选。
D. 工具调度层(MCP)
16. hexstrike-ai ✅ 已核实
- 仓库:https://github.com/0x4m4/hexstrike-ai
- ⭐ 13,551(清单写 12.6k)|最近推送 2026-08-03
- 定位:MCP 服务器,让 AI Agent(Claude/GPT/Copilot 等)自主运行 150+ 网络安全工具(⚠️ 数量待核实),打通 LLM 与真实攻防能力;支持自动化渗透、漏洞发现、赏金自动化。
- 关键认知:它不自己做决策,是执行总线——可与我们已有的 Agent 体系(如检检)组合。
3. 落地:日常安全运营
原则:先靶场后实战;内部数据不出外部平台(公司红线);每步先只读观察。
| 场景 | 建议工具 | 落地动作 |
|---|---|---|
| 靶场有效性验证 | strix / shannon | 对 NetRaspLab 靶场跑一轮,检验 RASP 检出面是否覆盖 AI 渗透器的攻击路径(SafeCreateFileWildRepro / SQL 注入靶点都是现成目标) |
| 攻击面补充评估 | pentagi / CyberStrikeAI | 灰度前对演示环境做自主渗透演练,产出攻击链报告对照引擎 SinkStack |
| 渗透报告结构参考 | pentagi(知识图谱记攻击链) | 借鉴其”意图→动作→证据”链式记录,优化我们的 CVE 上报/hook 提案写作结构 |
| 漏洞赏金/黑盒流程 | pentestagent | 个人学习侧;公司工作不直接引入外部 SaaS 流程 |
暂缓:ARTEX(原库已删)、cai(已归档)、PentestGPT/vulnhuntr(长期未更)——只读源码学思路,不做依赖。
4. 落地:开发工作
| 场景 | 建议工具 | 落地动作 |
|---|---|---|
| 代码审计 | semgrep | ①给检检(code-reviewer)装上(原计划”待装”);②先对 DNRSP 引擎改动的自有模块跑只读扫描,规则从默认集起步 |
| 零样本审计思路 | vulnhuntr | 把其业务逻辑漏洞审计 Prompt 模式移植进检检的审核规范(学思路,不引依赖) |
| AI 功能测试 | promptfoo | 若引擎/平台引入 LLM 能力(如告警解读、规则生成),上线前用 promptfoo 建评估集进 CI |
| 模型安全自检 | garak(离线)/ PyRIT | 对我们自用/自部署的模型端点做越狱与泄露扫描;garak 支持离线本地扫描,符合红线 |
| Agent 执行层 | hexstrike-ai | 若后续给检检扩”动手”能力,用 MCP 方式接(受控、可审计),不散装调工具 |
5. 核实记录
- 核实日期:2026-11-13,方式:
gh api repos/<owner>/<repo>逐条拉取(star/描述/推送时间/archived 字段),另用curl -L校验页面可达性。 - 与原清单的数字差异均为清单滞后,以上述实测为准。
- 本笔记的”核心能力”描述凡标 ⚠️ 者出自原清单,未逐条读 README/源码,采用前需回仓库原文确认。