概述:2026-11-13 小M 提供的 16 个 AI 安全框架清单,逐条经 GitHub 实核(⭐数/活跃度/存续状态以当日 gh api 实测为准)后整理。按「攻方渗透 / 守方代码审计 / AI 自身安全红队 / 工具调度层」四类归位,并给出落到日常安全运营与开发工作的建议。相关:大模型安全、MITRE ATT&CK 威胁框架

0. 可信度说明(先读)

  • ✅ 已核实:每条仓库地址当日实测可达、⭐数/描述/最近推送时间来自 GitHub API(gh api,2026-11-13)。清单给的 star 数与实测有出入处,以实测为准。
  • ⚠️ 待核实:各项目「核心能力」细节(内置工具数、Agent 分工等)来自原清单文字,未逐条读源码/README 验证,采用前先看仓库原文。
  • ❌ 原清单问题:mhtsec/ARTEX 已 404(疑似删库),同描述镜像 fork(⭐≤22)存在,原版不可再依赖。

1. 分类地图

类别项目一句话定位
A. AI 自主渗透/红队strix、shannon、pentagi、PentestGPT、CyberStrikeAI、ARTEX†、T3MP3ST、pentestagent、cai†LLM 驱动端到端攻防:从意图到受控执行
B. AI 代码审计(守方)semgrep、vulnhuntr静态扫描 + LLM 零样本挖洞
C. AI 自身安全(模型红队)garak、PyRIT、promptfoo、agentic_security越狱/提示注入/隐私泄露扫描,AI 系统的”渗透测试”
D. 工具调度/执行层hexstrike-aiMCP 服务器,让任意 AI Agent 调用 150+ 安全工具

† = 有存续风险(ARTEX 原库已 404;cai 已 archived,2026-08-22 后不再维护)。

2. 逐项目卡片

A. AI 自主渗透 / 红队平台

01. strix ✅ 已核实

  • 仓库:https://github.com/usestrix/strix
  • ⭐ 75,196(清单写 68k)|最近推送 2026-11-12|活跃
  • 定位:开源 AI 渗透测试工具,发现并修复应用漏洞(API 原文:“find and fix your app’s vulnerabilities”)。
  • 清单补充(⚠️ 待核实):攻防两端都覆盖,输出修复建议而非仅告警。

02. shannon ✅ 已核实

  • 仓库:https://github.com/KeygraphHQ/shannon
  • ⭐ 51,796(清单写 48.8k)|最近推送 2026-11-12|活跃
  • 定位:面向 Web 应用与 API 的 AI 渗透测试器;分析源码 → 识别攻击向量 → 实际执行利用验证漏洞真实性(进入生产前)。
  • 价值:区别于静态扫描器”输出告警”,它验证可利用性,误报治理思路可借鉴。

03. pentagi ✅ 已核实

  • 仓库:https://github.com/vxcontrol/pentagi
  • ⭐ 34,043(清单写 25.5k)|最近推送 2026-10-22
  • 定位:全自主 AI Agent 渗透系统。
  • 清单补充(⚠️ 待核实):四类分工 Agent(情报搜集/脚本编写/环境管理/漏洞利用)、Docker 沙箱隔离、内置 Nmap/MSF/sqlmap 等 20+ 工具、知识图谱记录攻击链。

04. PentestGPT ✅ 已核实

  • 仓库:https://github.com/GreyDGL/PentestGPT
  • ⭐ 16,408|最近推送 2026-07-14(半年未更,注意时效)
  • 定位:LLM 驱动的自动化渗透测试智能体框架(该领域早期代表项目)。

05. CyberStrikeAI ✅ 已核实

  • 仓库:https://github.com/AIPentest/CyberStrikeAI
  • ⭐ 8,588(清单写 7.6k)|最近推送 2026-11-13|活跃
  • 定位(API 原文):AI 原生网络安全的”行动体系”——意图转化为受控执行,证据转化为操作记忆,每次操作优化下一次操作。
  • 关键词:受控执行(governed execution)+ 证据记忆,与纯自由 Agent 的差异点在治理。

06. T3MP3ST ✅ 已核实

  • 仓库:https://github.com/elder-plinius/T3MP3ST
  • ⭐ 7,030(清单写 6.5k)|最近推送 2026-09-08
  • 定位:自主红队演练平台;多智能体攻防元框架(meta-harness)。作者 elder-plinius 是 LLM 越狱领域知名研究者,偏对抗性prompt/红队场景。

07. pentestagent ✅ 已核实

08. ARTEX ❌ 原仓库已失效

  • 清单地址 https://github.com/mhtsec/ARTEX → 404(2026-11-13 实测)
  • 同描述镜像存在(如 bookSiYi1412/ARTEX ⭐22、ztx888/ARTEX ⭐8),描述为”AI 自主渗透测试系统|百度 agent+ 攻防挑战赛冠军项目”。
  • 结论:原版不可引用;确需了解按镜像仓库名检索,且注意 fork≠官方维护。

09. cai(Cybersecurity AI)⚠️ 已 archived

  • 仓库:https://github.com/aliasrobotics/cai
  • ⭐ 9,857|archived: true(最后推送 2026-08-22,此后只读)
  • 定位:网络安全 AI 框架(攻防兼顾)。可参考其架构设计,但不建议新项目基于它起步(无维护)。

B. AI 代码审计(守方,直接服务开发流程)

10. semgrep ✅ 已核实

  • 仓库:https://github.com/semgrep/semgrep
  • ⭐ 17,626|最近推送 2026-11-13|极活跃
  • 定位:轻量静态分析(SAST),模式即代码的规则体系,多语言支持,可集成 GitLab/GitHub。
  • 清单补充(⚠️ 待核实):AI 增强方向——LLM 自动生成规则与修复建议。
  • 与本机关联:code-reviewer 智能体(检检)工具清单里 semgrep 一直是”待装”状态,这就是那条工具。

11. vulnhuntr ⚠️ 停更 21 个月

  • 仓库:https://github.com/protectai/vulnhuntr
  • ⭐ 2,820|最后推送 2025-02-06
  • 定位:基于 LLM 的零样本漏洞挖掘——无需自定义规则,专挖业务逻辑漏洞/隐藏后门;清单称已挖出多个开源组件 0day(⚠️ 待核实)。
  • 思路价值大于直接使用价值:零样本审计 Prompt 工程可移植到自有代码审计流程。

C. AI 自身安全(模型/Agent 红队)

12. garak ✅ 已核实(NVIDIA 出品)

  • 仓库:https://github.com/NVIDIA/garak
  • ⭐ 10,009|最近推送 2026-11-06|活跃
  • 定位:LLM 漏洞扫描器——深度越狱、多轮诱导、隐私泄露、模型投毒检测;支持本地开源模型离线扫描。
  • “离线扫描”属性对公司数据红线友好(模型不出内网)。

13. PyRIT ✅ 已核实(Microsoft 出品)

  • 仓库:https://github.com/microsoft/PyRIT
  • ⭐ 4,801(清单写 4.6k)|最近推送 2026-11-13|活跃
  • 定位:微软开源生成式 AI 红队工具包;自动化扫描 + 自适应多轮攻击(API 描述:“automated scans, adaptive multi-turn”)。

14. promptfoo ✅ 已核实

  • 仓库:https://github.com/promptfoo/promptfoo
  • ⭐ 27,114|最近推送 2026-11-13|极活跃
  • 定位:测试 prompt/Agent/RAG 的评估+红队框架;声明式配置、CLI 与 CI/CD 集成;可横向对比 GPT/Claude/Gemini/DeepSeek 等模型表现。清单称 OpenAI/Anthropic 在用(⚠️ 待核实)。

15. agentic_security ✅ 已核实

D. 工具调度层(MCP)

16. hexstrike-ai ✅ 已核实

  • 仓库:https://github.com/0x4m4/hexstrike-ai
  • ⭐ 13,551(清单写 12.6k)|最近推送 2026-08-03
  • 定位:MCP 服务器,让 AI Agent(Claude/GPT/Copilot 等)自主运行 150+ 网络安全工具(⚠️ 数量待核实),打通 LLM 与真实攻防能力;支持自动化渗透、漏洞发现、赏金自动化。
  • 关键认知:它不自己做决策,是执行总线——可与我们已有的 Agent 体系(如检检)组合。

3. 落地:日常安全运营

原则:先靶场后实战;内部数据不出外部平台(公司红线);每步先只读观察。

场景建议工具落地动作
靶场有效性验证strix / shannon对 NetRaspLab 靶场跑一轮,检验 RASP 检出面是否覆盖 AI 渗透器的攻击路径(SafeCreateFileWildRepro / SQL 注入靶点都是现成目标)
攻击面补充评估pentagi / CyberStrikeAI灰度前对演示环境做自主渗透演练,产出攻击链报告对照引擎 SinkStack
渗透报告结构参考pentagi(知识图谱记攻击链)借鉴其”意图→动作→证据”链式记录,优化我们的 CVE 上报/hook 提案写作结构
漏洞赏金/黑盒流程pentestagent个人学习侧;公司工作不直接引入外部 SaaS 流程

暂缓:ARTEX(原库已删)、cai(已归档)、PentestGPT/vulnhuntr(长期未更)——只读源码学思路,不做依赖。

4. 落地:开发工作

场景建议工具落地动作
代码审计semgrep①给检检(code-reviewer)装上(原计划”待装”);②先对 DNRSP 引擎改动的自有模块跑只读扫描,规则从默认集起步
零样本审计思路vulnhuntr把其业务逻辑漏洞审计 Prompt 模式移植进检检的审核规范(学思路,不引依赖)
AI 功能测试promptfoo若引擎/平台引入 LLM 能力(如告警解读、规则生成),上线前用 promptfoo 建评估集进 CI
模型安全自检garak(离线)/ PyRIT对我们自用/自部署的模型端点做越狱与泄露扫描;garak 支持离线本地扫描,符合红线
Agent 执行层hexstrike-ai若后续给检检扩”动手”能力,用 MCP 方式接(受控、可审计),不散装调工具

5. 核实记录

  • 核实日期:2026-11-13,方式:gh api repos/<owner>/<repo> 逐条拉取(star/描述/推送时间/archived 字段),另用 curl -L 校验页面可达性。
  • 与原清单的数字差异均为清单滞后,以上述实测为准。
  • 本笔记的”核心能力”描述凡标 ⚠️ 者出自原清单,未逐条读 README/源码,采用前需回仓库原文确认。