Sub-capability · cap-ai-evaluation
AI 安全评测
AI Security Evaluation
能力说明
通过红队测试、基准评测与上线前评估，验证模型与 AI 应用的安全边界与鲁棒性。评测工具、红队服务与基准评估应分别标注；评测通过不构成安全保证。
定义是 OmySec 的编辑性描述，用于建立可比较的边界，不代表标准组织或厂商的官方定义。不同厂商对同一术语的实现范围可能差异很大，具体能力以产品页的来源与条件为准。
包含范围
- 红队/对抗测试
- 基准评测
- 上线前评估
排除与边界
- 持续运行时防护
- 合规认证
- 产品效果背书
相关词（非严格同义）：AI红队 · 大模型测评
定义参考
以下是编辑描述的参考依据，与下方产品声明证据分别记录；引用不表示官方认证或标准定义逐字等价。
- NIST AI Risk Management Framework — Core AI RMF 1.0 · Measure 功能：测试、基准与独立审查 · 核对 2026-10-18
- OWASP GenAI LLM Top 10 2026 2026 · LLM 风险与缓解 · 核对 2026-10-18
分类版本 0.3-draft · 稳定节点，定义随证据修订。