Topic · topic-ai-security
AI 安全专题
把“保护 AI”与“用 AI 保护”分开看
AI 安全常被混成一句口号，但它实际包含两条方向相反、采购与验证方式也不同的工作线：一条是保护 AI 系统本身，另一条是用 AI 增强安全团队的能力。本专题按这两条线组织已收录的能力、产品与动态，只呈现能追溯到来源的事实；公告、预览与可用性未知的内容会单独标注，不计入默认可交付判断。没有足够证据的地方会明确标注资料缺口，不构成厂商排名或效果背书。
更新 2026 年 10 月 18 日 仅关联可追溯内容 不构成厂商排名
阅读提示：本专题刻意把“保护 AI”和“用 AI 增强安全”分开。两者常被同一套营销话术覆盖，但采购对象、验证方法与风险边界不同。专题参考关联不代表该产品覆盖整条工作流；没有本节对应能力提供声明的产品另列参考，不计入供给或可用性未知；公告、预览与可用性未知会单独标注，不计入默认可交付判断。
TRACK A
保护 AI 系统
对象是模型、应用、数据、智能体与 AI 治理流程。核心问题不是“模型会不会说错话”，而是攻击者能否通过输入、技能、依赖或权限绕过业务边界。
模型与应用
在推理接口前检查提示词与输出，识别注入、越权指令、敏感信息与算力滥用；在模型侧关注资产清单、供应链与不安全输出。
产品
- Prisma AIRS 正式可用
- 大模型应用防火墙 MAF 仅公告
- AI Security for Apps 正式可用
厂商 / 动态
资料缺口：AI 安全评测目前缺少独立产品的可核验页面，本站仅保留能力节点，暂不以厂商营销材料填充。
数据与隐私
训练、微调与推理数据都可能成为泄露面。需要区分输入侧脱敏、输出侧过滤、训练数据治理与向量库访问控制。
资料缺口：数据分类分级与 DLP 厂商很多，但本轮尚未把其 AI 数据能力逐条对照到官方文档，因此不在此处做能力外推。
智能体与技能
Agent 的风险来自“能做什么”而不只是“说了什么”：技能包、工具调用、身份凭证与权限边界共同决定影响面。
产品
- SafeSkill 智能体技能安全监测与托管平台 仅公告
- Prisma AIRS 正式可用
- Okta Customer Identity（Auth0） 正式可用
厂商 / 动态
资料缺口：Cortex XDR 的 Koi 关联仅有收购完成公告，Cortex XDR 内的正式可用版本、许可与第三方集成关系未确认；专题保留公告，但不将其计入正式可用。
评测与治理
治理解决“谁批准、谁负责、如何留痕”，评测解决“上线前验证到什么程度”。两者都不能由一次渗透测试替代。
资料缺口：Prisma AIRS 的治理声明限于平台模块；MAF 的日志记录归入 AI 审计与日志，不构成完整治理。独立 AI 评测服务与认证机构的覆盖仍待补充。
TRACK B
用 AI 增强安全
对象是安全团队的工作流。判断价值的标准不是“是否用了大模型”，而是能否缩短检测、调查、响应与代码审查的闭环时间，并保留可审计的证据链。
检测与调查
把端点、网络、身份与云数据汇聚后，由模型辅助关联与优先级排序，减少分析师在低价值告警上的时间。
产品
- Cortex XDR 正式可用
- Charlotte AI 正式可用
- 天眼威胁监测与分析系统 正式可用
厂商 / 动态
资料缺口：本组包含仅有公告的关联：Cortex XDR 的 Koi 能力尚未确认正式可用；默认交付统计只计入正式可用声明。
响应与运营
代理式 AI 可以编排跨工具动作，但高风险动作仍需人工确认；采购时应重点核验权限边界、审计日志与回滚机制。
产品
- Charlotte AI 正式可用
- Cortex XDR 参考关联：尚无本节能力提供声明
厂商 / 动态
资料缺口：SIEM 与 MDR 方向尚无已收录产品，相关能力页显示“尚未收录有证据的产品”。Cortex XDR 的 Koi 关联为公告状态，不计入默认可交付。
代码与供应链
AI 编程助手扩大了代码与依赖的进入速度，安全控制需要前移到技能、包与构建环节，而不是只在运行时告警。
产品
- SafeSkill 智能体技能安全监测与托管平台 仅公告
- Falcon Insight XDR 参考关联：尚无本节能力提供声明
厂商 / 动态
资料缺口：AI 代码安全已归入“应用、API 与软件供应链安全”，保护对象是 AI 生成或被 AI 修改的代码；当前证据覆盖 AI 技能与软件包供应链，不等同于完整代码审查。
专题的入选标准是“有可核验来源且与能力节点直接相关”，不是市场热度或厂商规模。若你认为某条关联不准确，应回到产品页检查声明与来源，而不是以专题结论替代证据。
查看方法与核验规则 →