本页内容
本页内容
安全
影响（AML.TA0011）
MITRE ATLAS 框架的冲击策略 （AML.TA0011） 中的威胁。每个条目都列出了 ATLAS 技术、攻击向量、受影响的组件、当前的缓解措施、残余风险和建议。
这些威胁跨越的信任边界和数据流在 威胁模型索引 中定义，该索引还包含风险矩阵、建议摘要和 ATLAS 技术映射。
T-IMPACT-001：未经授权的命令执行
| 属性 | 值 |
|---|---|
| ATLAS ID | AML.T0031 - 破坏 AI 模型完整性 |
| 描述 | 攻击者在用户系统上执行任意命令 |
| 攻击向量 | 提示注入结合 exec 审批绕过 |
| 受影响组件 | Bash 工具、命令执行 |
| 当前缓解措施 | Exec 审批、Docker 沙箱选项（默认运行时后端） |
| 残余风险 | 严重 - 在禁用沙箱时可能进行主机执行 |
| 建议 | 改进审批 UX；关闭沙箱的部署属于有意的操作员选择，并已如此记录 |
T-IMPACT-002：资源耗尽（DoS）
| 属性 | 值 |
|---|---|
| ATLAS ID | AML.T0031 - 破坏 AI 模型完整性 |
| 描述 | 攻击者耗尽 API 额度或计算资源 |
| 攻击向量 | 自动化消息洪泛、昂贵的工具调用 |
| 受影响组件 | 网关、代理会话、API 提供方 |
| 当前缓解措施 | 无 |
| 残余风险 | 高 - 没有按发送者的速率限制 |
| 建议 | 按发送者设置速率限制、成本预算 |
T-IMPACT-003：声誉受损
| 属性 | 值 |
|---|---|
| ATLAS ID | AML.T0031 - 破坏 AI 模型完整性 |
| 描述 | 攻击者导致代理发送 harmful/offensive 内容 |
| 攻击向量 | 诱导产生不当响应的提示注入 |
| 受影响组件 | 输出生成、通道消息发送 |
| 当前缓解措施 | LLM 提供方内容策略 |
| 残余风险 | 中 - 提供方过滤并不完美 |
| 建议 | 输出过滤层、用户控制 |
本页有帮助吗？