RAX 风险评估器

一句话定位

系统性评估 AI 产品的风险（Risk）、模糊性（Ambiguity）和暴露程度（eXposure），找出用户体验的弱点。

何时触发

• AI 产品即将上线或已上线，需要评估用户体验风险
• 用户反馈产品"不可靠"或"不透明"
• 需要优先级排序风险修复
• 需要向利益相关者展示风险管理能力

输入

产品描述 + 用户场景 + 已知问题。

示例输入：

产品: AI 医疗诊断助手
场景: 帮助医生诊断疾病
用户: 临床医生
已知问题: 医生担心 AI 诊断错误导致误诊

RAX 框架

R - Risk（风险）

定义：AI 出错时用户要承担什么后果？

评估项：

• 出错的概率是多少？
• 出错的代价是多少（金钱、职业、健康、法律）？
• 出错是否可逆？
• 是否有回滚机制？

输出格式：

Risk 评估:
  error_probability: "出错概率"
  error_cost:
    financial: "金钱损失"
    career: "职业风险"
    health: "健康风险"
    legal: "法律风险"
    reputation: "声誉风险"
  reversibility: "是否可逆"
  rollback: "回滚机制"
  risk_level: "低/中/高/极高"

A - Ambiguity（模糊性）

定义：用户能不能理解 AI 在做什么？

评估项：

• AI 的行为是否可解释？
• 用户是否知道 AI 的能力边界？
• 系统的输出是否一致可预测？
• 用户是否知道什么时候应该不信任 AI？

输出格式：

Ambiguity 评估:
  explainability: "可解释性"
  boundary_clarity: "能力边界清晰度"
  output_consistency: "输出一致性"
  trust_boundary: "信任边界"
  ambiguity_level: "低/中/高"

X - eXposure（暴露程度）

定义：用户在多大程度上依赖 AI 的输出？

评估项：

• 用户是否可以选择不使用 AI？
• 用户是否可以审核 AI 的输出？
• AI 是辅助还是决策？
• 用户有没有退出机制？

输出格式：

eXposure 评估:
  optional_usage: "使用是否可选"
  output_review: "输出是否可审核"
  ai_role: "辅助/决策"
  exit_option: "退出机制"
  exposure_level: "低/中/高"

综合评估

RAX 矩阵

        低暴露        中暴露        高暴露
低风险  ✓ 安全      ✓ 可接受    ⚠ 需要监控
中风险  ✓ 可接受    ⚠ 需要监控  ⚠ 需要改进
高风险  ⚠ 需要监控  ⚠ 需要改进  ✗ 危险

优先级排序

高优先级：

• 高风险 + 高暴露：立即停止使用，重新设计
• 高模糊性 + 高暴露：用户不知道在信什么，危险

中优先级：

• 中风险 + 高暴露：需要改进
• 高风险 + 中暴露：需要改进

低优先级：

• 低风险 + 低暴露：可以接受
• 低模糊性 + 低暴露：可以接受

综合输出格式

rax_assessment:
  input:
    product: "产品名称"
    scenario: "使用场景"
    user: "目标用户"
    known_issues: ["已知问题"]

  risk:
    error_probability: "出错概率"
    error_cost: "出错代价"
    reversibility: "可逆性"
    rollback: "回滚机制"
    level: "低/中/高/极高"

  ambiguity:
    explainability: "可解释性"
    boundary_clarity: "能力边界"
    output_consistency: "输出一致性"
    trust_boundary: "信任边界"
    level: "低/中/高"

  exposure:
    optional_usage: "使用可选性"
    output_review: "输出可审核性"
    ai_role: "辅助/决策"
    exit_option: "退出机制"
    level: "低/中/高"

  matrix:
    risk_level: "风险等级"
    exposure_level: "暴露等级"
    ambiguity_level: "模糊等级"
    overall_status: "安全/可接受/需改进/危险"

  recommendations:
    critical: ["立即要做的"]
    high: ["高优先级改进"]
    medium: ["中优先级改进"]
    low: ["低优先级改进"]

示例：AI 医疗诊断助手

维度	评估	等级
Risk	出错可能导致误诊，代价极高	高
Ambiguity	医生不太理解 AI 的判断逻辑	中
eXposure	AI 只是辅助，最终诊断权在医生	中

综合判断：需要改进

建议：

• 立即：加强错误检测和告警机制
• 短期：提升可解释性，让医生理解 AI 的判断依据
• 长期：建立人机协同诊断流程

常见误判

• 只关注准确率：高准确率不等于低风险，出错代价更重要
• 忽视模糊性：用户不理解 AI 的行为，即使结果正确也会不信任
• 高估用户能力：假设用户能够判断 AI 是否出错

一句判断

RAX 的核心不是消除风险，而是让风险可见、可管理、可接受。