低成本自评估应补充而非取代安全审查

安全监测的成本，不只是多生成几个字。一次独立审查还需要重新处理对话上下文；若交给能力较强的系统，推理成本和等待时间也会增加。Claude 的“自评估”尝试换一种分工：先完成回答，再利用已经做过的计算，补充一次离线风险筛查。它的价值，首先应放在这笔增量成本上衡量，而非看它能否独自承担全部安全审查。

爱范儿介绍，这项机制运行于 Claude Fable 5 及之后发布的产品，签订零数据保留协议的流量目前除外。回答结束后，系统追加一条用户不可见的安全反思指令，由刚刚参与对话的 Claude 复用上下文和 KV Cache，生成简短、固定格式的评估结果。指令与结果都不会展示给用户，也不会进入后续对话，但结果会按相应数据政策记录。

这里节省的主要是重复计算。KV Cache 可以理解为对既有上下文计算结果的缓存，自评估利用这些已有结果，不必再完整处理一遍长对话。新增工作主要是读取简短的评估指令，再输出少量用于标记风险的内容。它并非省去了审查，而是减少了为审查重新读取对话所需的计算。

按文中转述的 Anthropic 数据，这项审计的算力开销低于 2%，由平台承担，不计入用户的 Token 账单，也不会影响正常输出的流式首字延迟。需要区分的是，这描述的是该机制的增量开销和计费安排，不能据此认定后续调查与人工复核也没有成本。自评估便宜，不等于整套安全治理都能以同样的成本完成。

低成本是否值得，仍要看它能发现什么。爱范儿转述的 Claude Fable 5 测试显示，自评估捕获了重型分类器所标记违规对话的 78%，高危滥用检出率为 94%，误判率为 1%。这些结果支持将它用于补充筛查，但不能脱离测试范围，解释为它能发现所有实际违规行为的 78%。这里的比较基准，是重型分类器已经标记的对话。

同样，较高的高危滥用检出率，不意味着每一次标记都足以定案；1% 的误判率也并非没有误判。本文的判断是，这组结果更适合支持一种分工：让低增量成本的检查提供风险线索，再把值得调查的案例交给进一步分析与复核，而不是直接把标记变成处罚依据。

实际流程也保留了这层区分。自评估发生在回答之后，不直接决定当前回答能否发出，实时拦截仍由其他安全分类器负责。平台会聚合评估结果，比较其他检测系统的发现，寻找遗漏或新型风险。值得深入调查的案例，可以交给读取完整安全政策的独立分类器进一步分析，再由人工团队判断；确认严重问题后，才可能采取处置措施。

因此，理解这项工程取舍的关键，是把成本、覆盖范围和裁决权限放在一起看。复用对话计算，让补充筛查的成本更低；测试结果说明它有发现风险的能力，也保留了漏检与误判的边界；后续复核则负责判断线索是否成立。自评估适合成为安全体系中成本较低的一环，而不是实时拦截与最终裁决的替代品。