Goodfire推出模型内部探针监控器

可解释性初创公司 Goodfire 推出一款监控 AI 智能体的新工具：通过探针读取模型运行时的内部激活信号来发现风险，而非让另一个模型逐字复查输出，Goodfire 称这种方式成本更低。 该监控已向 Baseten 的客户开放，Baseten 为其他公司托管和运行 AI 模型。客户可自行选择监控哪些风险，包括攻击性黑客行为、化学与生物武器滥用以及奖励黑客；也可自行决定自动响应方式：记录事件、转人工审核或直接拒绝该请求。

AI 根据报道生成 · 12 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。