Goodfire称其新型“由内向外”监控能低成本捕捉失控的AI代理

Goodfire推出面向Baseten客户的AI智能体内部监控系统，通过探针实时分析模型内部信号，识别黑客攻击、武器滥用和奖励作弊等风险，仅在异常时调用另一模型复核。公司称其成本和延迟均低于逐步读取输出的监控方案，并计划服务开源模型。

来源：TechCrunch