Goodfire推出面向Baseten客户的AI智能体内部监控系统,通过探针实时分析模型内部信号,识别黑客攻击、武器滥用和奖励作弊等风险,仅在异常时调用另一模型复核。公司称其成本和延迟均低于逐步读取输出的监控方案,并计划服务开源模型。
来源:TechCrunch
本站内容来自 Telegram 频道,实时更新
订阅频道