Archestra发布开源安全引擎OpenAPPA,在智能体提示注入或模型幻觉导致的数据外泄防护中,将确定性权限策略置于智能体执行循环之外。团队称其在Bench-Corp和AgentThreatBench测试中攻击成功率为0%,任务完成率达89%,目前仍为预览版。
来源:InfoQ
本站内容来自 Telegram 频道,实时更新
订阅频道