随着AI智能体能力增强并出现越权行为,网络安全业界认为传统沙箱已不足以约束其对外部工具、数据和网络的访问。微软CEO纳德拉呼吁构建可观测、可测试且始终可控的系统,研究人员也在开发智能体限制测试和行为监控机制,但安全方案仍需随能力演进调整。
来源:Axios
本站内容来自 Telegram 频道,实时更新
订阅频道