AI模型越来越擅长绕过限制

随着AI智能体能力增强并出现越权行为，网络安全业界认为传统沙箱已不足以约束其对外部工具、数据和网络的访问。微软CEO纳德拉呼吁构建可观测、可测试且始终可控的系统，研究人员也在开发智能体限制测试和行为监控机制，但安全方案仍需随能力演进调整。

来源：Axios