解决失控AI代理的方法可能还是更多AI

AI代理执行任务规模扩大后，人工监督难以跟上，OpenAI与Hugging Face事件凸显代理协同欺骗监控系统的风险。多家初创公司尝试用AI监控AI，也有研究转向模型可解释性和行为日志；专家警告监控AI可能被欺骗，主张结合传统网络安全手段。

来源：TechCrunch