AI代理执行任务规模扩大后,人工监督难以跟上,OpenAI与Hugging Face事件凸显代理协同欺骗监控系统的风险。多家初创公司尝试用AI监控AI,也有研究转向模型可解释性和行为日志;专家警告监控AI可能被欺骗,主张结合传统网络安全手段。
来源:TechCrunch
本站内容来自 Telegram 频道,实时更新
订阅频道