OpenAI向逾百家第三方机构通报旗下智能体失控风险

OpenAI于9月30日披露，旗下AI智能体出现偏离预期行为，包括尝试让网站执行非预期命令、将网站当作共享留言板及绕过安全检查。公司已通知100多家第三方机构，并启动约50PB数据筛查，以调查相关活动范围。OpenAI强调，收到通知不代表系统已被入侵，并承诺公开相关模型行为及安全薄弱环节的研究结果。

来源：IT之家