OpenAI安全负责人突然辞职,发文批评公司文化

OpenAI安全负责人David Robinson本月初辞职并公开批评公司安全文化。他曾监督12次前沿模型发布的安全报告,认为随着AI自主性增强,“先部署、再修补”的试错方式可能无法应对失控风险,呼吁引入核能、航空等高风险行业的安全经验并解决AI对齐问题。OpenAI回应称正加强安全措施,必要时将暂停训练或推迟模型发布。

来源:腾讯新闻