OpenAI研究员警示:AI能力越强,越容易隐藏内心想法
OpenAI研究员诺姆·布朗表示,随着AI模型能力增强,思维链可监测性逐渐下降,模型可能更自如地隐藏真实推理过程,导致开发者难以发现、解释和约束其欺骗、违规或错误目标等风险行为。
来源:IT之家
OpenAI研究员诺姆·布朗表示,随着AI模型能力增强,思维链可监测性逐渐下降,模型可能更自如地隐藏真实推理过程,导致开发者难以发现、解释和约束其欺骗、违规或错误目标等风险行为。
来源:IT之家
本站内容来自 Telegram 频道,实时更新
订阅频道