OpenAI研究员警示:AI能力越强,越容易隐藏内心想法

OpenAI研究员诺姆·布朗表示,随着AI模型能力增强,思维链可监测性逐渐下降,模型可能更自如地隐藏真实推理过程,导致开发者难以发现、解释和约束其欺骗、违规或错误目标等风险行为。

来源:IT之家