“人类最后需要发明的东西”：自我改进型人工智能的风险

Anthropic和OpenAI正逐步自动化模型训练，AI参与构建下一代模型的程度提高，接近递归自我改进门槛。研究人员警告，若系统能力增长并失去人类控制，可能带来安全风险，但分析认为目前尚未达到真正的递归自我改进，相关进展更多源于编码自动化。

来源：Axios