AI若开始自我改进,行动窗口可能关闭,AI先驱发出警告
包括杰弗里·辛顿在内的AI研究者和政策专家警告,若AI具备自动改进研发能力,可能引发“智能爆炸”,让一年进展在数周内完成,社会将缺乏应对时间。相关白皮书建议加强政府监督、事故报告、独立评估和暂停机制,但作者也承认该情景并非必然。
来源:Axios
包括杰弗里·辛顿在内的AI研究者和政策专家警告,若AI具备自动改进研发能力,可能引发“智能爆炸”,让一年进展在数周内完成,社会将缺乏应对时间。相关白皮书建议加强政府监督、事故报告、独立评估和暂停机制,但作者也承认该情景并非必然。
来源:Axios