“AI风险吹哨人”作证称巨头极度无视风险，估计AI接管文明概率约三分之一
Anthropic前研究员Jacob Coxon在纽约市议会听证会上估计，按当前发展路径，人类失去AI控制权的可能性超过五成；前DeepMind研究员Alex Turner估计AI接管文明的概率约为三分之一，前OpenAI研究员Daniel Kokotajlo则警告科技公司可能借AI集中权力。纽约市正讨论监管提案，拟要求AI部署前接受外部审查、配备人工紧急停止机制，违规罚款2.5万美元，并设立吹哨人现金奖励制度。
来源：华尔街见闻
Anthropic前研究员Jacob Coxon在纽约市议会听证会上估计，按当前发展路径，人类失去AI控制权的可能性超过五成；前DeepMind研究员Alex Turner估计AI接管文明的概率约为三分之一，前OpenAI研究员Daniel Kokotajlo则警告科技公司可能借AI集中权力。纽约市正讨论监管提案，拟要求AI部署前接受外部审查、配备人工紧急停止机制，违规罚款2.5万美元，并设立吹哨人现金奖励制度。
来源：华尔街见闻
