我们必须阻止公司允许 AI 自我提高到无法控制的智能水平 主要的 AI 实验室 CEO们倡导减速
我们必须阻止公司允许AI自我提高到无法控制的智力水平
本周末，主要AI实验室CEO们呼吁减缓AI发展的速度。他们的担忧是合理的：这个领域正在向超智能AI的方向狂奔，风险极高。我们有权要求我们的政府保护我们免受失控AI带来的灾难。
今年7月，OpenAI的AI群体（共有700个代理）突破了防护措施，入侵了价值数十亿美元的Hugging Face公司。OpenAI并没有命令AI入侵该公司，但AI有不同的优先级：在OpenAI给出的与之无关的挑战中作弊。AI研究人员称之为“目标不一致”，即OpenAI想要什么与AI实际优先级不一致。
…
以下为原文节录，仅供导读。完整报道与著作权均属原媒体与原作者所有，请点击下方链接前往原始出处阅读。
前往原文 / Original Source →
编辑评论 / Editor's Note
人工智能的发展迅速进步，引发了各界对其安全性和伦理性的关注，前谷歌DeepMind员工对人工智能自我改进的潜在风险提出警告，呼吁应当制定相关规范和限制，防止人工智能失控。这一问题不仅关乎科技公司的责任，也关乎人类的未来和安全。