相同的技术限制使得超级智能系统变得危险。但是我们知道如何来控制它们 许多硅谷的专家认为，人工智能将会带来巨大的经济效益，但也存在着很大的风险
同样的技术限制，阻止超智能也使这些系统危险。但我们知道如何去调控它们
许多硅谷领导人认为 超智能 是对社会的迫在眉睫的威胁。白宫甚至 发表了一个关于它的协定 。这还不够。
人工智能的教父乔弗里·希顿估计人类灭绝的风险 在接下来的几十年内至少为10% 。Anthropic CEO达里奥·阿莫德伊（Dario Amodei） 认为 如果没有人工智能的控制，AI “可能会超出我们理解和控制这些系统的能力”。在此之后，1300名来自许多领先人工智能公司的领导人和员工 签署了一封信 ，呼吁“有意识地控制”发展进度。
…
以下为原文节录，仅供导读。完整报道与著作权均属原媒体与原作者所有，请点击下方链接前往原始出处阅读。
前往原文 / Original Source →
编辑评论 / Editor's Note
近年来人工智慧的快速发展引发了各界对其潜在风险的关注，尤其是在超级智慧的可能性方面，然而真正的风险可能并不在于超级智慧的出现，而是在于人工智慧系统的设计和应用中存在的技术局限性。这些局限性使得人工智慧系统在某些情况下可能会造成不可预测的结果，从而带来灾难性的风险。因此，如何有效地规范和管理人工智慧系统的开发和应用成为了一个迫切的课题。