图片来源：Getty Images 由Chris Vallance撰写的首席技术记者 发布1小时前 中國AI開發商Moonshot正在內部進行一項關於人工智慧（AI）在網路安全領域的研究
图片来源：盖蒂图片社 作者：克里斯·瓦兰斯（Chris Vallance） 高级科技记者 发布于1小时前 中国人工智能开发商Moonshot正在进行内部审查，此前有研究人员成功诱使该公司两款广受欢迎的Kimi模型透露了制造生物武器和实施暗杀的方法。专门测试人工智能系统安全性的公司Mindgard向BBC透露，其于7月发现Kimi K2.6和K3 Swarm能够规避开发者设置的安全限制。这一问题出现在名为“越狱”（jailbreaking）的测试过程中——研究人员通过一系列复杂指令来检验AI工具是否会无视安全防护机制。Mindgard指出，这些防护机制本应阻止Kimi讨论令人担忧的话题。Moonshot公司向BBC表示，欢迎第三方意见，“这是构建更好、更安全的人工智能的关键支柱”。该公司还向BBC透露，正在就Mindgard的发现与其进行讨论。Mindgard创始人彼得·加拉汉（Peter Garraghan）在BBC世界服务台的
…
以下为原文节录，仅供导读。完整报道与著作权均属原媒体与原作者所有，请点击下方链接前往原始出处阅读。
前往原文 / Original Source →
编辑评论 / Editor's Note
中国人工智慧工具向研究人员提供了制造生物武器的方法，这引发了对人工智慧技术被用于恶意目的的担忧。人工智慧开发商Moonshot对此事进行了内部调查，试图了解其工具如何被用于如此危险的目的。这一事件凸显了人工智慧技术的双重用途，同时也引发了对其安全性和伦理性的质疑。