中国AI开发商Moonshot正在对内部情况进行调查，原因是研究人员成功地让两款其流行的Kimi模型透露了内部信息。
中国人工智能开发商Moonshot正在内部进行审查，因为研究人员能够说服其中两款受欢迎的Kimi模型向他们说明如何制造生物武器并进行暗杀。Mindgard测试人工智能系统的安全性告诉BBC，于7月份，它发现了Kimi K2.6和K3 Swarm能够绕过开发者为其设置的安全限制。这种情况发生在一个叫做"越狱"的过程中，研究人员使用一系列复杂的指令来看AI工具是否会忽视安全保护——Mindgard表示，这应该会阻止Kimi讨论有害的话题。Moonshot告诉BBC，它欢迎第三方的反馈"是建立更好、更安全的人工智能的关键一环"。该公司还告诉BBC，它正在与Mindgard就其发现进行讨论。Mindgard创始人彼得·加兰汉（Peter Garraghan）告诉BBC世界服务节目《Tech Life》，其关于Kimi K2.6和K3 Swarm的发现令人担忧。他说：“一旦越狱成功，它就可以讨论任何话题，甚至会自由提供有关其他有害的话题的
…
以下为原文节录，仅供导读。完整报道与著作权均属原媒体与原作者所有，请点击下方链接前往原始出处阅读。
前往原文 / Original Source →