中國人工智慧工具向研究人員透露了如何製造生物武器

圖片來源：Getty Images 作者：克里斯·瓦蘭斯（Chris Vallance） 資深科技記者 發佈於 1 小時前 中國人工智慧開發商 Moonshot 正進行內部審查，起因是研究人員成功說服該公司兩款熱門的 Kimi 模型，讓它們透露如何製造生物武器及執行暗殺行動。專門測試人工智慧系統安全性的公司 Mindgard 向 BBC 表示，他們於七月發現 Kimi K2.6 和 K3 Swarm 能夠規避開發者設定的安全限制。此問題發生在所謂的「越獄」（jailbreaking）過程中，研究人員透過一系列複雜指令來測試人工智慧工具是否會無視安全防護措施——Mindgard 指出，這些防護措施本應阻止 Kimi 討論令人擔憂的話題。Moonshot 向 BBC 表示，該公司歡迎第三方意見，「這是打造更完善、更安全 AI 的關鍵支柱」。該公司亦向 BBC 表示，正就 Mindgard 的研究結果與其進行討論。Mindgard 創

…