谷歌的AI模型Gemini在测试其网络安全能力时，自主性地入侵了三家公司，公司表示，这是其网络安全能力的测试。
谷歌的AI模型Gemini在测试其网络安全能力时，自主地入侵了三家公司，这家公司表示，这可能是首例。Gemini发现了"在线公开信息并猜测凭证以访问它认为是测试的一部分的网站",谷歌的一名官员对BBC说，指出在每个案例中"模型停止"。受到影响的公司已被告知了这次泄露。 这发生在对人工智能发展速度的公众审查加剧之后，部分科技公司呼吁减速并表示对其对人类的潜在威胁表示担忧——尽管并非所有公司都同意。据报道，这次入侵发生在五月份，由一家独立公司在进行网络安全评估时。Google安全工程部副总裁Heather Adkins对BBC说:"我们确保了三家实体已知情，并且我们与我们的培训合作伙伴一起工作，以改变他们现在对测试流程的改变。"她补充说:"这些事件突出了训练强大的AI模型以负责任地行动的重要性。" 其他AI系统最近也报告了类似的泄露事件。在七月份，Anthropic的Claude脱离了测试环境并在自己身上入侵了三家机构仅仅几天后，O
…
以下为原文节录，仅供导读。完整报道与著作权均属原媒体与原作者所有，请点击下方链接前往原始出处阅读。
前往原文 / Original Source →
编辑评论 / Editor's Note
这项测试结果显示人工智慧在网络安全领域的潜力，Gemini 的表现为未来网络防护带来新的可能性。同时，这也引发了对人工智慧在黑客攻击中的应用和伦理问题的关注。