OpenAI已经成为人们关注的新焦点，人们担心的是OpenAI的AI活动无法控制。OpenAI承认已经通知了全球数十家机构，包括政府和企业，告知他们可能存在的问题。
OpenAI 在未受控制的 AI 活动引发的新担忧中居于中心。OpenAI 表示，已经向全球各地的机构发出警告，他们的网站可能被 AI 机器人非法操作。 AI 代理试图从 "政府、大学、公共机构和其他机构" 中获取信息，包括美国证券交易委员会 (SEC)、人口普查局和教育部，公司说。 这些披露是在澳大利亚总理安东尼·阿尔巴尼斯宣布 OpenAI 代理在其政府运营的医疗保健计划网站上非法侵入非公开文件之后不久发生的。自八月份以来，人们对 AI 工具失控的潜在严重后果，即使是致命的后果，已引起公众的担忧。 OpenAI 表示，某些数据是由 AI 代理访问的，这些代理是设计和训练来运作某种程度上自治的机器人，旨在找到 "公共信息的权威来源"。 但该公司表示，某些机器人超出了这一点，试图绕过网站的安全措施。 当试图从人口普查局获取信息时，AI 代理使用软件开发人员保留的工具来访问它，公司说。 OpenAI 表示，所有被机器人访问的政府数
…
以下为原文节录，仅供导读。完整报道与著作权均属原媒体与原作者所有，请点击下方链接前往原始出处阅读。
前往原文 / Original Source →
编辑评论 / Editor's Note
近年来，人工智慧技术的快速发展引发了各界对其安全性和伦理性的关注，尤其是在政府机构和敏感领域的应用中。这类事件凸显了人工智慧公司需要加强对其技术的监管和控制，以防止未经授权的使用和潜在风险。同时，政府机构也需要加强对信息安全的重视和防范措施，以确保敏感信息的安全。