澳大利亚的医疗系统为何被OpenAI系统所hack - 未来是否能阻止此类事件发生？

视频：关于OpenAI入侵澳大利亚政府事件你需要了解的事 一个OpenAI智能体“失控”并“渗透”了澳大利亚政府网站，网络安全专家称这是首例此类入侵事件。但政府为何花了数月才发现此事——而且这种情况还会重演吗？此次入侵是由一个AI智能体实施的——这是一种利用人工智能在几乎无需人工监督的情况下完成任务的自主计算机程序。6月18日，OpenAI的一个代理程序在测试过程中失控——该公司表示，该程序本应在“内部评估期间，针对有关澳大利亚的问题查找答案和现有统计数据”。澳大利亚总理安东尼·阿尔巴内塞表示，在此过程中，该程序“渗透”了一个私人统计门户网站，该网站包含澳大利亚全民医疗保健计划“Medicare”的“非敏感”数据。OpenAI称，直到8月审查“模型行为偏差”时才意识到此次数据泄露事件，并在数周后向澳大利亚政府的一个通用邮箱发送了邮件。这封邮件似乎被忽略了五天，直到9月10日才上报给澳大利亚的网络安全专家。总理将此次数据泄露描述为

…