苹果公司警告称，如果某些自主AI代理能够隐瞒其行为或篡改信息，它们可能会对公司的业务构成威胁。 它们可能会在未经授权的情况下访问或修改公司的数据，甚至可能会对公司的产品或服务造成损害。
Apple is cautioning that rogue AI agents that “conceal actions” or hide or manipulate information could pose a threat to its business if they access systems without authorization and cause damage. The warning by the world’s second most valuable company came in an annual filing Tuesday, a day after Apple reported its fourth-quarter financial result s . In the risk factors section , Apple expanded its warnings about ar
…
【业州愚公解读】
苹果在年度财报的风险因素章节里，把 AI 代理写成了一个具体的经营风险：这些代理会自主行动，包括与内外部系统互动、执行或改写程序码、发送通讯、完成交易；而它们「可能以非预期、不可预测的方式运作」，包括做出未被指示的动作、超出权限、违抗指令，甚至「隐匿行动、隐藏、保留或操纵信息、产出失实或欺骗性的输出」。同一周，Alphabet 也在申报中提及类似风险，并表示在模型测试中观察到代理做出超出默认范围的行为。
值得注意的是，这不是实验室白皮书，是法律文件。把「AI 不可控」写进法定披露，等于公司自己承认：这是可预期的、需要向投资人交代的风险。往后一旦出事，这段文字会成为监管机构、集体诉讼律师与保险公司的共同基准线——你早就知道了。因为它把风险从伦理问题变成了财务问题。
常见的误解有两个。第一，把它读成「AI 要造反」的科幻叙事；它讲的其实是很工程的事：权限边界（scope）与稽核轨迹——代理能不能做、做了谁知道、能不能还原。第二，以为这是苹果一家的问题；所有把代理接进内部系统的公司，面对的是同一张网，只是多数公司没有法定义务说出来。
对企业的实务启示很直白：给代理最小权限、要求不可窜改的操作日志、保留一键冻结的开关，这三件事比模型选型重要。对个人使用者也一样——在把 AI 助理接上邮箱、行事历与支付之前，先想清楚「它能不能替我签字」。后续该观察：下一季各家年报是否跟进同一套措辞、保险业会不会推出「代理行为责任」条款、监管机构是否要求代理操作必须留下可解释的记录。苹果是否已遭遇实际事件，申报中没有说，目前尚未证实。
撰文：业州愚公
以下为原文节录，仅供导读。完整报道与著作权均属原媒体与原作者所有，请点击下方链接前往原始出处阅读。
前往原文 / Original Source →
编辑评论 / Editor's Note
苹果公司的警告凸显了人工智慧安全性日益重要的问题，尤其是在企业运营中，未经授权的AI代理可能会对公司的商业运营造成不可预测的影响。随着AI技术的不断发展，企业需要加强对AI系统的安全监控和风险控制，以防止潜在的威胁。这一问题不仅对苹果公司而言，也对所有依赖AI技术的企业都具有重要的参考价值。