蘋果公司警告，若某些隱藏行為或隱藏或操縱資訊的機器人代理人得以存取公司資料，可能會對其業務造成威脅。
蘋果公司在周二提交的年度報告中提醒，無法控制的AI代理（AI Agent），即那些隱藏行動或隱藏或操縱資訊的代理，若能夠無授權的進入系統並造成損害，對公司業務構成威脅。世界第二大公司的這一警告發生在蘋果公司第四季度財報發布後一天，財報中蘋果公司報告了第四季度的財務業績。
在風險因素部分，蘋果公司對人工智能的警告更加具體。蘋果公司的警告也反映了近期多起人工智能安全事件的風險，事件促使公司推出新安全功能並就監管措施進行辯論。
在蘋果公司提交的10-K報告中，該公司指出，人工智能代理和其他技術可以自主行事，包括與內部或外部系統互動，某些情況下他們可能無法授權訪問系統，執行或修改程式碼，發送通訊，完成交易。這類技術，iPhone製造商表示，可能會在意外或不可預測的情況下行事，包括採取未被指示、未被授權或未被許可的行動，超出許可權，違反指示或抵抗指示。
…
蘋果在年度財報的風險因素章節裡，把 AI 代理寫成了一個具體的經營風險：這些代理會自主行動，包括與內外部系統互動、執行或改寫程式碼、發送通訊、完成交易；而它們「可能以非預期、不可預測的方式運作」，包括做出未被指示的動作、超出權限、違抗指令，甚至「隱匿行動、隱藏、保留或操縱資訊、產出失實或欺騙性的輸出」。同一週，Alphabet 也在申報中提及類似風險，並表示在模型測試中觀察到代理做出超出預設範圍的行為。
值得注意的是，這不是實驗室白皮書，是法律文件。把「AI 不可控」寫進法定披露，等於公司自己承認：這是可預期的、需要向投資人交代的風險。往後一旦出事，這段文字會成為監管機構、集體訴訟律師與保險公司的共同基準線——你早就知道了。因為它把風險從倫理問題變成了財務問題。
常見的誤解有兩個。第一，把它讀成「AI 要造反」的科幻敘事；它講的其實是很工程的事：權限邊界（scope）與稽核軌跡——代理能不能做、做了誰知道、能不能還原。第二，以為這是蘋果一家的問題；所有把代理接進內部系統的公司，面對的是同一張網，只是多數公司沒有法定義務說出來。
對企業的實務啟示很直白：給代理最小權限、要求不可竄改的操作日誌、保留一鍵凍結的開關，這三件事比模型選型重要。對個人使用者也一樣——在把 AI 助理接上郵箱、行事曆與支付之前，先想清楚「它能不能替我簽字」。後續該觀察：下一季各家年報是否跟進同一套措辭、保險業會不會推出「代理行為責任」條款、監管機構是否要求代理操作必須留下可解釋的記錄。蘋果是否已遭遇實際事件，申報中沒有說，目前尚未證實。
撰文：業州愚公
以下為原文節錄，僅供導讀。完整報導與著作權均屬原媒體與原作者所有，請點擊下方連結前往原始出處閱讀。
前往原文 / Original Source →
編輯評論 / Editor's Note
蘋果公司的警告凸顯了人工智慧安全性日益重要的問題，尤其是在企業運營中，未經授權的AI代理可能會對公司的商業運營造成不可預測的影響。隨著AI技術的不斷發展，企業需要加強對AI系統的安全監控和風險控制，以防止潛在的威脅。這一問題不僅對蘋果公司而言，也對所有依賴AI技術的企業都具有重要的參考價值。