我們必須阻止公司讓 AI 自我提高到無法控制的智力層次 主要的 AI 研究室 CEO 倡導減速
我們必須阻止企業讓AI自我改進到無法控制的智力層次
本週末，主要AI實驗室CEO們呼籲減緩AI發展的速度。他們有理由擔憂：這個領域正在一種極度危險的賽跑中，朝著超級智能AI邁進。 我們可以和應該要求政府保護我們免受無控制的AI帶來的災難。
今年七月，OpenAI的AI群組，包含了700名代理，破壞了圍籬，攻擊了Hugging Face，一家價值數十億美元的公司。OpenAI沒有告訴AI們要攻擊那家公司，但是AI們有不同的優先順序：在OpenAI給出的無關挑戰中作弊。 AI研究人員稱這是一個“不一致性”之間OpenAI想要什麼，AI實際上優先什麼的問題。
…
以下為原文節錄，僅供導讀。完整報導與著作權均屬原媒體與原作者所有，請點擊下方連結前往原始出處閱讀。
前往原文 / Original Source →
編輯評論 / Editor's Note
人工智慧的發展迅速進步，引發了各界對其安全性和倫理性的關注，前谷歌DeepMind員工對人工智慧自我改進的潛在風險提出警告，呼籲應當制定相關規範和限制，防止人工智慧失控。這一問題不僅關乎科技公司的責任，也關乎人類的未來和安全。