相同的技術限制使超級智慧不可能，但也使這些系統危險。但我們知道如何管制他們 許多硅谷的企業家認為人工智慧的發展對於社會的影響將是持續性的 然而，我們沒有足夠的時間來了解這些影響 我們必須立即採取行動 我們必須盡快了解這些系統的影響 我們必須盡快了解這些系統的風險 我們必須盡快了解這些系統的風險 我們必須盡快了解這些系統的風險
相同的技術限制，阻止超級智能的系統，使這些系統危險。但我們知道如何管控他們
許多Silicon Valley領袖相信 超級智能 是對社會的迫在眉睫威脅。白宮甚至 發表了一份協定 。這不是足夠的。
Geoffrey Hinton，人工智慧的教父，估計人類滅絕的風險 至少10% 在接下來的幾個世紀內。Anthropic CEO，Dario Amodei， 認為 未受控制的人工智慧“可能超越我們理解和控制這些系統的能力”。在回應，1300名領袖和員工們從許多領先的AI公司簽署了 一封信 ，呼籲“有意識地控制”發展速度。
…
以下為原文節錄，僅供導讀。完整報導與著作權均屬原媒體與原作者所有，請點擊下方連結前往原始出處閱讀。
前往原文 / Original Source →
編輯評論 / Editor's Note
近年來人工智慧的快速發展引發了各界對其潛在風險的關注，尤其是在超級智慧的可能性方面，然而真正的風險可能並不在於超級智慧的出現，而是在於人工智慧系統的設計和應用中存在的技術局限性。這些局限性使得人工智慧系統在某些情況下可能會造成不可預測的結果，從而帶來災難性的風險。因此，如何有效地規範和管理人工智慧系統的開發和應用成為了一個迫切的課題。