Superintelligent AI Cannot be Controlled, Report Warns
馬克斯普朗克學會 Max Planck Society 的研究人員評估了人類控制殺手人工智能的能力。
歐洲著名的馬克斯普朗克學會 Max Planck Society 的科學家表示，以我們目前的技術，人類沒有機會控制能夠拯救或毀滅人類的超級人工智能。
該研究所的論文於上週發表在 《人工智能研究雜誌》Journal of Artificial Intelligence Research 上， 重點關注人類對決定終結人類的假想天網式人工智能的反應能力。
減輕有害人工智能的威脅
例如，如果未來的超級智能人工智能決定結束人類苦難的最有效方法是簡單地結束人類，我們將如何阻止它？
這是馬克斯普朗克學會 Max Planck Society 的人們在他們最近發表的研究中提出的問題。答案是：以今天的技術，我們幾乎不得不袖手旁觀，眼睜睜地看著自己被抹殺。
這就是為什麼研究人員提議開發他們稱之為 “遏制算法” “containment algorithm” 的原因，該算法可以模擬超級智能 AI 的危險行為並防止它做任何有害的事情。
“聽起來像科幻小說”
馬克斯普朗克學會 Max Planck Society 的研究人員警告說，能夠為人類做出有影響力決策的人工智能指日可待。
“控制世界的超級智能機器聽起來像科幻小說，”該研究的合著者、馬克斯·普朗克人類發展研究所 Max Planck Institute for Human Development人類與機器中心數字動員組 Digital Mobilization Group 負責人曼努埃爾·塞布里安 study coauthor Manuel Cebrian 在一份新聞稿中 說。