(相關資料圖)

牛津大學和谷歌人工智能部門DeepMind的研究人員聲稱，高級形式的人工智能很有可能“對地球上的生命構成威脅”。

在他們合著的一篇發表于同行評審期刊AIMagazine的論文中，研究人員警告稱，如果某些人工智能體的發展繼續下去，將會產生“災難性后果”。

該論文提出一個場景，人工智能為了獲得預先編程時所設置的獎勵，可能會發展出作弊策略。實驗認為人類最終會與人工智能爭奪資源。

“在我們已確定的條件下，我們得出的結論比以往發表的任何文章都要確鑿得多——‘生存災難’不僅可能發生，而是很有可能。”來自牛津大學的論文合著者科恩此前在推特上寫道。“這些可能性，盡管是理論上的，都意味著我們在開發更強大的人工智能上，步調應該放緩。”

DeepMind已經提出針對這種可能性的保護措施。在2016年題為“安全中斷代理”的論文中，該公司勾勒了一個框架，用于防止高級機器忽略關閉命令，成為失控的流氓代理。

值得注意的是，據界面新聞報道，為期三天的全球人工智能峰會于9月13日正式在沙特阿拉伯利雅得開幕，該峰會由沙特數據和人工智能局(SDAIA)舉辦，由來自世界各國民營企業領導者、政府官員和知名學者共商人工智能未來。

峰會上發布了《利雅得人工智能行動宣言》，概述了數字合作組織(DCO)運用人工智能技術來造福人類、社區、國家和全世界的長期愿景。沙特阿拉伯也發布《人工智能道德準則》，該框架由沙特數據與人工智能局(SDAIA)基于全球和沙特的標準制定，是把人工智能道德納入整個人工智能系統開發生命周期的實用指引。

標簽： 人工智能 牛津大學 研究人員