这些是对 AI 的 3 大恐惧。他们真的堆积如山吗？

人工智能与核战争和全球流行病一样危险。

这是根据人工智能安全中心 (CAIS) 发布的最新警告得出的。该声明得到了 AI 行业主要参与者的支持，其中包括ChatGPT创建者OpenAI的负责人Sam Altman。 

该警告是最近几个月发出的众多警告之一。该技术的一些早期创造者声称，我们正朝着毁灭人类的方向奋勇前进，而其他人则警告说，迫切需要监管。

其中一些陈述让人们难以理解越来越夸张的说法。

剑桥大学人工智能专家兼助理教授大卫克鲁格表示，虽然人们可能希望在谈到人工智能的存在风险时有具体的场景，但仍然很难以任何程度的确定性指出这些场景。

“我并不担心，因为从某种意义上说，存在迫在眉睫的威胁，我可以确切地看到威胁是什么。但我认为我们没有太多时间为即将到来的潜在威胁做准备，”他告诉 Insider。

考虑到这一点，以下是专家们担心的一些潜在问题。

1. 人工智能接管

最常提到的风险之一是人工智能将脱离其创造者的控制。

通用人工智能 (AGI) 是指在广泛的任务中与人类一样聪明或比人类更聪明的人工智能。当前的人工智能系统没有感知力，但它们被创造得像人类一样。例如，ChatGPT 旨在让用户感觉他们正在与另一个人聊天，Janis Wong 在谈到艾伦图灵研究所时说。

据 Insider 的Aaron Mok 报道，专家们对如何准确定义 AGI 存在分歧，但普遍认为这项潜在技术对人类构成危险，需要进行研究和监管。

克鲁格说，这些危险最明显的例子是国家之间的军事竞争。

他说：“与自主武器的军事竞争——系统的设计能够影响物理世界并造成伤害——这样的系统最终如何杀死很多人似乎更加清楚。” 

“当我们拥有比人类更聪明的先进系统时，未来由人工智能驱动的全面战争场景，我认为系统很可能会失去控制，最终可能会杀死所有人，”他说添加。

2. 人工智能导致大规模失业

越来越多的人认为人工智能对某些工作构成威胁。

蒙特利尔人工智能伦理研究所创始人 Abhishek Gupta表示，人工智能引发的失业前景是最“现实、直接，或许也是紧迫”的生存威胁。

“我们需要看看人们在集体失业时会感到缺乏目标，”他告诉 Insider。“它的存在主义部分是人们将要做什么以及他们将从哪里获得目标？”

“这并不是说工作就是一切，但它是我们生活的一部分，”他补充道。

CEO们开始公开他们利用人工智能的计划。例如，IBM 首席执行官 Arvind Krishna 最近宣布，该公司将放慢对可被AI 取代的职位的招聘。 

“四五年前，没有人会说这样的话，也不会被认真对待，”古普塔谈到 IBM 时说。

3. 人工智能偏见

专家告诉 Insider，如果人工智能系统被用来帮助做出更广泛的社会决策，系统性偏见可能会成为一个严重的风险。

已经有几个生成人工智能系统存在偏见的例子，包括早期版本的 ChatGPT。OpenAI添加了更多护栏，以帮助 ChatGPT 避免用户向系统询问攻击性内容的问题答案。

根据 Insider 今年早些时候进行的测试， 生成式 AI 图像模型会产生有害的刻板印象。

古普塔说，如果用于做出现实世界决策（例如批准福利）的人工智能系统存在未被发现的偏见，可能会产生严重后果。

Wong 表示，训练数据通常主要基于英语语言数据，而用于训练其他不同语言的 AI 模型的资金有限。

“所以有很多人被排除在外，或者某些语言​​的培训不如其他语言，”她说。