科技界高管警告AI带来的威胁堪比疫情和核战

2023年5月31日11:20 CST 更新

科技界高管和人工智能(AI)科学家正在对AI敲响警钟，他们在周二的一份联合声明中表示，这项技术带来的灭绝风险堪比疫情和核战。

超过350人签署了人工智能安全中心(Center for AI Safety)发布的一份声明，该组织表示，致力于降低AI风险。

该组织表示，与疫情和核战争等其他社会规模的风险一样，减轻AI带来的灭绝风险应该成为全球的优先事项。

签署者表示，他们希望就AI最严重的风险展开讨论。开发了ChatGPT的公司OpenAI的首席执行官Sam Altman和该公司首席技术官Mira Murati也签署了这份声明。

其他签署者包括微软(Microsoft, MSFT)首席技术官Kevin Scott，谷歌(Google)AI高管Lila Ibrahim和Marian Rogers，以及前联合国裁军事务高级代表Angela Kane。Skype和Quora的领导者也签署了该声明。

科技行业对AI表达了兴奋之情，但对该技术可能会失控的担忧也在上升。自OpenAI去年发布ChatGPT以来，批评人士加大了对AI进行监管的呼吁，称该技术对人类构成了无法估量的威胁。

近几个月来，随着投资者押注他们认为的新计算时代，AI股大幅上涨。周二，开发AI技术的半导体公司英伟达(Nvidia, NVDA)成为首家估值达到1万亿美元的芯片制造商，加入全球万亿美元公司名单，该名单上还有苹果公司(Apple, AAPL)、微软、亚马逊公司(Amazon.com, AMZN)和谷歌母公司Alphabet (GOOG)。

今年3月，AI专家和包括马斯克(Elon Musk)在内的科技公司高管签署了一封信，呼吁AI开发人员暂停其在这项技术上的工作。他们表示，暂停至少六个月将使该行业有时间为AI设计制定安全标准，并遏制风险最大的AI技术的潜在危害。

签署者周二表示，虽然公众一直承认AI的风险，但还有更多的挑战需要讨论。他们还希望越来越多的专家和公众人物形成共识，他们也非常重视先进AI的一些最严重的风险。

这份线上声明还提供了让AI科学家、教授、高管和领导者可以签名的选择。

AI本质上是指电脑通过从大量数据中学习实现模仿人类反应的能力。

科技行业多年来一直在开发AI，但在去年11月OpenAI发布ChatGPT后，这项技术得到了更广泛的应用。这个免费的聊天机器人可以快速回答几乎任何问题，可让用户获取工作和学校相关问题的答案。ChatGPT的答案有时是错误的。支持者表示，这项技术有可能改变各个行业，重塑部分工种。

ChatGPT的发布在谷歌和微软等科技公司中引发了一场推出类似技术的竞赛。

领导者和科技行业高管已经警告过AI带来的危险，但周二的签署者表示，他们还没有讨论最紧迫的风险。

拜登政府最近几个月表示，AI对公共安全、隐私和民主构成威胁，但政府监管它的权力有限。比尔‧盖茨(Bill Gates)曾表示，他认为AI应该得到适当的监管，但他也表达了对这项技术的兴奋之情。他没有在周二的声明上签字。

网络安全负责人们表示，AI有明显的益处，但早期生成式AI相关承诺和风险都被夸大了。