专家如何看待人工智能对就业、气候和网络战的影响？
2023 年，随着世界以前所未有的方式向人工智能技术开放，人们对人工智能 (AI) 技术的担忧也不断升级。此前，第一代 ChatGPT 的推出引发了轩然大波，这些担忧促使世界各地的科技爱好者成立了“全球人工智能安全峰会”，由 60 岁的加拿大计算机科学家约书亚·本吉奥（Yoshua Bengio）担任主席。
峰会讨论了全球关注的各个方面，从未来的就业及人工智能对其的影响，到网络攻击、深度伪造技术和人工智能生成的内容，再到人工智能对环境和全球气候的影响，甚至到通过人工智能开发武器等方面。
今年，峰会发布了一份全面的报告，解决了人们对人工智能技术的所有担忧，特别是在人工智能取得重大进展，以及加州大火被怀疑与人工智能有关之后，报告包括以下几点：
全球就业担忧
人工智能技术给劳动力市场带来的风险是该报告的重要组成部分，特别是当企业不断努力引入能够执行各种可能超越人类功能的通用人工智能技术时。
报告在劳动力市场风险部分首先描述了人工智能对劳动力市场的影响，并指出，随着2025年人工智能代理技术的发展，这种趋势将更加深刻，影响更加深远，人工智能代理技术是针对特定功能而定制的、能够超越人类能力的人工智能技术。
报告这样描述人工智能的影响：“通用人工智能——特别是如果它继续快速发展，有可能实现非常广泛的任务自动化——可能会对就业市场产生重大影响，意味着许多人可能会失去目前的工作。”
尽管报告指出，人工智能创造的许多相关工作岗位会产生适得其反的效果，但这需要人们获得现有工人可能无法获得的新技能。
根据国际货币基金组织的一份报告，海湾国家、美国和英国等发达经济体 60% 的就业岗位受到人工智能技术的负面影响。这意味着这些市场中超过一半的工人可能会因人工智能技术而失业。托尼·布莱尔研究所的一份报告进一步证实了这一点，该报告指出，尽管未来将创造数十万个就业岗位，但仅英国私营部门就将失去 300 万个工作岗位。
报告将这种影响归因于人工智能在自动化任务方面的能力及其到今年年底的发展程度。埃隆·马斯克在 2023 年与英国时任首相里希·苏纳克谈到了这一点，称人工智能可能会彻底取代人类的工作。
报告在商业领域部分的最后指出，人们对于就业的看法在很大程度上存在冲突，人工智能对各个行业的影响存在普遍的不确定性。这是因为某些行业需要人类工人，无论人工智能自动执行任务和独立执行任务的能力有多强。
对环境的影响越来越大
报告指出，尽管人工智能近年来发展迅速，但其对环境的影响仍然有限。对能够运行新人工智能技术的强大数据中心的需求不断增长，这是因为这些数据中心仍然主要依靠电力来运行和训练其现有技术。
目前，数据中心消耗的能源约占全球总能源消耗的 1%，而人工智能则占数据中心总能源消耗的 28%。报告还指出，随着人工智能技术的发展及其所执行任务的复杂性，这种消费正在增加。
人工智能技术在能源消耗方面的问题在于，仅限于使用可再生能源的研究将无法跟上人工智能领域的发展。该报告还指出，人工智能公司已经证明他们的竞赛忽视了其技术的各种环境目标。
关于人工智能技术的用水量问题，由于缺乏报告影响所需的数据，该报告尚无定论。水主要用于冷却数据中心，这对人类可持续获得清洁水的权利构成了重大威胁。
担心失去控制
尽管许多科幻电影都涉及了这个问题，但《全球人工智能安全报告》指出，这些担忧是真实存在的，并不局限于科幻电影，特别是当企业正在开发能够以难以控制的方式超越人类能力的人工智能技术时。
本吉奥告诉《卫报》，目前的人工智能技术无法超越人类的控制，因为它们的长期规划和执行能力有限。然而，如果这种情况真的发生，人们的担忧就会变得如此真实，以至于需要法律和立法干预来削弱它们。
人工智能开发生物武器
报告指出，现代人工智能模型能够生成威力强大的生物武器，其威力超出了博士学位持有者所能生成的水平，这增加了其用于制造对人类生命构成真正威胁的生物武器的可能性。
然而，报告指出，发展这些武器存在一个根本障碍，特别是在缺乏能够搭载此类先进武器的装备，以及广泛使用和发挥影响所需的规划过程的情况下，然而，这并不能完全消除威胁。
人工智能增强的网络安全攻击：最大的威胁
关于利用人工智能进行的网络安全攻击问题，该报告明确将其描述为最大的威胁，特别是考虑到随着深度伪造技术的进步，能够自动进行攻击的人工智能机制可能会得到发展。
报告指出，网络攻击面临的最大威胁在于深度伪造与网络攻击自动化之间的相互关联，黑客可以自动发起网络攻击，生成非专家难以检测的深度伪造视频和文本。
一个明显的例子或许是一位法国女性的遭遇，她遭受了深度伪造的网络攻击，使她相信家用冰箱正在和她说话，向她要钱，并承诺在不久的将来娶她。
报告强调，需要出台立法，禁止这些用途，并对直接从事这些活动的公司进行处罚，以大幅降低举报风险。