欧盟抢头香达成人工智能监管“里程碑式”协议 - 生态 健康与科技
欧盟谈判代表就世界上首个全面的AI法规达成历史性协议，此举将欧盟置于技术治理的前沿。这项被称为《人工智能法案》的协议，标志着人工智能技术法律监督的一个重要里程碑。该立法草案仍需得到欧盟成员国和议会的正式批准。当前美国国会并未对AI技术采取有意义行动，因此欧盟的立法将为这项快速发展的技术监管定下基调。
据路透社报道，在欧洲议会和欧盟27个成员国之间的紧张谈判后，该协议最终在上周五12月8日敲定。这些讨论集中在解决有争议的问题上的关键分歧，包括生成式AI和警察部队使用面部识别监控。经过逾33小时的马拉松谈判，负责欧盟内部市场和产业政策的执行专员蒂埃里·布雷顿（Thierry Breton）在周五午夜前宣布，“这是历史性的一刻”！使得欧盟成为第一个为AI使用制定明确规则的大陆。欧盟的目标是在亚洲以外的地区，首次颁布有关AI技术的严格监管措施。
报道指出，议案谈判的关键是像OpenAI的ChatGPT这样的生成式AI系统的迅速出现。这些系统以其类似人类的能力吸引了全球关注，但同时也激起了关于可能对就业、隐私乃至人类生命带来风险的辩论。最初于2021年提出的《人工智能法案》已经更新，以反映生成式AI的最新发展。它根据风险级别对AI功能进行分类，并包括了对支撑通用AI服务的基础模型的规定。这些模型现在需要确保技术文件符合欧盟版权法，并在训练内容上保持透明。
谈判中最有争议的话题之一，就是使用AI驱动的面部识别监控系统。然而，欧盟谈判者达成了折中方案，允许执法机关为打击严重犯罪而使用这类系统，尽管人权团体对隐私侵犯表示关注。
据了解，AI法案的影响可能会超出欧盟范围，为全球AI法规树立标准。受这些规则约束的公司可能会将某些义务扩展到其他市场，以提高效率。该法案还强调了欧盟在平衡技术创新与安全和伦理考虑需求方面的承诺。
然而，AI法案的最终版本受到了民间社会团体和权利组织的批评。令人担忧的问题包括对执法部门的豁免、缺乏在移民和边境控制中的保护，以及开发商在避免将其系统归类为高风险系统方面存在的潜在漏洞。
外界注意到，除欧盟外，美国拜登政府为企业提供了自愿监管安全风险的余地。据纽约时报报道，白宫在今年7月宣布，包括亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI在内的多家人工智能研发企业都已同意对这些系统进行自我监管。
报道表示，这些自愿监管承诺包括对工具进行第三方安全测试，即所谓的“红队检测”；对偏见及隐私问题进行研究；向政府和其他机构共享风险信息；开发能够应对气候变化等社会挑战、同时还包含识别人工智能生成素材的透明性措施的工具。各家企业已经在履行以上的许多承诺。
美国基于技术制定的法案：任何针对人工智能的实质性监管都必须来自国会。参议院多数党领袖、纽约州民主党人查克·舒默已承诺，一项全面的人工智能法案可能于明年出台。
但议员们目前已提出了关注人工智能系统创造和部署的法案。这些提案包括设立一个类似于食品药物管理局的机构，来监管人工智能服务供应商，审核新系统的牌照，并制定各类标准。
其他法案则重点关注了人工智能系统通过吸收知识产权来创建自身系统的版权侵犯行为。有提案还讨论了选举安全和限制使用“深伪”技术的问题。
事实上，许多专家表示，有效的人工智能监管需要全球合作。到目前为止，在此问题上的外交努力几乎没有取得什么实质性成果。其中的一个想法是建立国际性机构，效仿为限制核武器扩张而创立的国际原子能机构。但难点在于要克服地缘政治不信任、经济竞争和民族主义浪潮，这些因素都已经与人工智能的发展紧密相连。