中国提出针对生成式AI产品的严格管理办法

2023年4月12日10:15 CST 更新

中国最高互联网监管机构周二公布了针对类似ChatGPT的AI工具的拟议管理办法，在生成式AI构成的挑战引发担忧之际，中国此举走在了努力驯化这种新技术的世界各地政府的前列。

管理办法的公布适逢中国一些顶级科技公司推进把这一新生技术融入自身服务的计划。

据管理办法征求意见稿，中国国家互联网信息办公室（简称：国家网信办）将要求公司在提供此类服务之前向国家网信部门申报安全评估，并让公司对其AI服务生成的内容负责。按照相关规定，利用生成式AI生成的内容不得含有颠覆国家政权、煽动分裂国家或者可能扰乱社会秩序的内容。

上述拟议管理办法表明，中国领导人希望强化对这项新技术的监管，尽管中国政府目前放松了针对本国互联网公司的一场持续两年的监管整顿行动。

世界各国政府正在讨论是否以及如何管理新一波生成式AI工具，全球一些顶尖科技专家警告说，这类工具可能被用来传播有害信息或用于歧视。在美国，拜登政府已经开始研究是否需要对这些工具进行管理。意大利暂时禁用ChatGPT，称该AI聊天机器人不当收集和储存了信息。

在国家网信办发布管理办法的同一天，阿里巴巴集团控股有限公司(Alibaba Group Holding Ltd., 9988.HK, BABA, 简称：阿里巴巴)推出了名为“通义千问”的大语言模型。该公司计划将其整合到搜索引擎、语音助手以及娱乐和电商等产品中。

此前一天，以人脸识别系统等监控产品闻名的商汤集团股份有限公司(SenseTime Group Inc., 0020.HK, 简称：商汤)推出了类似ChatGPT的服务“商量SenseChat”，以及基于其AI大模型体系“日日新SenseNova”的一系列应用。华为技术有限公司(Huawei Technologies Co.)上周六表示，已经向金融、医药和气象等行业的企业客户推出了基于“盘古”的服务；“盘古”是该公司自2019年以来一直在开发的AI大模型。

虽然中国的科技公司表示其AI产品仍然落后于OpenAI的ChatGPT，但它们正在推动开发自己版本的服务应用。OpenAI的ChatGPT在中国无法使用。在互联网行业近年来经历监管收紧和经济低迷打击后，生成性AI可能为该行业带来新的收入机会。

这些公司必须克服各种阻力，包括在采购训练AI模型所需的先进制程芯片方面面临来自美国的限制，以及中国严格的审查政策。

香港中文大学（深圳）(Chinese University of Hong Kong, Shenzhen)国际事务研究院精研科技监管和全球治理的游传满说，相比其他司法辖区正在讨论的一般指导方针，中国拟议的规定可能过于详细。他说，中国的规定将包括禁止对用户进行分析、对AI生成的内容进行严格控制，中国正在发展先进技术方面与美国竞争，而这些限制可能会影响创新。

游传满说，就全球治理而言，AI是一个挑战。他称，不同国家的政府应该共同努力，制定一套全球标准。

根据这份征求意见稿，公司将承担保护用户个人信息的责任，而开发者用于训练其AI产品的数据应符合中国法律法规的要求。

行业观察人士表示，中国的审查规则不仅限制了AI可能产生的内容，而且还限制了中国开发者可以用来训练其产品的素材，使其可用的素材数量与外国竞争对手相比少得多。

国家网信办没有说明上述规定何时实施，目前正在公开征求意见，意见反馈截止时间为2023年5月10日。

上个月，中国的搜索引擎公司百度(Baidu.com Inc., BIDU, 9888.HK)在中国的互联网公司中率先发布了AI聊天机器人文心一言(Ernie Bot)。

更多的中国科技公司紧随其后，寻求将耗资数亿美元开发的AI技术商业化。

封面图片制作：Preston Jessee for The Wall Street Journal WSJ S Chinese

自2019年以来，阿里巴巴一直在开发自己的大语言模型，并在去年9月推出了其自研模型框架通义千问，将几个生成式AI模型组合在一起。

该公司首先将把通义千问接入到企业即时通讯应用钉钉(DingTalk)；“通义千问”即通过不断提问获得真理。它可以用来总结会议记录，以及起草电子邮件和商业提案。该公司说，该AI模型还将被嵌入到阿里巴巴的语音助手天猫精灵(Tmall Genie)中，能够提供食谱和旅游攻略等。

阿里巴巴的聊天机器人能够生成文本、计算机代码并进行数学运算，但尚不允许用户制作图片。阿里巴巴说它能够处理中文和英文任务。

在周一的现场演示中，主要处理中文问题的商汤的聊天机器人能够产生文本、计算机代码和图像。该公司还用它来总结学术论文、提供医疗建议。商汤总部位于香港，投资者包括阿里巴巴和软银集团股份有限公司(SoftBank Group Corp., 9984.TO)。

“只是拥有一个模型还不够，”Bernstein Research的分析师Boris Van谈到中国科技公司在AI方面付出的行动时说。“你需要有产品和应用来整合模型，并使用模型来提供客户实际想要的东西。”