美国着手应对来自中国AI的潜在威胁

2023年6月19日14:20 CST 更新

拜登(Joe Biden)政府正在努力解决如何识别对国家安全构成威胁的人工智能(AI)的问题；在美国采取行动遏制对中国先进技术公司的投资之际，这是美国面临的一个核心挑战。

数月来，拜登政府官员一直在准备一项新的行政命令，将限制美国对一些地缘政治对手（比如中国）的投资。目的是防止美国私募股权投资公司和风投公司助力中国开发可能有助于中国军事的尖端技术。

为了保持美国相对于中国的技术优势，华盛顿做出了一连串努力，包括去年对部分先进半导体实施出口限制，美国这些举措一直是美中关系中的一个决定性问题。美国国务卿布林肯(Antony Blinken)已于周末前往北京，在那里，他可能会面临来自中国官员的抱怨，他们认为美国在试图利用投资限制之类的举措阻碍中国经济增长。

与此同时，美国官员将拟议的资本管控措施视为针对所谓国家安全威胁的一个有针对性的步骤。他们试图制定相关的投资规则，以使该资本管控措施不会危及中美这两个全球最大经济体之间广泛的投资和贸易流动。

但是，据熟悉讨论情况的人士说，事实证明，对于拜登政府来说，区分北京可能用来推进军事发展的技术和中国企业用于日常商业目的的技术并非易事，尤其是在涉及到AI的情况下。

上述知情人士称，这一困境是有关该行政命令尚未解决的问题之一。作为一项为期一年的试点项目的一部分，预计该行政命令将禁止对先进制程半导体和量子计算的投资。这些人士表示，上述规定可能会禁止投资某些形式的AI，或者只是对这类AI提出新的信息披露要求。

“从很多方面来看，AI是一个毫无意义的类别。AI涵盖了从Netflix (NFLX)推荐算法到自主武器系统以及介于两者之间的一大堆东西，”彼得森国际经济研究所(Peterson Institute for International Economics)研究资本和技术控制的马永哲(Martin Chorzempa)说。“这极难定义。”

美国国家安全委员会(National Security Council)的一名发言人说，美国在这项行政命令上正在取得进展。几个月来，投资者和游说者一直期待该行政命令的公布。

这位发言人说：“这是一个复杂的过程，我们希望确保我们把事情做对，而这需要一些时间。”

虽然某些形式的AI是为了完成特定的功能而开发的，但许多AI公司专注于构建通用的系统，这些系统可以经过训练来执行各种任务。

由于ChatGPT和其他所谓的生成式AI工具迅速被消费者采用，全球正迎来AI初创公司投资热。这些AI工具可以根据书面提示即刻创建文本、图像、视频和计算机代码。

AI技术预计将有广泛的商业用途。但研究人员举例说，为计算机编码设计的AI模型可以轻易被用于黑客攻击活动，而本意是帮助设计药物的模型也可以用于生产新型化学武器。

信息技术和创新基金会(Information Technology and Innovation Foundation)的副主席Daniel Castro说：“如果使用AI去生成图像，既可能被用来运行战争模拟，也可能用于电子游戏。”

由于ChatGPT和其他所谓的生成式AI工具迅速被消费者采用，全球正迎来AI初创公司投资热。

图片来源：Richard Drew/Associated Press

其他形式的AI技术应用也会带来类似的挑战。乔治城大学(Georgetown University)的研究人员最近撰写了一份记录美国在中国的AI领域风险投资的报告，据这些研究人员称，美国手机芯片制造商高通公司(Qualcomm Inc., QCOM)旗下的一个风投部门在2016年投资了位于北京的初创公司七鑫易维(7Invensun)，后者致力于制造一种以AI驱动的眼球运动轨迹追踪工具。

七鑫易维的技术可用于虚拟现实眼镜或其他消费产品，但也可能涉及军事或安全用途，比如红外面部识别相机或战斗机飞行员的培训。乔治城大学的研究人员Emily Weinstein和Ngor Luong写道，七鑫易维已披露与一家中国国有国防公司和中国人民解放军空军航空大学有合作。

高通和七鑫易维的代表都未回复置评请求。

任何禁止类似于高通公司此类投资的政策，都会在表述和执行上令人棘手。仅仅检查特定AI系统的代码未必能揭示该系统的性能，因为此类系统可以根据新的数据快速训练，进而完成新的任务。先进的AI系统还可能涉及极为复杂的计算过程，这些过程会产生意想不到的结果，因此很难对系统的输出进行限制。

新美国安全中心(Center for a New American Security)的研究员Tim Fist表示，这些系统确实很难可靠地确保安全，它们本质上是“黑匣子”。

乔治城大学的上述报告发现，2015-2021年，美国投资者参与了中国AI公司的401笔交易，同期完全来自美国投资者的投资总额达到了74.5亿美元。

在美中关系紧张的背景下，红杉资本最近宣布将中国和美国业务分开。

图片来源：Smith Collection/Gado/Getty Images

但美国对中国先进技术的投资受限的阴影已经让一些美国公司对中国市场望而却步。在美中关系紧张的背景下，知名风投公司红杉资本(Sequoia Capital)最近宣布将中国和美国业务分开。根据国际金融协会(Institute of International Finance)的数据，2023年中国的外商直接投资累计净额将触及近20年来的最低水平。

中国驻美国大使馆的一位发言人表示，美中两国应该追求健康的经济竞争。

该发言人表示，针对某些国家的公司的歧视性限制违背国际经济和贸易基本原则。该发言人还称，中国将密切关注相关动态，坚决维护自身权益。

拜登(Joe Biden)政府之前对先进制程半导体的出口禁令将是试图阻止AI公司获得开发最复杂模型所需算力的一种方式。该禁令已促使一些中国AI公司尝试在没有尖端芯片的情况下开发高级AI。美国此前还禁止了出口用于地理空间图像自动化的AI技术。

尽管如此，拜登政府官员仍然担心，美国投资者可能会将宝贵的知识和专业技能转移给中国初创企业，让后者可以开发自己版本的先进技术，包括半导体。美国的风投公司通常会让所投资的公司获得在其他地方可能无法获得的行业知识和人脉。

“在中国永远不会有不构成任何风险的投资，”安全和新兴技术中心(Center for Security and Emerging Technology)的研究员Weinstein称。“美国政府需要决定的是他们能承担多少风险，并在那里画定界限。”