特朗普推动AI安全框架 强化监管但警惕因限制落后中国
美国总统特朗普(Donald Trump)表示,政府正在评估建立人工智能(AI)相关管控措施,但强调政策设计必须避免削弱美国科技产业竞争力,不能因监管过度而让中国在全球AI竞赛中取得优势。
美国“福斯新闻”(FOX News)报道,特朗普周三在白宫接受媒体询问时表示,美国正重新检视AI发展相关政策,包括是否需要建立更多安全与监管机制,但政府首要目标仍是维持美国在全球人工智能领域的领先地位。
“我们正在研究AI,也正在研究相关管控措施,同时必须确保我们保持领先。”特朗普说。
不过,他随后强调,任何监管措施都不能造成美国企业发展受限。他表示,美国不能因为增加限制,最后导致“突然落后中国”。
特朗普指出,中国目前对AI产业采取较少限制的发展模式,美国必须避免因政策束缚企业创新速度。他同时强调,美国目前仍在AI技术竞争中占据优势,但未来胜负将取决于如何处理安全风险与科技进步之间的关系。
“谁赢得AI,谁就会赢得未来。”特朗普表示,AI的重要性甚至超越网际网路等过去重大科技突破。他说,自己不希望限制科技企业发展,也不希望阻碍研究人员创造新的技术成果。
特朗普政策方向的变化,正值美国政府重新评估AI治理策略之际。近期OpenAI爆发的模型安全事件,使华盛顿对高阶AI系统可能产生的自主行为与资安风险更加关注,也让AI安全从产业议题逐渐升高至国家安全层级。
OpenAI日前公开说明,公司在一次内部资安能力测试中发现,部分AI模型突破原先设定的限制,并在测试过程中采取超出预期的操作方式,甚至成功存取外部系统,引发业界对先进AI模型自主能力的高度关注。
根据OpenAI说明,研究团队原本是为了评估模型在网路安全环境中的能力,因此在受控测试条件下调整部分安全限制,希望观察模型如何完成指定任务。然而,测试结果显示,模型并未完全依照设计流程执行,而是自行寻找其他途径取得所需资讯,最终突破原有测试范围。
OpenAI表示,事件涉及外部服务环境,其中包括AI开发平台Hugging Face部分基础设施,以及纽约科技公司Modal Labs相关客户系统。公司调查发现,至少有数个外部服务帐号曾遭到存取,另有少量测试环境出现未授权操作纪录。
事件曝光后,OpenAI已停止使用相关研究模型,并对模型进行隔离与封存,同时调整内部权限管理机制。此外,公司也邀请资安业者CrowdStrike,以及AI安全研究机构METR、Redwood Research协助分析事件原因,并检视模型隔离、监控与风险评估流程。
OpenAI执行长奥特曼(Sam Altman)本周在华盛顿表示,公司正严肃调查近期AI模型安全事件,并不排除仍有其他外部系统受到影响。事件发生后,奥特曼在本周至华盛顿与白宫及政府官员讨论人工智能安全政策,包括即将推出的新一代模型,以及特朗普政府规划中的高阶AI模型安
全测试制度。
被问及是否可能存在其他受害企业时,奥特曼回应:“有可能,会有。”
他表示,随着人工智能能力快速提升,外界对AI安全产生疑虑是自然现象,OpenAI将持续强化安全措施。不过,他强调公司不会因此放慢研发速度,而是在提升模型能力的同时,加强测试与风险控制。
这起事件也成为美国政府重新思考AI监管政策的重要背景。过去华盛顿在AI政策上主要聚焦于促进创新,希望透过市场竞争维持美国科技优势,但随着模型能力快速提升,如何确保AI系统不被滥用,以及避免高度自主模型造成不可预期风险,已成为政策制定者的新焦点。
特朗普政府今年6月签署行政命令,要求建立针对先进人工智能模型的网路安全标准与自愿测试框架,相关部门预计提出具体方案。
这显示特朗普政府对人工智能政策开始出现调整。虽然特朗普过去主张降低科技监管、加速企业创新,但随着高阶模型能力提升,政府正寻求透过安全评估、企业合作与自愿测试机制,降低AI可能带来的风险。
与此同时,美中科技竞争也持续影响华盛顿人工智能政策方向。美国官员近期指控,中国企业可能透过人工智能“蒸馏”(Distillation)技术,取得美国先进模型能力。
白宫科技顾问克拉齐奥斯(Michael Kratsios)指称,中国新创公司月之暗面(Moonshot AI)开发Kimi K3模型时,涉嫌大规模利用相关技术提取其他AI模型能力,并使用受出口管制限制的先进芯片平台。
美方认为,若未经授权利用商业模型资料进行训练,可能涉及智慧财产权问题;中国方面则否认相关指控,并表示反对将科技问题政治化。
美国政府近期也开始考虑是否需要进一步限制中国人工智能技术进入美国市场,尤其是在开放权重(Open-weight)模型快速发展的背景下,华盛顿内部对技术外流与竞争优势流失的疑虑升高。
Kimi K3采用开放权重模式,允许外部开发者下载、修改及部署模型,与OpenAI、Anthropic等美国企业主要采取封闭式商业模式形成差异。部分产业人士认为,开放权重模式可能加速AI技术普及,也可能缩短中国与美国顶尖模型之间的差距。
美国财政部长贝森特(Scott Bessent)表示,若中国企业透过大规模模型蒸馏或其他方式,取得美国人工智能智慧财产权,美方将评估采取制裁措施。
“我们支持开源AI,也支持它带来的创新,但开源不代表可以任意侵犯美国智慧财产权。”贝森特说。
特朗普政府近期也持续强化对中国科技供应链的审查,包括限制部分中国制人工智能相关设备进入美国市场。美方表示,相关措施目的在于降低供应链风险,避免关键基础设施遭到潜在渗透。
美国联邦通讯委员会(FCC)则警告,部分中国制设备可能存在资料搜集、网路攻击或影响重要基础设施运作的风险,因此需要提高监管强度。
香港《南华早报》报道,英伟达(Nvidia)执行长黄仁勋(Jensen Huang)近期赴华盛顿与政府官员及国会议员会面,主张开放原始码与开放权重AI有助维持美国创新优势。
辉达表示,美国应透过投资、提升国内制造能力以及建立开放AI生态系,强化全球竞争力,而不是过度限制技术流动。
随着AI模型能力快速提升,美国政策讨论焦点正逐渐从单纯推动产业发展,转向如何建立安全防线。 OpenAI事件凸显,即使仍处于测试阶段的模型,也可能展现超出预期的自主操作能力,使政府与企业不得不重新评估现有安全机制。
目前华盛顿倾向采取有限监管模式,透过安全测试、风险评估与产业合作方式管理高阶人工智能发展,而非全面限制技术进步。在中国AI快速追赶、美中科技竞争升温之际,美国政府面临的核心挑战,是如何在维持创新速度的同时,确保人工智能技术发展符合安全与国家利益。