美国官员对AI的网络安全影响表示担忧

美国网络安全官员在旧金山莫斯康中心举行的2023年RSA Conference上讨论了人工智能的风险。

图片来源：RSA CONFERENCE

美国网络安全高级官员表示，人工智能(AI)的所有积极和消极方面仍然是未知的，公司急于通过部署新模型来满足流行趋势，可能会使自己暴露在风险中。

美国网络安全与基础设施安全局(Cybersecurity and Infrastructure Security Agency, 简称CISA)负责网络安全的执行助理主任Eric Goldstein在周三的网络安全会议RSA Conference上接受采访时说：“AI有广泛的风险加益处。”

借助机器学习和其他AI学科领域的重大进展，分析师可以快速解读大量数据，或者在人类尚未注意到的情况下，系统就可以更快地提醒防御者注意漏洞。他说，但也有可能造成伤害。

“想想AI在围棋和国际象棋等游戏中从根本上不具有人性的表现。那么，当AI红队或对抗性AI试图以防御者从未想过的方式实施入侵时，它会是什么样的？”Goldstein说，他指的是AI模型，这些模型可加以部署，以善意的方式测试一个组织的网络防御系统，也可能试图恶意侵入系统。

他说，该机构正在研究这两个角度，然后就AI部署的最佳做法提出建议。

美国国家安全局(National Security Agency)网络安全总监Rob Joyce在会议上与记者见面时说：“你看到社会上部署生成式模型的情况飙升。”他说，大量的公开宣传可能会增加风险。

他说：“AI领域有一些知识产权的改进，将是值得关注的目标，对于这方面的保护，我认为公司需要担忧。”

Joyce说，中国黑客长期以来一直对具有军事和经济价值的知识产权感兴趣，而AI这两方面都具备。中国政府一贯否认从事窃取知识产权的活动。