AI深伪视频会议诱骗香港公司职员转账2,500万美元
图片来源：GETTY IMAGES
一家香港跨国公司亲身体验了AI是如何被用来做坏事的，此前一名职员在一次电话会议后不知情地转账2亿港元（合2,550万美元），结果发现电话会议完全是假的。
据公共广播公司香港电台(RTKH)和《南华早报》(South China Morning Post)周一报道，该职员上个月收到假冒公司首席财务官的邀请，参加一个视频会议。
该职员看到出席视频会议的人士容貌和声音都与真实同事完全一样，就按照指示分15次，向五个本地银行账户转账2亿港元。这名职员是在后来与公司负责人交谈后才意识到事情不对劲。
香港警方网络安全及科技罪案调查科网络安全组署理高级警司陈纯青在香港电台播出的新闻发布会上说，相信是诈骗分子事先下载了有关人士的视频，然后利用AI配上伪冒声音，预制成欺诈片段，套用在视频会议。
深伪是指通过计算机生成伪造的图像、视频或音频片段。
陈纯青表示：过去，我们会认为这些骗局只涉及两个人一对一的情况，但从此案中我们可以看到，欺诈者能够在在线会议中使用AI技术，因此即使在有很多人参加的会议中，人们也必须保持警惕。
美国监管机构上个月警告投资者，深度伪造活动日益猖獗，比如利用AI技术冒充孙辈向祖父母要钱，或者伪造公司首席执行官发布股票敏感性公告的视频。上个月，世界经济论坛(World Economic Forum)将AI生成的虚假信息列为全球经济面临的最大风险。
这也是许多人担心今年可能出现的情况，毕竟今年的美国总统大选将首次面对随处可见的AI工具。AI技术专家、华盛顿大学(University of Washington)荣休教授Oren Etzioni去年年底告诉PBS，他预计会出现“错误信息的海啸”。
上个月格莱美(Grammy)奖得主泰勒·斯威夫特(Taylor Swift)的深度造假露骨图片在社交媒体上疯传之后，美国两党参议员提出了一项法案，将把传播“数字伪造信息”的行为定为犯罪。
（本文译自MarketWatch。MarketWatch由《华尔街日报》母公司道琼斯运营，但MarketWatch独立于道琼斯通讯社和《华尔街日报》。）