以色列向世界展示人工智能最丑陋的一面
人工智能被视为人类迈向更美好未来的下一步；这一工具有望彻底改变医学、教育、工业、内容以及人类与信息的交互等重要领域。
但这一工具已逐渐变得更加致命和具有破坏性：成为世界各地军队手中的数字武器。
阅读更多
随着各国政府和科技公司就使用生成式人工智能的道德和政策展开激烈争论，而以色列则提供了一个将这项新技术军事化的实用模式，将其转变为一种工具，帮助其扩大在被占领的巴勒斯坦领土内进行杀戮、监视和间谍活动的范围。
在全世界目睹了占领军在加沙地带发动的种族灭绝战争，目睹了利用人工智能系统轰炸和杀害无辜人民之后，以色列并没有局限于利用这些系统进行直接杀戮。以色列杂志《972+》与希伯来语平台《Local Call》和英国报纸《卫报》合作进行的一项新新闻调查显示，以色列军方正在开发一种类似于 ChatGPT 聊天机器人所使用的新型基础 AI 模型。
然而，与传统模型不同，这一新模型并非基于互联网上数百万个数据集进行训练。相反，以色列情报部门通过过去几年监视巴勒斯坦人获得的数百万阿拉伯对话对它进行了训练。
这是有记录以来第一个国家如此大规模地在军事情报领域重新使用先进的人工智能语言模型的例子。
大间谍模型
据联合新闻调查显示，8200 部队——以色列情报部门的精锐部队——利用以色列情报部门监视的巴勒斯坦人每天进行的数百万次通信，训练出了一种人工智能语言模型。
据熟悉该项目细节和新闻调查介绍的消息人士透露，该系统配备了“以色列掌握的所有阿拉伯语数据”，包括数百万个电话通话、信息和其他拦截数据，为了创建一种能够回答有关受监视人员问题的人工智能工具，并有可能对以色列情报部门收集的大量监视数据进行分析。
8200 部队花费数年时间建立了一个包含 1000 亿个阿拉伯语单词的庞大数据库，这些单词都是通过对巴勒斯坦人的广泛监视提取出来的。这并不意味着 1000 亿个独特单词，而是输入模型的单词总数。这些是日常对话中经常使用的阿拉伯语单词，也就是说，它被转换成语言模型能够理解的数字数据。这些数据来自各种来源，包括监视巴勒斯坦人的通讯和正常对话。
报告显示，8200 部队使用了所有可以利用的通讯手段，包括转录成书面文本的电话录音、WhatsApp 和短信，以及任何其他可用的阿拉伯语情报信息。
该模型针对当地阿拉伯语方言和术语进行了调整。该模型的开发重点是理解巴勒斯坦方言以及黎巴嫩等其他阿拉伯方言。由于目前商用的人工智能模型只能熟练掌握现代标准阿拉伯语，因此，它们缺乏理解日常人际交流中使用的口语方言的能力。
这些努力促成了基于阿拉伯语的大型语言模型的开发，作为以色列情报机构的“ChatGPT”。不过，该模式在2024年下半年仍处于开发阶段，是否会全面投入运营仍不清楚。
情报目的
近年来，8200部队开发了一套人工智能工具；在加沙地带战争期间，诸如“福音”和“薰衣草”等系统就被迅速融入到了作战行动中，并在以色列军队对加沙地带的轰炸行动中发挥了重要作用，有助于识别潜在目标。
过去几年中，8200部队还使用机器学习模型来分析其监视的通信，识别其收集的信息中的特定模式，从而提高其准确性。
随着近年来生成式人工智能模型能力的飞速发展，“基础模型”这一术语应运而生。这是该领域中一个相对较新的术语，有些人通过参数的数量来定义它，从而定义神经网络本身的大小，而另一些人则通过该语言模型可以执行的不同或独特且困难的任务的数量来定义它。
简而言之，基础模型可以定义为一种预先训练的语言模型，该模型在各种文本数据上进行训练，并构成设计和训练用于执行特定任务（例如回答问题）的小型语言模型的基础。
通过这种方式，可以准确地构建语言模型，而不必每次都使用现有的基础模型从头开始，一个著名的例子就是 ChatGPT 聊天机器人所基于的 GPT-4 模型。
调查报告中的消息来源指出，2022 年底，随着 ChatGPT 的推出，以色列军方组建了一支专门团队，利用该技术进行情报收集。
但是8200部队不知道如何开发基础模型，甚至不知道如何训练它，因此它请求 OpenAI 授予其访问基础模型的权限，这是机器人所依赖的模型。但这家美国公司拒绝了这一请求。
尽管开局不利，但 2023 年 10 月加沙地带战争的爆发加速了这一进程。调查报告显示，以色列军方已经召集私营部门的人工智能专家作为其预备役部队的一部分，并依靠谷歌、Meta、微软等大型科技公司的专家。
军方召集大型语言模型工程师和研究人员加入8200部队，以色列一家人工智能公司的员工在军队服役期间也参与了该项目。这些专家为与互联网隔离的安全军事网络的基础模型的开发做出了贡献。
以色列人工智能公司AI21实验室的创始人兼首席执行官表示，对于情报和间谍机构来说，基础模型的价值在于能够汇总所有收集到的数据并检测出人类难以自行发现的联系和模式。
到 2023 年底，开发人员已经收集了“大量”训练数据。然而，事实证明，大规模训练数据收集过程包括大量通信，而这些通信对于巴勒斯坦人的日常生活几乎没有什么情报价值。
鉴于以色列军方已经在使用较小的语言模型，新的大型语言模型可能会扩大以色列监视和逮捕巴勒斯坦人的犯罪范围
以色列情报部门消息人士称，约旦河西岸最紧迫的问题不一定是这些模型的准确性，而是它们允许的逮捕范围之广。消息人士补充说，巴勒斯坦嫌疑人名单正在稳步增长，大量信息正在不断收集，并通过人工智能模型快速处理。
一群公民自由组织和数字隐私倡导者对以色列日益增长的人工智能监控表示深切担忧，并警告称，这为复杂的技术压制开创了一个危险的先例。大量个人数据，包括未被指控犯有任何罪行的普通巴勒斯坦人的对话，被用来训练基于人工智能的间谍系统。
以这种方式利用占领区人民的个人通信是对隐私和人类尊严的严重侵犯。
人权观察组织研究员扎克·坎贝尔警告说：“我们谈论的是，从没有任何犯罪嫌疑的个人那里收集高度敏感的个人数据，然后将其用于制造对他们的错误怀疑的工具。”
监控和追踪技术
从“狼群”到“蓝狼”，再到“红狼”，巴勒斯坦人的隐私正受到以色列占领系统和现代监控技术的威胁，以色列安装了数百个智能摄像头来追踪他们。
被占领的耶路撒冷和希伯伦的巴勒斯坦人已成为占领方最新追踪和识别技术的目标地区之一，这些技术依赖于人工智能，国际特赦组织批评其对巴勒斯坦人民进行“数字歧视”。
例如，在希伯伦的以色列检查站，高分辨率摄像机会扫描巴勒斯坦人的脸部，然后才允许他们通过。这些地点的“红狼”系统会自动识别个人，并决定他们是否可以过境或是否应该被拘留。
与此同时，以色列士兵正在使用“蓝狼”智能手机应用程序扫描街上人们的脸部，并将其添加到生物特征数据库中，据说该数据库包含大多数约旦河西岸巴勒斯坦人的详细个人信息。
但直到最近，加沙地带才建立了如此复杂的监视和跟踪网络。然而，正如《纽约时报》报道的那样，2023 年 10 月 7 日阿克萨洪水行动起义之后，以色列迅速扩大了加沙地带的人工智能监控基础设施，引入面部识别技术作为识别、追踪和定位个人的新工具。
以色列情报部门利用现有的技术来监视加沙地带是不够的，因此，这些机构寻求以色列专门从事人工智能和面部识别的公司 Coresight 的帮助，开发专门针对加沙地带的自动面部识别程序。
以色列占领军已开始在检查站和主要道路部署配备面部识别技术的摄像头，以扫描加沙地带巴勒斯坦人的面部。
与此同时，《纽约时报》报道称，进入加沙的以色列士兵携带头戴式摄像机和手持式面部识别设备，可以快速识别人员并将其图像与以色列情报数据库进行匹配。
当然，Corsight 的面部识别技术也不是没有缺陷。参与使用该武器的情报人员和士兵承认，在某些情况下，该政权“将平民误认为哈马斯成员”，导致他们被任意逮捕。
以色列在加沙地带使用面部识别技术是该技术在战争中的应用之一。国际特赦组织的一名研究人员指出，以色列对这些技术的利用“使巴勒斯坦人失去人性”，因为以色列不把巴勒斯坦人视为人。他补充说，当这项技术识别出某人时，即使它出现错误，以色列士兵也可能不会质疑。
现在，随着从巴勒斯坦数据中开发出一种新的语言模型，占领军可能会使用它与面部识别技术来扩大对巴勒斯坦人民实施的电子监控网络的范围。
以色列影响力运动
这种新模式可能随时出现，但以色列在对巴勒斯坦的战争中一直不遗余力地利用生成式人工智能技术。
例如，2024年5月底，OpenAI的一份报告揭露了包括以色列在内的多个国家开展的五项秘密行动，这些国家利用该公司的人工智能技术影响全球舆论。
该公司在报告中指出，这些团体（其中一些与知名的宣传活动有关）如何利用该公司的技术进行大量“欺骗活动”。
这些活动包括在社交媒体上用多种语言发表评论、文章和图片、为虚假账户创建名称和简历、修改软件代码以及翻译和校对文本。
这家美国公司的报告详细介绍了总部位于特拉维夫的以色列政治营销公司 Stoic 如何利用 OpenAI 的工具生成有关加沙灭绝战争的亲以色列内容。
这项名为“零-芝诺”（Zero Zeno）的活动针对美国、加拿大和以色列的受众。 Meta 还表示，它删除了与同一家以色列公司有关联的 510 个 Facebook 账户和 32 个 Instagram 账户。
该组虚假账号包括冒充假冒美国和加拿大非裔美国人和学生的账号，经常在帖子中回应知名人士或媒体组织，赞扬以色列，批评美国校园的反犹太主义，并谴责“激进伊斯兰教”。
根据 OpenAI 的报告，该活动似乎未能引起任何重大关注。
全球趋势
以色列可能是第一个将人工智能作为监视、杀戮和影响舆论的真正武器的国家，然而，占领国所代表的做法反映了全球在国防和情报领域更广泛采用生成式人工智能技术的部分情况。
全球主要大国都在投资人工智能工具，从语言模型到计算机视觉算法，以增强其军事能力。
据彭博社报道，2023年9月，为增强美国情报部门处理大量数据的能力，中情局宣布打算推出类似于ChatGPT聊天机器人的人工智能工具。
该机构官员当时宣布，该工具旨在让分析师快速准确地获取公开信息。
此举是美国政府利用人工智能技术跟上全球竞争步伐的努力之一，特别是与中国竞争，中国的目标是到 2030 年引领这一领域。
当时的报道表明，美国情报机构并没有充分利用这一点；公开的数据促使了该工具的开发，它将允许分析师通过复杂的对话界面跟踪和与原始信息源进行交互。
在英国，英国情报机构越来越依赖人工智能系统来分析他们拥有的大量数据。正如《卫报》 2023 年 8 月报道的那样，军情五处和军情六处经常依赖这些数据，这些数据是从封闭和公开来源收集的，也可以秘密获取。
当时有专家指出，英国情报机构多年来一直在使用人工智能，并且实际上正在使用这些数据来训练机器学习模型。
他们指出，这些数据的种类和数量的大幅增加，大大增强了人工智能工具对英国情报机构的实用性。
尽管目前人工智能似乎在任何冲突中都是制胜法宝，但它的失败是可能的，而它的胜利并非必然。正如以色列无法独自开发其工具并且严重依赖与其结盟并支持种族灭绝的国家开发的技术一样，抵抗力量也可以从扩大其战线中受益。没有人期望开发人工智能模型来在拜特哈嫩或拉法与以色列作战，但在支持巴勒斯坦的世界各国首都开发的模型可能会使抵抗力量受益。
不可忽视的是，以色列在技术和武器方面一直占优势。然而，阿拉伯和巴勒斯坦的抵抗力量在以色列历史上曾多次令其措手不及，巴勒斯坦人也证明了技术的局限性，暴露了占领的弱点。以色列在技术上对敌人的优势也不例外。美国在越南、英国在印度、苏联在阿富汗、法国在阿尔及利亚、比利时在刚果、荷兰在印度尼西亚也是如此。所有这些侵略者都是在人民的反抗战胜了武器和技术的拥有者和开发者之后才撤退的。
虽然人工智能可以造成最可怕、最严重的伤害，但无论是人工智能还是其开发者都无法为这种伤害辩护或使其合法化，因此，全面的传统抵抗，包括压力运动、经济抵制、媒体运动、大众新闻、外交接触，当然还有抵抗技术的发展和对敌对技术漏洞的探索，都足以再次向世界证实，合法性并不等同于军事力量，人工智能有着人类未知的极限。