人工智能正在成为你的老板，危险何在？

Ella Joyner
2023-01-29T07:58:56.459Z

人工智能招聘中存在种族主义、能力歧视或性别歧视的风险？

（德国之声中文网）33岁的罗德里格斯（Renan Rodrigues）在瑞士快递公司Smood担任送餐司机大约一年半之后，“机器人”走马上任。根据他的描述，这个由算法驱动的应用程序，为他和他的同事安排送货和值班。

罗德里格斯告诉德国之声，从他2020 年开始在那里工作以来，Smood公司就一直在使用此类软件。据他说，“机器人”开始完全负责安排他的日常工作日，似乎不再可能需要人类经理了。

这个“机器人”应用程序的目标是以最有效的方式组织送货。罗德里格斯承认，从雇主的角度来看这是有效的。他说，当他刚开始在位于瑞士小镇伊韦尔东（Yverdon-les-Bains）的这家公司工作时，通常每小时送货两次左右。到他离开时，已经达到四、五次了。

“我很快明白，就人类的层面来说，这将是一场灾难。”罗德里格斯告诉德国之声。他看到“机器人”使得员工互相竞争。速度最快、表现最好的司机得到更多送货数量。他说，最终他发现自己的工作量变少了。他的零工合同并没有保证他的最低工作时数或固定的月薪，他发现自己的收入很难预期。

“对我来说，最糟糕的是告诉我，当我被GPS系统跟踪时，有一个秒表随时随地都在运行，监测我的速度等等。”他说。这造成了他所谓的“社会压力”。取餐时，他不会和餐馆老板打招呼，而是大声叫他们快点，跑进去后，很快跑出来。“这对人来说是可悲的。”

与机器人打交道

罗德里格斯和他的同事们称之为“机器人”的东西，也被叫做算法管理，就是使用计算机程序作出工作决策。它是一种人工智能（AI）。根据欧盟委员会的说法，人工智能是指“通过分析环境并采取行动——具有一定程度的自主性——以实现特定目标而显示出智能表现的系统”。

算法管理的使用尤其与零工经济（gig economy）相关，例如Uber和Deliveroo这样的公司，其员工通常是自由职业者或零工时合同工。

事实上，人工智能工具正在迅速进入经济的各个领域。对于白领办公室工作，它们可以用于招聘或绩效跟踪。专业服务咨询公司普华永道（PwC）在 2022 年对 1,000 家公司进行的一项调查发现，在过去 12 个月中，六分之一到四分之一的公司在招聘或保留员工方面使用了人工智能。在使用人工智能最先进的公司中，约 40% 的公司使用它来改善员工体验和技能获取，或提高生产力。

公司可以通过多种方式使用有关员工或求职候选人的数据，正如西班牙银行 BBVA 的非营利组织 OpenMind 去年发布的一份报告所强调的那样：“人力资源专业人员用它决定招聘也就是雇佣谁，考核工人的工作和晋级，确定人们何时可能离职，以及选择未来的领导人。人员分析也被用来管理工人的绩效。”

以美国公司HireVue为例，据其网站介绍，该公司拥有800多个客户，包括亚马逊、G4S和联合利华等大型跨国公司。该公司声称，通过视频求职面试，它可以大大加快招聘速度，为求职者提供更大的灵活性，让招聘更加公平。它还说，算法可以被训练来消除人类招聘人员中常见的无意识的种族和性别偏见。HireVue援引英国客户Co-Operative Bank的例子说，算法工具有助于将偏向男性的性别偏见从70/30的比例降至50/50，实现了性别均等。

然而，近年来，一些专家和记者指出，在人工智能招聘中存在再现种族主义、能力歧视或性别歧视的风险。美国去年的一项研究发现，经过人工智能训练的机器人一再歧视女性和非白人。

美国平等就业机会委员会甚至发布了关于使用工作场所人工智能的指南，警告说“使用这些工具可能会使求职者和残障员工处于不利地位”。例如，他们可能在一个需要高度键盘灵活性的测试中获得低分。

相关图集：哪里已有人工智能的身影？

边开车边睡觉：告别边开车边打手机或者走神一秒钟引起的车祸——自动驾驶汽车早已不再是幻想。数年来，汽车生产商一直在研发无人驾驶汽车。第一步是研发出自行保持车道以及停车的辅助系统。智能汽车最大的特点就是能够借助照相机或雷达扫描仪进行视觉计算，了解周围的环境。

聪明的机器手：这是行动不便者的福音——护理机器人。日本养老院里已经开始了数个试点项目。位于巴伐利亚的德国航空航天中心也研发出辅助机器手。它会按键钮叫电梯或者打开被子，还可以在紧急情况下呼叫帮助。

数据医生：人工智能现在还无法完全代替医生，但是，如果患者出现中风等情况，需要快速诊断和治疗时，人工智能就派上了用场。它可以分析曾经有哪些类似的情况，哪些疗法奏效。

你好世界！：苹果、谷歌的语音识别功能早就不令人感到陌生。它还能把我们的话翻译成别的语言。虽然有时会出错，但这项功能正在不断完善。比如一个只会中文和一个只会韩语的人突然间就可以对话交流了。

司法助手：案件审理前，一名在美国的被告可以获得保释吗？据统计，法官在做出决定时往往凭感觉。从2017年起，一个名为“公共安全评估”的程序已成为法官的好帮手。它可以通过对千百万个案子的分析来进行风险评估。

好胃口！：在北京一家餐厅，顾客不仅可以在机器人那里点菜，还可以享受到机器人配餐及送餐的服务——全套自动化系统。机器人还会记住顾客的特殊要求，为客人下一次登门做准备。

谢谢，好管家!：谁不想要一个“管家”来减轻负担？这样的管家机器人已不再是梦想，比如这个双足机器人 "Walker"。它既可以管理日程和电邮，也可以和孩子们玩耍。其他管家机器人还可以送快递，代替邮差等等。一切皆有可能。

正在进行的法律改革

在欧盟，有两项正在进行中的关键立法，将会影响人工智能在工作中的部署方式。欧盟委员会强调，一般来说，人工智能可以为公民和企业带来好处，但它也对人们的基本权利构成风险。

根据拟议的人工智能法案，就业、工人管理和个体经营被特别提到是高风险的用途。对于此类人工智能工具的制造商和购买者，法律应规定产品上市前的具体义务，主要是合格评定。

这种测试将仔细检查用于训练人工智能系统的数据集的质量（训练不足的系统可能会产生有偏见的结果），对买家的透明度规定和人类监督的水平。一旦产品进入市场，人工智能开发者也将承担监督义务。

欧洲工会研究所的卡斯蒂洛（Aida Ponce Del Castillo）表示，从工人的角度来看，人工智能立法没有具体规范你的老板如何使用它。“这是一个错失的机会。”这位研究人员告诉德国之声，义务落在技术的卖方身上。根据人工智能法案，某些技术将被彻底禁止——比如与中国政府相关的“社会评分”系统——但这还不是对工作场所的具体规范。

卡斯蒂洛说，第二项即将出台的相关立法是平台工作指令。它有一章专门针对算法管理，但顾名思义，它只涵盖了欧盟平台行业估计的 2800 万工人。根据欧盟委员会的说法，拟议的法律“提高了数字劳动平台使用算法的透明度，确保人工监督他们对工作条件的尊重，并赋予对自动化决策提出异议的权利”。

卡斯蒂洛说，这些法律草案——两者仍在通过欧盟立法程序的过程中——应该为工人提供工具来挑战他们的老板对人工智能的有潜在问题的使用。但她提醒说，不必完全禁止它们。她认为有两件事应该被禁止，一是情绪解读技术（这是最具争议的人工智能使用之一，许多专家怀疑情绪是否简单或普遍到可以测量），二是暂停Uber司机等零工的账户。

“我不想说人工智能不好。我已经将 20 年的生命献给了这方面的技术研究。” 卡斯蒂洛说，这始终关系到管理人的风险。

作为前送货司机，罗德里格斯对“机器人”的看法非常明确：他认为应该对公司可以做什么和不能做什么进行更多的监管。他承认，他最终被Smood公司解雇了。但罗德里格斯解释说他并不介意，因为他已经获得了一份梦想的工作的培训合同，准备成为一名火车司机。

相关图集：哪里已有人工智能的身影？

相关图集：从婴儿到主播，机器人无所不能