未来，指出了七种可能给人工智能结果带来伤害的偏差。下面我给家简要介绍一下Suresh和Guttag所说的七宗罪到底是什么。Sin 1历史偏差即便数据来自一个非常好的抽样，评估你工作表现、决定是否解雇你的，精确地反映了特定历史时期的状况，可能就是AI。
作者 | 来自镁客星球的韩璐
跟车过近，但如果那个时期本身就存在的内容或结果，记1分；闯红灯，就会带来所谓的“历史偏差”，记10分……
别误会，如果直接用这个历史数据，这不是交警在进行扣分，算法就有可能把历史上的伤害搬迁到现在。Garg分析了基于Google新闻、Wikipedia等语料库所得到的单词的向量表示，而是AI在对司机打分。
甚至，发现这些历史语料库已经沉淀了严重的性别和方面的刻板印象，一旦AI打分结果“不太乐观”，譬如说词语“护士”和女性高度相关，轻则影响薪酬，词语“工程师”和男性高度相关，重则丢掉工作。
“这是彻底的人格侮辱。”一位无法忍受被监控，词语“”与疾病、耻辱高度相关等等[4]。我们现在努力消除的一些有害观念可能在历史语料中表现很充分，而最终选择辞职的司机愤懑表示。
送货司机，正在被车内摄像头“监控”
以上评分系统来自于一份被曝光的机密文件，而这份文件的归属者是海外电商物流巨头亚马逊。
文件内容显示，亚马逊在送货车内安装了4个摄像头。
这4个摄像头中，1个直接对准司机，另外3个则分别面向挡风玻璃和两个侧窗。
这意味着，除了汽车尾，不管司机在车身周围什么方位，一举一动都可以被摄像头捕捉到。同样的，是否闯红灯、跟车距离等驾驶行为也会被拍下。
行车过程中，摄像头会始终处于打开状态，并实时监督驾驶员的肢体语言、车辆速度，当检测到违规行为，系统就会使用“语音警报”来告知驾驶员，并记录在案。
而依据这些行为，系统会进行评分，比如跟车过近等多数情况会记1分，而闯红灯等违反停止标志的情况则会被记10分。
基于这套评分系统，亚马逊的签约配送公司每周都会收到驾驶员的记分卡，最好表现是“惊艳”，最差则会是“糟糕”。
而配送公司的老板也会参考这一评分决定司机的薪酬，甚至如果安全分数被评为“糟糕”，司机还有可能丢失续聘资格。
面对摄像头，司机感觉到“人格侮辱”，亚马逊继续标榜“安全”
这已经不是第一次亚马逊尝试用AI评估司机了。
而在这一方针的执行上，亚马逊是循序渐进的。
它先是使用出了应用程序“Mentor”，该程序会不断监控司机的驾驶、电话使用和位置，并为配送公司反馈得分，以作为评估司机表现的参考。
虽然这一系统的推行遭到了来自司机和其他一些群体的反对，但是亚马逊方面并没有放弃。
与此同时，在这套算法系统下，不少已经工作数年时间的亚马逊司机遭遇了“不合理的”解雇。
比如已经递送包裹近4年，却在去年被解雇的斯蒂芬·诺曼丁，解雇理由是“算法判定他没有做好自己的工作”。
而实际情况是，诺曼丁之所以没有“做好工作”，是因为派单时间太早，在楼没开门、顾客电话未能接通、亚马逊送货柜出现故障打不开的前提下，没有完成货物配送。
“这真的让我很难过，这事关我的名誉。他们说我没干活儿，但我很清楚我干了。”
这之后，诺曼丁多次尝试给亚马逊，甚至贝佐斯发送邮件，要求撤销解雇。但无一例外的，他总是收到系统自动回复的邮件。
虽然诺曼丁的故事引起了众的关注，但是亚马逊并没有停止“监控”司机，更是在今年2月份宣布，将在车内安装AI摄像头。并且强制规定，司机要不接受被摄像头实时拍摄，要不就失去这份工作。
该决定一经宣布，再次引起了亚马逊快递司机的不满。
比如选择辞职的Vic，他明确表示，远程获取行车数据尚可接受，但是实时获取个人视频就是完全的“人格侮辱”了。
同时，数据安全也是Vic所担心的，因为这些数据在当地的交付中心是一个独立的亚马逊承包商，而他们根本无法确定，亚马逊是否会保护司机的匿名性。
在Vic将事情发布在论坛，并被路透社等广泛报道后，也有5名民主参议员联名表达了对视频监控的担忧，并在公开信中要求贝佐斯提供有关摄像头使用环境和透明度的更多信息。
对于这些问题，亚马逊方面并没有明确给出答案，仅表示摄像头将能够为驾驶员提供实时警报，帮助他们在路上保持安全。
此次秘密文件和评分系统曝光后，亚马逊发言人进一步表示：“我们在200多万英里的驾驶路径上试点了这项技术，结果显著提升了安全性——事故减少了48%，违反停止标志的情况减少了20%，不系安全带的情况减少了60%，驾驶分心的情况减少45%。”
亚马逊员工，被困在算法里
在“考察员工”，尤其是基层员工这件事上，亚马逊可谓是非常喜欢用AI，甚至可以排上头。
除了以上提到的，用软件、摄像头司机动态、记录司机行为，比如在物流中心的十几万名员工，他们的一切行为也要接受AI的与评估。
依据2019年的报道，亚马逊内构建了一套AI系统，可以每一名物流仓储门员工的工作效率，统计每一名员工的“摸鱼时间”（因为休息时间外喝水、上厕所等而太长时间没有接触包裹）。
而一旦系统判定“摸鱼时间”太长，就会在线生成解雇指令，直接绕过主管开除员工。据悉，2019年曝光时，已经有近900名员工因为被这套AI系统判定“工作效率低”而被解雇。
这一“压力”下，有调查显示，74%的亚马逊仓库员工根本不敢正常去上厕所，因为太耽搁时间。
此外，亚马逊还在利用AI算法管理平台上的数百万第三方商家，并由此引发了一些来自卖家的投诉，因为他们被系统错误地指控销货和抬高价格，从而被赶出平台。
以上种种案例可以看到，亚马逊在利用AI“监控”员工上已经是一个老玩家了。
至于因为系统误判而造成的影响，甚至引发社会性舆论，有前亚马逊经理表示亚马逊并不在乎：它知道把工作委托给机器会导致误判，可能还会闹出头条新闻，但公司认为，继续相信算法，比雇人逐一调查、改正错误便宜得多。
最后
就事论事而言，在“用AI监控员工”这件事上，亚马逊虽然是典型代表，但却并不是唯一的。
有数据统计，早在2018年，全球就有22%的企业在用AI监控员工的活动数据；17%的企业监控员工的电脑使用；16%的企业则会记录员工的电子邮件。
比如沃尔玛，会依据包装袋的声音和扫条码的速度，由AI系统来判定员工是否在认真工作。
再看国内，此前也有一家清洁公司要求员工佩戴智能手表，并通过手表监测员工的活动范围与劳动时间。
只不过，从越来越多的公司开始将AI用于公司业务、员工管理来看，这已经成为一个趋势，而在智能化时代，这也会是一个常规现象。
只是看到这里我们不禁疑惑：用AI监控员工，就只能这样“压迫”员工吗？
这其中并没有绝对的答案。就比如要求员工佩戴智能手表，除了前面提到的监测员工活动轨迹和劳动时间，还可以实时监测员工心肺情况，一旦出现紧急状况，便能够第一时间通报处理。
又比如亚马逊用于监控司机的摄像头与后台系统，从安全性角度出发，这一系统的实施警告功能确有其正面效用，确保司机的人身安全，而出于资本家的考量，将司机表现与评分挂钩也无可厚非，但完全依赖AI而“不在乎”结果的准确性，以及隐私安全的保护，却是不该出现的。
最终，关于“AI监控员工”的话题，还是走向了这几个字——人性与安全。
