你的上司,竟是机器?这么魔幻的场景,如今已经成为现实。
作为亚马逊公司的合同司机,Stephen Normandin已经在凤凰城奔走递送包裹超过4年时间。然而,去年的某一天,他突然收到了一封自动邮件。邮件显示,由于系统算法他没有做好自己的工作,这位63岁的退伍老兵就这样被一台机器解雇了。
在亚马逊,算法存在的深度远超想象。多年来,亚马逊一直使用算法来管理其在线市场上数以百万计的第三方商家。此前,这些算法也曾判断失误过,比如指控商家抬高价格等。然而,亚马逊仍然越来越多地将人力资源业务拱手让给机器算法。
事实上,我们的生活已经被算法支配。
被AI机器人解雇并非孤例
去年10月2日的凌晨3点,Normandin按照往常的习惯起床准备洗漱去递送包裹。但是,当他打开手机App想要查看当日亚马逊Flex的送货路线时,却发现自己无论怎么尝试也无法登录进入系统了。
Normandin赶忙打开邮箱,发现一封亚马逊发送给他的通用邮件写着:你已经被终止合作,原因为个人评分已经低于可以接受的级别。同时这封邮件告诉他,跟踪他的算法发现,他没有正确地完成工作。
这一结果让Normandin倍感震惊。要知道,在此前三年半的工作时间里,他的评分始终居于前列,甚至曾被亚马逊内部联系要求帮助培训新司机。在苦思冥想后,Normandin认为自己评分下降的原因是算法的失误。
据他回忆,从去年8月开始,他开始频繁遇到一系列难以控制的运送延迟问题。例如,有一次亚马逊的系统要求他在天亮前将快件派发至带有密码的公寓大楼,但当他到达公寓时,却发现公寓没有开门,公寓办公室也同样无人执勤。当他按照指示联系客户时,由于时间太早,客户也始终无法接听电话。
之后,他按照亚马逊算法的要求将包裹递送到公寓大楼的亚马逊送货柜,然而储物柜也出了故障无法打开。不得已,他只能拨通亚马逊Flex的服务电话,并在30分钟后收到将包裹退回亚马逊送货分拣中心的电话。
事后,Normandin发现自己的评分迅速下降。为此,他专门致电亚马逊司机客服中心,解释了自己无法按时完成配送的缘由。然而,在此之后不久,Normandin仍然遭到直接辞退。
在被算法判定无法达标之后,Normandin也尝试过上诉。但是与其他司机类似的是,他也进入了被亚马逊机器人踢皮球的状态。
经过大约10多天的不断申诉,Normandin收到了来自亚马逊不同落款发出的多封疑似系统自动回复邮件。除了各种客套话外,Normandin的问题并没有得到有效解决。最终,一封署名为SYAM的邮件于10月28日发送至Normandin的邮箱。这封邮件仍然没有对Normandin的解雇提出任何解释,也没有回答Normandin提出的任何问题,只是最终宣告了Normandin的“裁员”决定。
无独有偶,单亲妈妈Lira也是亚马逊算法错误判定的受害者之一。在亚马逊,Lira已经完成超过8000个包裹的配送,并一直被评价为“出色”。然而,在一次遇到被钉子扎破轮胎后,她联系系统寻求其他送货员的帮助,但最终也并未得到帮助。由于这次轮胎漏气导致配送不及时,她的评级就直接从优秀下降为不及格。
讽刺的是,就在被解雇的前一天,Lira还收到了系统分发的表扬信,评价她为亚马逊最好的送货合作伙伴。但在第二天,她就收到邮件表示由于违反服务条款,她不再有资格继续参与亚马逊Flex送货计划。
在经历数轮申诉申请后,Lira最终收到了和Normandin一样来自SYAM的邮件,告诉她已经审查了记录,仍然维持原判。
算法已成亚马逊重要管理工具
不仅仅只是被应用于评判合同司机,亚马逊已经将算法应用于诸多领域。例如,在Flex项目中,HR的工作大多依赖于算法,包括监督、奖惩、裁员在内的诸多举措已经完全依赖于算法的判断。
作为全球第一的线上零售商,不得不说,亚马逊的成功和其算法有密不可分的关系。此前,亚马逊曾利用算法来管理其线上的数百万第三方商家,尽管也曾一度引发不少投诉,但算法的高效仍然让亚马逊获得了无与伦比的成功。
正因如此,贝索斯认为,机器能比人类更快、更准确地做出决策,从而降低人力资源成本,将成为亚马逊运营的一大优势。因此,亚马逊越来越多的将算法应用于人力资源工作领域,以管理仓库员工、监督合同司机、甚至是办公室员工的表现。
从2015年开始,亚马逊Flex项目就开始采用零工司机。在推出之初,亚马逊主要依赖于Uber司机等,并宣称可以“做自己的老板”。正是基于这些零工司机,用户可在当日准时收到亚马逊包裹。
然而,这些零工司机发现,所谓“做自己的老板”,事实上只是在算法层层监控之下的一种好听的说法。例如,算法会监督司机们是否送货到站、是否在规定窗口完成了路线、是否将包裹放在了正确的位置、是否将包裹隐藏在花盆后面等等。同时,亚马逊的算法会扫描大量反馈数据和性能模式,并决定接下来哪些司机能获得更多快递单,哪些司机将被停用。基于这些信息,算法系统将司机分为不同等级,包括非常好(Fantastic)、出色(Great)、一般(Fair)和有不合格风险(At Rist)。
然而,高度自动化的人力资源系统并不足以适应司机每天遇到的现实挑战。亚马逊内部人员表示,亚马逊公司知道将人力资源工作派发给机器算法会导致一些错误和误判,但只要有足够的司机有兴趣加入Flex项目,这些错误就不会产生很大问题。
在亚马逊看来,利用算法提高解雇效率比花钱请人调查错误并完成解雇合同工的工作更加便宜高效,而且Flex计划也已经成为一个巨大的成功项目。Flex项目帮助亚马逊完成了最后一公里运送,打造了几乎完美的物流体系——尽管会对以Flex为生的零工司机造成部分负面损害。
当司机遭遇糟糕的评级时,他们提起申诉后甚至无法判断自己是否在和真人交流。根据知情人描述,即使回复里有姓名,前几封邮件也很可能只是机器的回复。其中会有少部分的情况能够最终等到人类经理参与处理,但这些处理往往并不专业。一位曾经在司机支持中心工作的前雇员表示,监督数百万司机的这些员工很多都只是兼职,且几乎没有接受过任何培训。
正因如此,越来越多的司机由于亚马逊的算法系统失误不得不接受不公平的辞退待遇,甚至无法申诉,更不可能获得赔偿。
我们也已经身处算法的支配之中
尽管发生在大洋彼岸,但我们也已经无法对亚马逊的算法系统冷眼旁观。
此前,《人物》团队推出一篇调查性文章《外卖骑手,困在系统里》引发舆论轰动。文章提出,如果资方发现工人的动作越来越娴熟,还有时间,即交易剩余可以榨取,便会调高流水线的速度。表征到现实中的是,骑手变成了被算法支配的流水线上的工人。骑手们的工作时间完全被系统支配,当算法深度学习后发现还可以压缩时间,那么骑手们的“交易剩余”又被削减。资方居于信息优势方,骑手处于信息贫乏方,在算法面前没有任何议价能力。
不只是骑手,在大数据时代,平台理论上可以掌控每个买家的信息,向下压榨每个买家的全部“消费者剩余”。
如今,我们打开购物软件,看到的商品是算法推送的;打开资讯软件,看到的新闻是算法推送的;打开旅游软件,看到的酒店也是算法推送的,而且很可能价格比别人还要贵。算法,已经变成了经营者“算计”消费者的工具。
算法被滥用,消费者对此基本上无能为力,因为无论是取证本身还是举证,以及证据被相关执法机构采纳的可能性,目前都存在巨大难度。
2月7日,《国务院反垄断委员会关于平台经济领域的反垄断指南》将大数据杀熟写入了“差别对待”这一条里。该指南要求,平台不得基于大数据和算法,根据交易相对人的支付能力、消费偏好、使用习惯等,实行差异性交易价格或其他交易条件。然而,究竟如何定义杀熟的边界,仍然是在业内尚无定论。
写在最后
据路透社介绍,Normandin之后尝试了其他几家快递公司,最后决定用他的疫情刺激资金开办一家小型发动机维修公司。
对于算法,Normandin评论称:“算法将人与人之间的距离框定在了冷冰冰的系统里,而现在是时候与人类开始打交道了。”
参考资料:
1.《被算法开除并无处申诉,亚马逊Flex“员工”难忍被算法支配的恐惧》,新浪科技
2.《亚马逊员工惊呆:我被机器解雇了》,新浪财经
3.《算法,即剥削》,智本社
本文经物联网智库授权转载。
版权及免责声明:凡本网所属版权作品,转载时须获得授权并注明来源“物联之家 - 物联观察新视角,国内领先科技门户”,违者本网将保留追究其相关法律责任的权力。凡转载文章,不代表本网观点和立场。
延伸阅读
版权所有:物联之家 - 物联观察新视角,国内领先科技门户