logo
繁体
繁体

谁在帮脸书删贴?万万想不到,是这家号称高科技咨询的全球500强

Adam Satariano and Mike Isaac在纽约时报发表文章,Facebook长期以来因为负面的帖子内容而遭到抨击,Facebook想出的解决办法就是把帖子审核的工作外包出去,这样不仅能够减少成本,而且,在受到质疑的时候,还可以甩锅给外包公司。

在众多的外包公司中,500强公司埃森哲是其中最重要的一个,在为Facebook审核帖子的这几年中,员工不断爆出心理健康方面的问题,但是Facebook每年给埃森哲的酬金达到5亿美元,如此巨大的收益使得埃森哲继续选择默默承受这个社交平台里最黑暗的那部分。

Photo by Glen Carrie on Unsplash 

2019年,全球咨询公司埃森哲(Accenture,管理咨询、信息技术和业务流程外包的跨国公司,世界500强公司)新任命的首席执行官朱莉·斯威特(Julie Sweet)与高层管理人员举行了一次会议。她提出了一个问题,埃森哲是否应该退出它为Facebook这个主要客户所做的一些工作?

多年来,由于埃森哲为这家社交网络公司执行的一些任务,埃森哲内部的紧张情绪一直在上升。在8小时的轮班中,数千名全职员工和外聘员工筛选Facebook最令人讨厌的帖子,包括关于自杀、砍头和性行为的图片、视频和信息,阻止它们在网上传播。

埃森哲的一些员工在一个班次中审查了数百个Facebook帖子,他们说自己开始出现抑郁、焦虑和偏执的情绪。在美国,一名工人加入了一项集体诉讼,抗议工作条件。新闻报道将埃森哲与这些可怕的工作联系起来。因此,斯威特下令进行审查,讨论日益严峻的道德、法律和声誉风险。

在埃森哲华盛顿办事处的会议上,与会人员说,她和人力资源部门负责人艾琳·肖克表达了对Facebook工作的心理损失和对公司声誉的损害的担忧。一些负责监管Facebook账户的高管认为,这些问题是可控的。

他们说,这个社交网络是一个利润丰厚的客户,不能失去。直到会议结束,没有任何结果。

Facebook和埃森哲很少谈及他们的安排,甚至不承认他们彼此的合作,但他们之间的秘密关系是这家全球最大的社交媒体公司努力与其业务中最有害部分保持距离的核心所在。

多年来,Facebook一直因网站上流传的暴力和仇恨内容而受到批评。扎克伯格没事就会承诺会清理平台,他提倡使用人工智能来清除有害的帖子,并宣称雇用数千名工人来清除人工智能无法清除的信息。

但在幕后,Facebook已经悄悄付钱给其他人来承担大部分责任。根据采访和公共记录,自2012年以来,Facebook在全球范围内至少雇用了10家咨询和人力资源公司来筛查帖子,还有更广泛的分包商网络。

在审查内容这方面,没有哪家公司比埃森哲更重要。根据纽约时报的调查,这家声称以向跨国公司和政府提供高端技术、会计和咨询服务而闻名的财富500强企业,已经成为Facebook在内容审核方面最大的合作伙伴。

根据纽约时报的调查,埃森哲承担了这项工作,并给它披上了一层体面的外衣,因为Facebook已经与它签订了每年价值至少5亿美元的内容审核和其他服务合同。埃森哲雇佣了1.5万名员工,其中三分之一以上的员工负责检查Facebook的帖子。虽然这些协议只提供了埃森哲年收入的一小部分,但它们为埃森哲进入硅谷提供了一条重要的生命线。

在埃森哲内部,Facebook被称为“钻石客户”。

他们的合同(以前没有被报道过)重新定义了外包关系的传统界限。埃森哲已经接收了审核内容最糟糕的部分,并把Facebook的内容问题转化为自己的问题。作为经营成本,它负责解决工人在审查帖子时出现的心理健康问题。当这些工人要求获得更多工资和福利时,公司会想办法拆劳工的台,当员工公开反对这项工作时,它默默承受公众的审视。

15名现任和前任员工说,这些问题因Facebook苛刻的招聘和绩效目标,以及内容政策的诸多变化而变得更加复杂,导致埃森哲很难跟上Facebook的步伐。而当面临版主对这些工作采取法律行动时, Facebook辩称,它不需要承担责任,因为这些工人是属于埃森哲和其他公司的。

这个时候,埃森哲选择保持沉默。

代表版主的律师事务所Foxglove的联合创始人科里·克里德说:“如果没有埃森哲,就不可能有我们今天所知道的Facebook,Facebook利用像埃森哲这样的助推器,以令人瞠目结舌的费用,让Facebook与业务中的核心人性化问题保持距离。”

纽约时报采访了40多位埃森哲和Facebook的现任和前任员工、劳工律师和其他人士,了解这些公司的关系,其中还包括会计和广告工作。由于有保密协议和担心遭到报复,大多数人都是匿名发言。纽约时报还查阅了Facebook和埃森哲的文件、法律记录和监管文件。

Facebook发言人德鲁·普萨特里说,公司意识到,“内容审核工作可能很困难,这就是为什么我们与合作伙伴密切合作,不断评估如何最好地支持这些团队。”

埃森哲女发言人斯泰西·琼斯说,这项工作是一项公共服务,“通过保持互联网安全来保护我们的社会是至关重要的”。

两家公司都没有提到对方的名字。

色情帖子

Facebook与埃森哲的合作,大多可以追溯到一个裸露图片的问题。

2007年,每月有数百万用户加入该社交网络,许多人张贴裸体照片。当年,Facebook与时任纽约总检察长的安德鲁·科莫达成和解,要求Facebook在24小时内删除用户标记的色情帖子。

团队成员说,负责管理内容的Facebook员工很快就被大量的工作压垮了。其中三人说,Facebook的首席运营官谢丽尔·桑德伯格和其他高管,推动团队找到梳理内容的自动化解决方案。

他们说,Facebook也开始考虑外包的问题,外包比雇人更便宜,而且在税收和监管方面也有好处,在公司没有办事处或语言专长的地区,还可以灵活地自由进退。

他们说,桑德伯格帮助推动了外包的想法,而中层管理人员则制定了相关细节。

到2011年,Facebook开始与oDesk(美国的一个自由职业平台,现更名为Upwork)合作,这是一项招募自由职业者审查内容的服务。但在2012年,新闻网站Gawker报道说,摩洛哥和其他地方的oDesk工人每小时工资只有1美元,之后Facebook开始寻找其他合作伙伴。

Facebook找到了埃森哲,这家公司的前身是安达信咨询公司,在与安达信会计师事务所分手后,于2001年改名为埃森哲,它希望能够获得在硅谷的业务。

2010年,埃森哲与Facebook签订了一份会计合同。到2012年,合同范围已扩大到包括对内容进行审核的交易,特别是在美国以外地区。

那一年,Facebook派员工到马尼拉(菲律宾首都)和华沙(波兰首都),培训埃森哲的员工对帖子进行分类,两名参与此行的Facebook前员工说。埃森哲的员工被教导如何使用Facebook的软件系统和平台的指导方针,从而决定是保留帖子还是删除或升级审查。

“蜜獾”团队

最初只有几十名埃森哲的版主,后来迅速发展起来。

前雇员说,到2015年,埃森哲在旧金山湾区的办公室已经成立了一个团队,代号为“蜜獾”(Honey Badger),专门负责Facebook的需求,埃森哲的“蜜獾”从2015年的300名工人到2016的3000名,他们是全职员工和外聘员工的混合体,这取决于地点和任务。

高管们说,埃森哲很快就利用与Facebook的合作,转化为与YouTube、推特、Pinterest和其他公司的合同。(根据Everest Group的预测,数字内容审核行业的规模明年将达到88亿美元,大约是2020年总额的两倍)

Facebook还与埃森哲签订了一些其他领域的合同,如检查虚假或重复的用户账户,监测名人和品牌账户,以确保它们不被滥用。

2016年,联邦当局发现俄罗斯特工人员利用Facebook向美国选民传播分裂性的帖子,用于影响总统选举,之后埃森哲增加了版主的数量,它说它将在已有的4500人的基础上,再雇用3000多人来管理这个平台。

扎克伯格在2017年的一篇文章中说:“如果我们要建立一个安全的社区,我们需要迅速作出反应。”

第二年,Facebook聘请了慧与科技(Hewlett Packard Enterprise,跨国资讯科技公司)的前高管阿伦·钱德拉(Arun Chandra)担任规模化运营副总裁,帮助监督与埃森哲等公司的关系,他所在的部门由桑德伯格负责监督。

Facebook还将内容工作推广到其他公司,如高知特(Cognizant,一家管理咨询、信息技术及业务流程外包服务供应商)和数字外包公司TaskUs。根据监管文件,Facebook现在提供了TaskUs三分之一的业务,每年1.5亿美元。

这项工作很有挑战性。虽然Facebook和Instagram上90%以上的不良内容被人工智能删除,但外包工人必须决定是否留下人工智能没有删掉的帖子。

他们有一个绩效考核系统,得分是基于根据Facebook的政策审查帖子的准确率。埃森哲的员工说,如果他们犯错超过5%,他们就会被解雇。

但是,Facebook关于什么是可接受的规则一直在变,这就造成了混乱,当人们用加油站的表情符号作为销售大麻的俚语时,工作人员以违反公司关于毒品的内容政策为由删除了这些帖子,Facebook随后告诉版主不要删除这些帖子,后来又改变了。

Facebook还调整了审核技术,增加了新的键盘快捷键,以加快审核过程,但是,这些更新有时在没有任何提醒的情况下发布,反而增加了错误。

根据纽约时报查阅的人员配置记录,截至5月,埃森哲向Facebook开出了约1900名全职版主的账单,其中马尼拉1300名,葡萄牙的里斯本850名;马来西亚吉隆坡780名;华沙300名;加州山景城300名,以及爱尔兰共和国的都柏林225名。

每个月末,埃森哲都会向Facebook发送发票,详细说明版主的工作时间和审查的内容数量,两位知情人士说,每个美国版主每小时为埃森哲带来至少50美元的收入。相比之下,美国一些城市的版主的起薪为每小时18美元。

Health photo created by freepik 

心理成本

在埃森哲内部,员工们开始质疑查看如此多仇恨性帖子对健康的影响。

埃森哲聘请了心理健康顾问来处理这些问题。在埃森哲华沙办公室工作的心理咨询师伊莎贝拉·朱吉尔说,她在2018年告诉高管,他们雇佣的人没有做好审核这些内容的心理准备,她的办公室处理来自中东的帖子,包括可怕的图片和叙利亚战争的视频。

朱吉尔说:“他们什么人都雇佣。”

她以前曾治疗过患有创伤后应激障碍的士兵。她于2019年离开了埃森哲。

在都柏林,一位参与了这一事件的心理健康顾问说,2018年,埃森哲的一位版主在筛选Facebook内容时,在自己的桌子上写下了一封遗书,所幸这名工作人员被找到时是安全的。

德克萨斯州奥斯汀的一名版主约书亚·斯克拉在4月份辞职,他说他每班审查500到700个帖子,包括车祸后的尸体图片和动物被折磨的视频。

斯克拉在一个后来公开的内部帖子中描述了自己的经历,他说:“我看的一个视频是一个人拍摄的自己强奸一个小女孩的过程,这实在是太可怕了。”

他补充说,如果员工绕过埃森哲的指挥系统,直接与Facebook沟通内容问题,他们有可能被训斥。他说,这使得Facebook了解和应对问题的速度变慢。

Facebook表示,任何过滤内容的人都可以将问题上报。

奥斯汀的另一位前版主斯宾塞·达尔在6月的法律听证会上说,这项工作要求他做出难以想象的决定,例如是否删除一条狗被活剥皮的视频,还是简单地将其标记为令人不安。

他说:“版主的工作不是人干的。”

2018年,埃森哲推出了WeCare政策,心理健康咨询师表示,这些政策限制了他们治疗工人的能力。他们的头衔被改为“健康教练”,他们被指示不要进行心理评估或诊断,而是提供“短期支持”,如散步或听平静的音乐。根据埃森哲2018年的指导手册,其目的是教版主“如何应对困难的情况和内容”。

埃森哲的发言人琼斯说,公司“致力于帮助我们从事这项重要工作的人在职业和个人方面取得成功。工人可以咨询外面的心理学家。”

到2019年,内容的审查量越来越大。那一年,在科技网站The Verge描述了亚利桑那州一个办公室的工人的低工资和心理健康影响后,高知特表示它正在退出内容审核行业。高知特表示,这一决定将使其损失至少2.4亿美元的收入,并导致6000个工作岗位的削减。

Icons vector created by rawpixel.com 

内部争议

不止一位埃森哲首席执行官辩论过与Facebook的业务。

参与讨论的三位高管说,2017年,埃森哲当时的负责人皮埃尔·南特姆对这项工作的道德规范提出质疑,并质疑它是否符合公司提供高利润率和技术专长服务的长期战略。

他的质疑没有下文,南特姆于2019年1月因癌症去世。

五个月后,长期担任埃森哲律师和高管的斯威特被任命为首席执行官。三位前同事说,她很快就下令对这项业务进行审查。

高管们准备了报告,并讨论了这项工作与救护车司机等工作的比较。顾问被派去观察版主和他们的主管。

奥斯汀的办事处于2017年开业,被选中进行审计,作为斯威特女士的一部分,这个城市也是Facebook办公室的所在地,有大量讲西班牙语和阿拉伯语的人,可以阅读非英语帖子,在高峰期,埃森哲的奥斯汀办事处有大约300名版主,负责审核Facebook的帖子。

但那里的一些员工对薪酬和查看如此多不健康的内容感到不满。他们通过短信和内部留言板组织起来,要求提高工资和福利。一些人与媒体分享了他们的故事。

去年,奥斯汀的一名工人加入了美国版主对Facebook提起的集体诉讼,他是两名来自埃森哲的工人之一。根据法庭记录,Facebook辩称它没有责任,因为这些工人是受雇于埃森哲这样的公司。在法官对该案作出不利于Facebook的裁决后,Facebook于2020年5月与这些工人达成了5200万美元的和解。

前高管们说,对斯威特来说,关于Facebook合同的辩论持续了几次会议。她随后做出了一些修整。

2019年12月,埃森哲制作了一份两页的法律披露,告知版主这项工作的风险。这份文件说,这项工作“有可能对你的情绪或心理健康产生负面影响”。

去年10月,埃森哲走得更远。它首次将内容审核列为年度报告中的一个风险因素,说它可能使公司容易受到媒体审查和法律纠纷。两位了解这一政策变化的人士说,埃森哲还限制了新的审核客户,任何新雇佣合同都需要高级管理层的批准。

但他们说,斯威特也留下了一些东西没有处理。

其中包括:与Facebook的合同。这些人说,说到底,这个客户太有价值了,没法放弃。