logo
繁体
繁体

推特安全主管称公司正加速改革内容审核工作,马斯克倾向使用高效的自动化审查

据路透社报道,推特新任信任和安全主管表示,推特在马斯克领导下正大力依靠自动化来审核内容,取消了某些人工审查,倾向于限制传播,而不是直接删除某些言论。

Daniel Oberhaus, CC BY-SA 4.0, via Wikimedia Commons

推特信任和安全产品副总裁埃拉·欧文(Ella Irwin)说,推特还在更积极地限制容易被滥用的标签和包括儿童剥削在内的搜索结果,而不考虑对这些术语的“良性使用”可能产生的影响。

欧文周四接受采访时说:“最大的变化是,团队被充分授权快速行动,并尽可能地积极行动。”这是自10月底马斯克收购推特以来,推特高管首次接受采访。

在欧文发表上述评论之际,研究人员报告了推特平台仇恨言论激增的情况。此前,马斯克宣布特赦在前任领导下被封禁的推特账户,这些账户没有违法或发布恶劣垃圾邮件。

自从马斯克削减了一半的推特员工并发出长时间工作的最后通牒,导致又有数百名员工流失后,推特公司面临着对其审核有害和非法内容的能力和意愿的尖锐质疑。

而作为推特主要收入来源的广告商,由于担心品牌安全,也纷纷逃离这个平台。

周五,马斯克在与法国总统马克龙的会晤中承诺“大力加强内容审核和对言论自由的保护”。

欧文说,马斯克鼓励团队尽量不要担心他们的行为会影响用户增长或收入,称安全才是公司的首要任务。她说:“他每天都在强调这一点,每天都强调多次。”

据熟悉相关审核工作的前雇员说,欧文描述的安全措施至少在一定程度上反映出,推特正在加速改革围绕仇恨行为和其他违规行为的应对措施。推特自去年以来就已经在计划进行改革。

马斯克正遵循的一种方法被业界称为“言论自由,但不自由显示”(freedom of speech, but not freedom of reach),它要求保留某些违反公司政策的推文,但禁止它们出现在主页时间轴和搜索等页面。

推特长期以来一直围绕错误信息部署这种“可见度过滤”工具,并在马斯克收购之前已将其纳入官方的仇恨行为政策。这种方法允许发表更多的自由言论,同时减少与病毒式传播的内容有关的潜在危害。

根据非营利组织“反数字仇恨中心”的数据,在马斯克11月23日发推称仇恨言论的数量或浏览量正在下降之前的一周,推特上含有仇恨内容的推文数量急剧上升,这是研究人员指出此类内容普遍存在的一个例子,尽管马斯克吹嘘这类内容可见度降低。

研究人员说,那一周含有反黑人词汇的推文是马斯克接手前一个月的三倍,而包含诋毁同性恋内容的推文数量增加了31%。

Photo by Yuri Samoilov on Flickr

“承担更多风险,快速行动”

欧文于6月加入推特,此前曾在亚马逊和谷歌等其他公司担任安全职务,她反驳了关于推特没有资源或意愿保护平台的说法。

她说,裁员并没有对从事公司所谓“健康”部门的全职员工或承包商产生重大影响,包括儿童安全和内容审核等“关键领域”。

两位熟悉裁员情况的人士说,健康工程部门有50%以上的人被裁。欧文没有立即回应对这一说法的置评请求,但之前否认了健康部门受到裁员的严重影响。

她补充说,自收购以来,从事儿童安全工作的人数没有变化,而且该团队产品经理仍在职。欧文说,推特填补了一些离职员工的职位,但她拒绝提供关于人员流动程度的具体数字。

她说,马斯克专注于更多地使用自动化,认为公司过去错误地倾向于使用耗时费力的人工审查有害内容,“他鼓励团队承担更多风险,快速行动,确保平台的安全。”

例如,在儿童安全方面,欧文说,推特已经转向自动删除由可靠人士举报的推文,这些人在准确标记有害帖子方面有良好的记录。

情报公司TRM Labs威胁情报研究员卡罗琳娜·克里斯托弗莱蒂(Carolina Christofoletti)说,她注意到推特最近在她举报后最快30秒内就将一些内容删除。克里斯托弗莱蒂专门研究儿童性虐待材料。

在周四的采访中,欧文说,推特与网络安全组织Ghost Data合作,删除了大约44000个涉及违反儿童安全规定的账户。

推特还限制了通常与虐待相关的话题标签和搜索结果,比如那些旨在查找“青少年 ”色情内容的标签。她说,过去工作人员担心这种限制可能影响对术语的使用,现在这种担忧已不复存在。

欧文说,“我们过去在推特讨论过利用‘受信任的举报者’的问题,但有一些犹豫不决,坦率地说是有一些拖延。我认为我们现在有能力真正推进这方面的工作。”