我的账户
排名无忧

电商排名优化专家

亲爱的游客,欢迎!

已有账号,请

如尚未注册?

Facebook内容审查员:日审帖子约8000篇

2018-7-21 15:53

 一名Facebook前仲裁员说,不断涌现的令人不安的材料压力,最终使她对儿童色情和兽交内容变得麻木不仁。

  Facebook内容审查员:日审帖子约8000篇
  一名Facebook前仲裁员说,不断涌现的令人不安的材料压力,最终使她对儿童色情和兽交内容变得麻木不仁。
  27岁的SarahKatz2016年通过第三方承包商Vertisystem,在加州门洛帕克的Facebook总部担任了8个月的内容审查员。她的工作很简单:弄清楚举报给Facebook的帖子是否违反了公司详细的社区标准。
  实际上,这意味着每隔10秒就要看一次全新的、潜在恐怖的材料,并迅速决定是否需要将其丢弃。需要审核的帖子被称之为“票据”,每天大约有8000个。
  为应对这一冲击,Facebook去年雇佣了4500名像Katz这样的仲裁员,并于2017年5月宣布计划再雇佣3000名仲裁员,以帮助Facebook对抗用户输出最黑暗的角落。Facebook也在投资人工智能,来帮助处理违规的帖子。
  Facebook在5月份的一份透明度报告中,详细说明了它在禁止内容方面存在的问题。它说,今年前三个月,它对2100万个含有裸体和性活动的帖子以及340万个含有暴力画面的帖子采取了行动。数百万篇含有仇恨言论、垃圾邮件和恐怖内容的帖子也被删除。
  审查者必须签署关于冒犯性材料的弃权文件
  内容审查者在开始为Facebook工作时需要签署了一份弃权文件,这基本上是承认他们准备好了查看令人不安的材料。它还旨在保护Facebook免受任何潜在的法律诉讼。
  Katz签署的文件写道,仲裁员将接触到“可能冒犯某些人”的材料,包括色情图片。它补充说,如果工作人员“不想继续”,他们应该“迅速通知”Facebook。
  “Facebook有数十亿用户,人们不知道如何正确地使用这个平台,所以有很多色情、兽交和暴力画面,”Katz表示。“Facebook上有很多你可能不希望看到的共享内容。”
  Katz在门洛帕克的一个开放式办公室工作,那里有免费的小吃,同事之间也很友好。她说,他们会排队等待审查的帖子,一旦分配好帖子,她需要在几秒钟内作出决定。
  如果达不到票据目标,后果自负。Katz说,如果有“一两次”没有达到目标,将会被警告;三次以上,“你可能会被解雇。”Katz说,她从未看到有人被解雇,但工作人员私下里都知道这一点。
  “过了一段时间后,你会发现这是一份单调的工作,”她说。“你肯定会对一些照片材料变得不敏感,因为你看得太多了。许多内容趋于再循环。”
  不断浮现的邪恶照片
  Katz说,有一份特别险恶的照片和视频不断出现在她的队列中。
  她说,照片中的两个孩子,看起来大概9岁至12岁,他们面对面站着,腰部以下没有穿衣服,彼此抚摸着。Katz说,很明显,摄像机后面有人在告诉他们该怎么做。
  “它会消失,但又会再次出现。一天之中它会多次出现,”她说。“每次的用户位置都不一样,这一次来自巴基斯坦,那一次来自美国。很难找到最初的来源。”
  Katz说,当时并没有要求她举报分享这些材料的账户,这一点让她感到“不安”。
  “如果使用者的帐号不足三十天,我们会以假帐号之名停用该帐号,”她说。“如果帐号超过30天,我们只需删除内容并继续保持该帐号的活动状态。”
  她的经历引发了Facebook在其平台上解决剥削儿童问题的有效性问题。
  该公司在2011年与微软签署了一项协议,来使用其PhotoDNA技术,旨在扫描Facebook和Instagram上的所有图像,标记已知的儿童色情内容,并防止其被重新使用。此外,Facebook仲裁员需要接受培训,当他们看到这些内容时,会在内部进行识别。
  Facebook在2012年向《纽约邮报》表示,它向美国失踪和受剥削儿童国家中心报告了所有剥削儿童事件。
  公司发言人当时说:“我们对上传到Facebook上的儿童色情内容是零容忍的,并且在防止和移除剥削儿童内容方面非常积极。”
  Katz说,她不知道2016年是否还会有这样的情况。
  她说:“Facebook现在可能有这样的政策,认为你应该举报它,但当时他们没有。”
  Facebook拒绝评论Katz的声明与其所宣称的政策之间的差异。
  人类视角的细微差别
  Katz现在是云计算公司ServiceNow的网络安全分析师,她撰写了一部科幻小说《ApexFive》,灵感来自她在Facebook的工作生涯。她对自己在Facebook上的经历并不持乐观态度,认为这份工作的负面影响远远超过了她保护用户的感觉。
  “这项工作需要很多人的眼睛,无论人们怎么说,也不能全部分配给人工智能来完成,”她说。“我们作为人类,存在角度上的细微差别。人工智能可以帮助跟踪来自数十亿用户的所有内容。而人的因素也必须被考虑进去,这样我们才能一直做得很好。”
  Katz敦促科技公司做更多的工作,把仲裁作为一种职业而不是短期工作。
  “不仅Facebook,一般的社交媒体平台也应该全职聘用内容仲裁员,因为这会提供更多的激励,”她说。“这真的激励我们做好一份出色的工作,让它成为我们想要坚持的东西。”
  Facebook发言人说:“我们的全球内容审查团队在帮助为Facebook社区创建安全环境方面发挥了至关重要的作用,这是我们的首要任务。我们认识到这项工作往往是很困难的,因此我们为所有员工提供了健康和心理支持。”
  “Facebook上有20多亿用户,所以这是一项非常重要的工作,因此我们最近将现有的4500多人全球社区运营团队,增加了3000人,以审查我们每周收到的数百万份举报。”

鲜花

握手

雷人

路过

鸡蛋
该文章已有0人参与评论

请发表评论

全部评论

这个人很懒,什么也没留下...
粉丝0 阅读36 回复0
关注我们
排名无忧助力淘宝运营

客服电话:0510-66121010

客服邮箱:646587275@qq.com

周一至周日 9:00-18:00

地址:无锡市洛社恒通商务广场15楼

Powered by www.paimingwuyou.com @ 2018-2028