净网特工

我们还上不了脸书呢

上周，我找到了一张《感官世界》的稀有海报，想把它发布在微博上。

可是，怎么都发布不出来，关键是这张图片并没有露点。

既然不能在微博上发布，那我是不打算在文章里贴出这张海报了。

你们也别去豆瓣上找了，没有，我也没有上传的计划。

当然，写这些不是为了显摆我发掘海报的能力。

我是对于微博上对于图片是如何审核的机制比较好奇。

大家应该有过这种经验，发布在微博上、豆瓣上、B站上、百度贴吧上的内容被删的情况。

不管是因为人工审查，亦或是因为别人举报。

困惑、震惊、愤怒，“为什么删我的东西，我发的内容没什么违规啊”，这应该是大家的第一反应。

我除了好奇这些审查机制外，更好奇这些机制背后的人。

也就是这些网络审查员。

《网络审查员》

先把时针拨回到2013年3月23日，在脸书上有一条视频，视频的内容是关于儿童性暴力。

在视频下架之前，它已经有了超过4000次的分享，以及数不清的评论。

这条视频引起了导演汉斯·布洛克和莫里茨·赖斯维克的关注。

为什么这种事情会发生？为什么这些网站没有及时地进行处理？

这个就是《网络审查员》的缘起。

01

这是一群隐形的人

菲律宾，马尼拉，一间办公室。

经常传出“忽略”、“忽略”、“删除”、“删除”的声音。

坐在电脑前的人目不转睛地盯着屏幕上频频闪过的图片、视频。

这些图片与视频包含着大量暴力、血腥、色情的讯息。

他们就是谷歌、推特、脸书等社交媒体雇佣的网络审查员。

上面就是这些网络审查员的日常工作。

他们的工作不能对外讲，甚至连工作本身都是秘密。

他们看似是为互联网三巨头工作，实际上，他们所在的公司只是外包公司，他们的工资也是由外包公司来发。

每天有2万5千个指标，意思就是他们要删除2万5千条不良信息，每一天。

想想一下让一个普通人每天看虐杀、色情、暴力，他会变成什么样。

但是这些审查员必须要看，因为这是他们每月的KPI指标。

他们可以选择跳过一些引起他们不适的视频，如果被发现业务评分就会扣分，他们每个月只有三次的机会。

他们家境的贫穷也不允许他们放弃工作的机会。

要么读书，要么捡垃圾，对于来自社会贫困阶层的他们而言，选择就是如此残酷、简单。

每天都要穿过垃圾山、趟过垃圾海去上班，他们有一家子要养，他们必须珍惜工作的机会。

她，在审查期间看过一个儿童性暴力的视频，让她震惊不已。

她很痛苦，但却不能辞职，因为她签了约，只能硬着头皮接着干。

虽然杜特尔特政府宣称,从2018到2022年，菲律宾经济规模要扩大50%,并要迈入中高等收入国家的行列，但是菲律宾的贫富差距依然悬殊。

富人吃肉，穷人吃土。

这些来此贫困村庄的审查员们，咬着牙也想挺过来。

有些情况，并不是咬牙挺一挺就能解决的。

其实几年前，我就看过一篇关于推特公司审查员心理健康问题的外文文章。

文章就讲，这些审查员工作了几个月之后，都要接受心理辅导。

就像片中出境的几位工作人员。

在直面人性丑恶之后，他们的心理健康状况都很糟糕。

她，每天都要接触大量的色情视频。为了判断一个视频是忽略还是删除，她必须了解各种性方面的术语。

她在家看了大量的A片，还经常去逛性用品店，每晚都会做各种丁丁的梦。

用她的话讲，既有罪恶感，也有羞羞的快感，甚至还看上了瘾。

一个清纯少女就这样变成了一个老司机。

她这种情况还算轻的。

他，看过几百遍斩首视频。

次数多到，仅仅凭着尸体身上的切口，他就知道尸体是用小刀割的，还是大刀砍的。

麻木，看到了麻木。

当麻木累积到阈值的时候，就是他们崩溃的时候。

片中一位审查员，生前是负责审查自残视频，看过了数不清的自虐视频后，在家上吊自杀了。

没有人关心他们的心理健康。

02

审查的标准是什么

关于网络内容的审查本身就是一个悖论，如何在追求言论自由的前提下，又能保证言论的自由不会危及到我们自身。

这世界上没有一个人不想追求言论自由，但是要付出的代价呢，怎么办？

单单靠我们自身的批判性思维，举世浑浊唯我独清,众人皆醉唯我独醒？

戴维·凯伊，联合国言论自由特别报告员是这么说的。

他觉得对于言论自由设限，会导致民众获得越来越少的信息，以至于尖锐意见会从网络上销声匿迹。

那为什么现在网络暴力越来越严重，互相仇视的情绪越来越高涨。

这问题到底是出在谁的身上，真的是这些社交平台监管不力，是我们被这些社交平台诱导？

答案是非常复杂的。

对么？对，但是这个对也有预设条件。

什么问题都不可能只有A与B两个面，我们也不能也二元论来看待问题。

一个平台该如何判断该如何审查一张图片、一段视频。

一个平台认为是危险的消息，在另一个平台可能认为其具有新闻价值。

黄安娜，前谷歌/推特法律负责人举了一个例子。

萨达姆在被处决的时候，有人把视频发到了油管上，网上一共有两段视频，一段是萨达姆被处以绞刑的视频，一段是萨达姆的尸体。

这样一来，就要决定到底是该留哪一段视频，他们最后选择了萨达姆被绞刑的视频，因为这段视频具有历史价值。

而这样就带来一个问题，如果审查员不知道图片、视频的背景信息，该如何决定是该忽略还是删除。

审查员因为不知道背景消息误删的情况，也很常见。

不仅仅是这样，每个平台都要自己的标准。

像下面这张越战的著名照片。

它就因为涉及了未成年裸露而不符合规定。

对于这些审查员来说，最严重的的失误，就是疏漏裸体内容。

03

到底为谁所用

就算一个审查员每天能处理25万条违规信息，但是每天脸书、推特上还是会有海量的信息流出现。

再说，不论是人工智能识别还是人工识别，这种机制都是被动的。

社交媒体是带来了恶，还是引爆了恶？

每个人使用社交平台的目的各不相同。

美国艺术家伊尔玛·戈尔画过一张特朗普的裸体画，并把它放在了自己的脸书上。

引发了网络上的广泛讨论。

甚至特朗普本人都在白宫发言的时候，都讨论过自己的尺寸没有那么小。

现在的社交媒体已经可以强大到可以干预到国家领导人的发言。

NGO的成员，会在网络上收集视频，在视频被删除之前，先把视频保存下来。

对于他们来说，存档非常重要。

他们把这些视频收集起来后，发布在油管上。

他们用这方式记录战争，以此来让人了解战争的残酷，从而达到反战的目的。

来自叙利亚的艺术家，会把自己的创作放在脸书上，表达自己的政治观点。

美国右翼活动家，在社交平台上发表对于难民问题的观点，一口一个绿绿、臭大粪。

也会在游行示威上做直播，表达自己对于左派的不懈。

现在的言论自由已经被曲解了，人人都相信自己认为的真相。

就像片中提到的，自从特朗普上台以后，美国政治两极化日趋严重，左派与右派都不愿意对话。

这么一来，罪魁祸首就是脸书？是脸书有意识地发挥了推波助澜的作用?

没人能够回答。

最后就用脸书创始人扎克伯格在一次发布会上说过的一段话做结吧。

选择希望、克服恐惧，需要有勇气。

说我们能做出前所未有更好的东西。

要想改变世界必须保持乐观。

每一次我们连接网络、每一次创新，日复一日前进一小步。

所以我认为我们的共同努力比任何时候都重要。

- FIN -

公众号：小鲜电影（xiaoxianmovie）

这部纪录片真的非常值得看完了之后进行深思：

我仅敢列出以下的几个点供大家思考，而不敢自己妄下结论。

1.网络SC员通常被外包给第三世界国家的员工，差不多时薪为1美元。

2.长期成为网络SC员，精神上会受到长期的负面影响，因为黄色和暴力信息长期影响人体的身体健康。有的人为此而患上严重的精神疾病。有的人甚至宁愿捡真实世界的垃圾，也不愿意再干这个活。

3.如何鉴别信息不良不止是一个法律问题，有的时候还涉及到哲学上的争辩，比如电影中提到的例子：萨达姆被杀的过程与萨达姆尸体的影像之间的区别。

4.即使专家有的时候也很难做出选择，而这些审查员每天则要做出25000次选择，而其中如果漏判3次的话，就会失去工作。影响他们的是数量和绩效。 这是否导致SC员都会趋向于保守呢？

5.实际上我们现在看到的互联网就是，网络SC整理干净之后的互联网。而真正完整的互联网，可能只有审查员看到了。

6.我们也在用自己的键盘塑造着互联网。

7.互联网公司在各别国家和地区，可能要与这些政府达成协议的话，这样的行为究竟是该被定义为一个影响言论自由还是仅仅只是遵守当地法律的行为呢？这个问题本身还是很值得深思。（顺便提到，The Good Fight S03E08中就出现了一个例子，有一个律师就是利用好了这个争论，从而能够从互联网巨头身上敲上很大一笔竹杠，当然他并不是为了真的将这个话题在法庭上能够进行准确定义，而是为了能够对这个话题进行争论，并且利用媒体的报道对互联网公司进行公关方面的巨大压力，从而能够获得大笔的赔偿金。）

“我觉得这项工作本事的存在就是一个秘密” 冲击性内容具有其绝对重要的含义这不仅仅关于ylzj的范畴 我是支持一定限度的审查许多不适内容对价值观未建立的小孩来说是很有破坏力的但一定是有限度的而我们是没有限度的除此之外任何言论都应该允许存在否则你是在歧视民众的受教育程度而受教育程度是你决定的这个电影应该使用中国社媒的素材不能因为“因为你是一时的不冷静而说出的不严谨的话就煽动的仇恨情绪导致最终却mz受害”而否认ylzj的重要性你认为你很道德你是在助纣为虐

网络审查员的任务，是监视社交媒体上的发布内容，并做出合理化处理，包括防止儿童色情物扩散，觉察恐怖活动于未然，防止网络欺凌等，自动程序所无法完成的工作。

他们每天的处理指标是25000个，这意味着一天单击鼠标25000次。由于这份工作存在的本身就是秘密，作为社交媒体的清洁工，他们都要签署保密协议，不得向家人和朋友透露任何与工作相关的信息。

片子呈现了来自网络审查员，众议院、参议院对谷歌、脸书的听证会，前谷歌、推特法律负责人，大学教授，被删帖封号的艺术家，联合国言论自由特别报告员，记者，前脸书项目经理，前谷歌设计伦理负责人等多个角度的声音，

一个不得不面对的事实就是，社交媒体，确实加剧了人群的分化。精准的数据算法，只显示自己感兴趣的内容，屏蔽不想看到的内容，从人人都有发表自己意见的权利，慢慢演变成人人都只相信自己看到的才是真相。一次又一次的网络热点事件，反复证明一件事，没有基于共同事实认知的理性对话，只有不同阵营发泄情绪的对战。

20世纪我们关于世界的认知，正在被21世纪复杂的计算机算法重新编写，社交媒体的产品属性，决定了它为了存活下去，必须尽可能吸引更多人的注意，并设法不让他们厌倦，一个针对人性弱点，不断刷新认知底线的，充满戾气的，煽动对立，制造愤怒和恐怖情绪的平台，肯定比处处设限的平台能吸引更多用户的关注。

我们的个人喜好，决定了网络社会的变化和走向。没有人是孤岛，所以，今日的分裂局面，每个网民都有份。

#一百部纪录片计划#002《网络审查员》

几个事实：

1、网络世界，是一个虚拟世界，它并不是现实世界的本真反应，更像是一个基于现实世界某点的放大镜或者哈哈镜。网络平台，无论是社交媒体、视频网站或者搜索引擎呈现出的内容都是经过筛选和审查的。通过网络看到的世界，是带着滤镜或者有色眼镜看到的世界，但很多人以为现实就是如此，这是一种幻觉。

2、硅谷科技巨头，脸书、推特等，包括国内的字节所宣称的技术和算法中立，是一种谎言，因为这些平台的商业模式是广告模式，获取更多的用户、更多的转发和关注是他们的目的，这必然导致算法推荐带有诱导更多观看和分享的基因，刺激情绪的内容，加强极端言论的内容会有可能获得更多的推荐和传播，算法中立本身是不可能的，正如脸书的产品经理所说，脸书事实上对美国内部极端意见群体的对立冲突，起到了推波助澜的作用。

几点值得思考的问题：

1、如果网络反应的不是一个真实的世界，真实的世界，有善恶美丑，网络为了限制罪恶的扩散和影响，需要把色情、暴利、恐怖等内容进行审查删除。

那么如何界定内容的标准？艺术图片与色情图片、战争新闻与恐怖影像，邪教与神学……如果确定审查的标准与界线？

2、谁有权力制定审查的标准和界线？平台的审查标准和不同国家的法律标准是否足够公开透明？

3、执行审查工作的人的心理健康如何保护？

就如片中展示的，一个人每天2.5万张图片，几乎每个审查员每秒就要审查一张图片，其中会有大量传播色情、罪恶的内容，他们过量摄入了这些恶的东西，就像毒素一样侵入他们的大脑和心灵，冲击着他们对世界真善美的信念，有的人需要通过信仰上帝，用宗教来安慰自己的罪恶感，有的人变得麻木，有的人看了太多自残视频，过于悲伤，申请调岗而不得，最终抑郁自杀……

这些菲律宾的审查员为了相对当地较高一些的收入，以牺牲自我心灵为代价，在“保留、删除”的程序工作中异化自己、奴役自己，在自我美化、自我救赎和自我毁灭中挣扎，这是一份残酷的工作！

很有意味的一点在于，这种残酷的工作以第三方外包的形式存在于发展中国家，而硅谷只是宣称连接美好…就像一个事物的光与影，光辉留给了硅谷与科技创新者，暗影留给贫穷国家的打工者。

Ignore, Delete, Ignore, Delete ...... 这便是审查员的日常。

应该让世人知道，有审查员这样一群人在工作。他们依照规定审核发布的内容，确保社交媒体的安全。

员工的角度

开篇从员工的角度开始，员工感觉这工作是网络世界的安保人员，维护网络世界里面的秩序，避免有害内容传播。

员工都在菲律宾的马尼拉，这些就业让很多人脱离了以捡垃圾为生的困境，担当起家庭开支的重任。

工作强度有多大，每天的指标是 2.5 万个审核。那些员工可能没有开玩笑，可能真的会破吉尼斯纪录。

员工接触的内容有些哪些？儿童性交，暴力血腥，污蔑政治等内容。这些内容慢慢侵蚀人的头脑，审查员的心智感觉迟早会出问题。

平台的角度

平台角度，什么是不合适的内容？很难筛选。因为即便是由人来筛选甄别，也很难做好，别说是程序了。但平台是一定要承担这份社会责任的，有义务维护平台上内容的健康性。

为维护的工作上，也很难做好。平台会针对性地删除和屏蔽一些内容。Facebook 听从土耳其政府的要求，删除政治性言论、图片和视频。这个维护是不是过头了？

有的视频并不违反社交媒体平台的规定，不属于删除对象，但在土耳其被定为违法视频。对于这种情况，社交媒体平台的解决方法是根据 IP 来屏蔽土耳其的用户。

平台让言论传播更快速，言论自由便有遇到对立观点的情况，现实情况是，情况没有因此而促进双方的理解，反而激发矛盾。这种事情也怪平台吗？但平台确实有责任遏制散播仇恨。

其他的角度

从媒体的角度来看，像叙利亚处于战争的国家，很多血腥的图片或者视频，想引发社会的关注，但是也会被审核删除。

审查员的身心健康

审查员每天都在看这些充满暴力、血腥、仇恨、色情的视频，他们的身心健康，公司会保障吗？如果审查员跳过这些视频，这与公司的制度相违背，会有扣减业务分数的惩罚。确实有出现过，部分审查员由于受到每天看的视频的影响，在家上吊自杀。