2018年05月14日 | Facebook AI作用有限：恐怖主义内容仍在平台活跃

在过去一个月中，马克·扎克伯格在国会和投资者面前夸口说，Facebook的人工智能项目在其网站上正扭转极端主义的趋势。“我们的人工智能工具可以帮助我们撤掉ISIS和基地组织相关的恐怖内容，其中99%的内容在有人标记举报之前就被识别移除，”在四月份的电话财报会议中扎克伯格说道。但实际上，这个工具仅适用于这两个组织。其他组织似乎还是能够从网站的22亿用户中招揽或多或少的人员——只要他们愿意。

《彭博商业周刊》的一篇报道显示，至少有十几个美国认定的恐怖组织仍在Facebook上活跃着，其中包括中东的哈马斯和真主党，西非的“博科圣地”组织，以及哥伦比亚革命武装力量-人民军(哥革武，FARC)。这些恐怖组织使用各种手段召集支持者，比如发布对手造成的可怕死亡照片，以及关于他们提供之社会服务的日常新闻。有些组织可以在Facebook的搜索栏中输入英语或者西班牙语或阿拉伯语直接找到。有些组织甚至还在他们的网站主页上公然链接到Facebook主页。

“Facebook上绝不容许恐怖主义和宣传恐怖主义的内容，一经发现立即删除，”公司在一份声明中说道，“我们知道我们有能力这么做，我们也一直在大力投资做好这件事。”在被问及上述组织的问题时，Facebook似乎已经关闭了一些主页，其中包括“阿克萨烈士旅”和哈马斯的“卡桑旅”。

真主党的Al-Manar电视——是在美国严禁的一个“全球恐怖主义实体”，却得以在Facebook上宣传，定期重复发布Facebook已经删除的来自真主党主页的消息。三月份，Al-Manar还炫耀说真主党的员工在Facebook删除了他们的新选举页面之后，他们又迅速创建了另一个新页面。“抵抗支持者重新关注了我们的页面，这说明抵抗的声音永不沉默，”消息的英文版本如是写道。

多年来，Facebook一直在努力删除与美国认定的恐怖组织有关的页面。2014年，在《彭博商业周刊》询问了真主党的主页数小时之后，Facebook迅速删除了Al-Manar、真主党新闻网站Al-Ahed和与真主党有关联之慈善机构黎巴嫩伊斯兰抵抗组织等的页面。然而，这三个组织又很快重新出现。四月末，Al-Ahed的网站链接到了一个阿拉伯语的Facebook主页，该页面上有33000多名关注者。页面上的内容包括一个显示蒙面狙击手瞄准以色列士兵的视频。另一个Al-Ahed的Facebook主页有47000名关注者，英语版的主页有5000多名关注者。

Facebook的政策确实是禁止任何支持或推动恐怖主义的内容。上个月公司首次发布的对该条款的定义中包括了禁止使用暴力达到政治、宗教或意识形态目的的非政府组织。定义中还明确指出，这些组织包括宗教极端主义，比如白人至上主义和激进环保组织。Facebook还表示，网站上“不容许”出现违反公司政策的内容。

公司也就是在最近才开始积极扫描来自伊斯兰国和基地组织的内容，主要是因为受到政府的压力，一方面公司也在训练其人工智能系统来更好地标记违规帖子。与此同时，记者和研究人员还是经常可以在网站上搜索到理应禁止的内容。《纽约时报》四月份的报道指出在Facebook和Instagram上有大量冒充扎克伯格和公司首席运营官雪莉·桑德伯格的假账户。一天前，科学和技术出版物Motherboard指出，有些Facebook的主页还存储被盗窃的数据，包括社会保障号。

当在电话会议中被问及此事时，桑德伯格说员工一旦发现此类内容，Facebook会立即删除这些信息。“我们的网站不容许出现包含社会保障号或信用卡这些信息的帖子，”她说。

为了清理掉最糟糕的罪犯，Facebook增加了内容审查人员，目前有7500人，比一年前增加了40%。工作语言包括40多种;公司还计划增加对亟需关注之语言使用比较流利的员工。

恐怖分子对社交媒体的喜好素来引起Facebook及其全球竞争对手的焦虑。与Twitter和谷歌的YouTube类似，Facebook历来把标记违规内容给版主的责任推给用户。

当国会就Facebook未能快速对违规内容作出回应时，扎克伯格谈到了在哈佛宿舍成立公司的经过，他表示自己没有审查所有事情的资源。让用户反馈糟糕内容是Facebook删除那些内容最简单的方法。

该策略得到了《通信规范法案》第230条的支持，该法案规定了网站对用户发布内容的责任。不过，法案的保护效力正逐渐减弱;上个月，特朗普总统批准了一个例外，允许检察官追查在线平台，如果这些平台被用于性贩运。扎克伯格现在又说，他认为Facebook应该对网站发布的内容负责。但这并不意味着法律责任。相反，公司试图以公共服务的方式洗白自己。

尽管Facebook已经发布了其指导原则，但具体地进展尚不清楚，并且有人认为尚有解读的余地。“他们对自己用来巩固其政策的法律或法规保持透明，但很遗憾他们并没有，”电子前线基金会的国际言论自由部负责人吉莉安·约克(Jillian York)说。她还指出，Facebook在选择哪些组织为恐怖组织这件事上很可能会涉嫌干预当地政治。比如，人们可以辩解说，因为真主党在黎巴嫩议会中拥有席位，屏蔽他们的内容相当于在帮助其政治对手。

另外，Facebook主页背后的拥有者有时候也很难确定，哪怕上面显示的标志和内容是来自已知的恐怖组织。比如针对“博科圣地”组织，詹姆斯顿基金会12月份发布的研究表示这家组织在Facebook上的名称为“Khairul Huda”。这个名字下的简介里有大量成员手持步枪或戴着头套的照片。其中，一个Facebook成员在12月份发布了一个帖子呼吁志愿者为耶路撒冷而战“高举神的旗帜”并解放圣城。“愿意加入我们吗?”他写道，“那就联系我们。”

虽然Facebook会把这些组织删除，但公司似乎并没有采取有效的手段来防止他们再次出现。四月份，在非营利组织反恐项目发布了他们的链接后，真主党相关的Facebook页面随即消失。两周时间不到，类似的内容再次出现。《彭博商业周刊》在Facebook上进行搜索时又找到了这些主页，其中仅仅把英语关键词改换成了波斯语。