在Facebook宣布将更加依赖人工智能的内容审核之后的第二天，一些用户抱怨该平台在犯错，并阻止了一系列合法的帖子和链接，包括带有与冠状病毒大流行有关的新闻文章的帖子，并将其标记为垃圾邮件。
在尝试发布时，用户似乎收到一条消息，表明其内容（有时只是文章的链接）违反了Facebook的社区标准。“我们努力限制垃圾邮件的传播，因为我们不希望允许旨在欺骗或试图误导用户的内容来增加观众量，”该平台的规则已被阅读。
Facebook认为我在《以色列时报》上发表的文章是垃圾邮件。（这不是垃圾邮件。）pic.twitter.com/3NqUbiwmyi
-迈克·戈德温（@sfmnemonic）2020年3月17日
随着社交媒体平台继续与Covid-19相关的错误信息作斗争，也出现了问题。在社交媒体上，一些人现在浮出水面 ，认为Facebook决定将其签约内容主持人送回家的决定可能是问题的原因。
Facebook坚决反对这一观点，该公司负责完整性的副总裁Guy Rosen 发推文说：“这是反垃圾邮件系统中的错误，与内容审核人员队伍的任何变化无关。” 罗森表示，该平台正在努力恢复帖子。
重新编码联系了Facebook以发表评论，如果我们收到回复，我们将更新此帖子。
Facebook上的问题提醒人们，任何类型的自动化系统都仍会搞砸，而且随着越来越多的公司（包括Twitter和YouTube）依赖冠状病毒大流行期间的自动化内容审核，这一事实可能会变得更加明显。这些公司表示，他们这样做是为了遵守社交距离，因为许多员工被迫在家工作。本周，他们还警告用户，由于自动审核的增加，可能会错误地删除更多帖子。
在周一的博客中，YouTube告诉其创建者，该平台将转向机器学习来帮助“审阅者通常完成的某些工作”。该公司警告说，这种过渡将意味着某些内容将在未经人工审查的情况下被删除，并且该平台的用户和贡献者都可能会看到从网站上删除的视频实际上并未违反YouTube的任何政策。
该公司还警告说，“未审阅的内容可能无法通过搜索，首页或推荐获得。”
同样，Twitter告诉用户，该平台将越来越依赖自动化和机器学习来删除“滥用和操纵的内容”。尽管如此，该公司还是承认，人工智能不会替代人类主持人。
该公司在博客文章中说：“我们要明确：在努力确保系统一致时，有时它们可能会缺少团队带来的环境，这可能导致我们犯错。”
为了弥补潜在的错误，Twitter表示将不会“仅基于我们的自动执行系统”永久中止任何帐户。YouTube也在进行调整。该公司表示：“除非我们非常有信心违规，否则我们不会对此内容发出警告。”他补充说，创作者将有机会对这些决定提出上诉。
与此同时，Facebook表示，它正在与合作伙伴合作，将其内容主持人送回家，并确保他们得到报酬。该公司还正在临时探索一些版主的远程内容审核。
该公司在周一的一份声明中说：“我们预计这不会以任何明显的方式影响使用我们平台的人们。” “也就是说，这种方法可能会有一些局限性，我们可能会看到更长的响应时间，并因此导致更多错误。”
转向AI主持人并不奇怪。多年来，科技公司一直在推动使用自动化工具，以此来补充其对抗可能在其平台上溃烂的令人讨厌的危险内容的努力。尽管AI可以帮助内容审核更快地进行，但该技术还难以理解帖子或视频的社会背景，因此对它们的含义做出不正确的判断。实际上，研究表明，检测种族主义的算法可能会偏向黑人，并且该技术因容易受到歧视性决策而受到广泛批评。
通常，AI的缺点使我们不得不依靠可以更好地理解细微差别的人类主持人。但是，人工内容审核者也绝不是完美的解决方案，尤其是因为可能需要他们长时间工作来分析创伤性，暴力性和令人反感的词语和图像。他们的工作条件最近受到了审查。
但是在冠状病毒大流行的时代，让审稿人在办公室里并肩工作不仅对他们很危险，而且还可能使病毒进一步传播给公众。请记住，这些公司可能不愿允许内容审阅者在家中工作，因为他们可以访问许多私人用户信息，更不用说高度敏感的内容了。
在新型冠状病毒大流行中，内容审查只是我们求助于AI的另一种方式。当人们呆在室内并希望将其面对面的互动转移到网上时，我们注定会难得看到这种技术在能够更好地控制我们在世界上最受欢迎的社交平台上看到的内容时的运行状况。如果没有我们所期望的人类审查者的影响，这对于机器人来说可能是一个鼎盛时期。
更新，2020年3月17日，美国东部时间晚上9:45：此帖子已更新，包括有关Facebook帖子被标记为垃圾邮件并被删除的新信息。
文翻译：leo chen
原创文章，作者：小稣童，如若转载，请注明出处：https://www.snswhy.com/archives/1916.html
