研究人员说，网上的仇恨言论可能像计算机病毒一样被遏制

 
剑桥大学的研究人员说，仇恨言论在社交媒体上的传播可以使用与打击恶意软件相同的“隔离”方法来解决。
仇恨言论的定义因国家，法律和平台的不同而异，仅阻止关键字是无效的：例如，暴力的图形描述不必包含明显的种族诽谤来构成种族主义的死亡威胁。
因此，仇恨言论很难自动检测。在造成预期的“心理伤害”之后，必须由接触该事件的人员举报，并由许多主持人对每个案件进行判决。
这是古代辩论的新前沿：言论自由与有毒语言。
现在，一名工程师和一名语言学家已在《道德与信息技术》杂志上发表了一项提案，该提案利用网络安全技术对目标人群进行控制，而无需进行审查。
剑桥语言和机器学习专家正在使用威胁和暴力侮辱数据库来构建算法，该算法可以为包含仇恨言论形式的在线消息的可能性提供分数。
随着这些算法的完善，潜在的仇恨言论可以被识别并“隔离”。用户将收到警告警报，其中包含“讨厌的表情”(仇恨语音严重程度得分)，发件人的姓名以及查看内容或删除看不见内容的选项。
这种方法类似于垃圾邮件和恶意软件过滤器，“将声音传递给数字民主国家”项目的研究人员认为，它可以大大减少人们被迫经历的仇恨言论。他们的目标是在2020年初准备好原型。
共同作者兼语言学家Stefanie Ullman博士说：“仇恨言论是一种恶意软件，是一种故意的在线伤害形式，因此可以通过隔离来处理。” “实际上，很多仇恨言论实际上是由Twitter机器人之类的软件产生的。”
共同作者兼工程师Marcus Tomalin博士说：“像Facebook，Twitter和Google这样的公司通常会对仇恨言论做出反应。” “这对于那些不经常遇到它的人来说可以。对于其他人来说，它太少了，太迟了。”
他说：“许多妇女和公众视野中的少数族裔人因敢于在网上露面而受到匿名的仇恨言论。我们看到这阻止了人们进入或继续从事公共生活，常常是那些需要更大代表权的群体中的人们。”说过。
美国前国务卿希拉里·克林顿(Hillary Clinton)最近对英国听众说，仇恨言论对民主政体构成了威胁，因为许多女议员将网上虐待视为她们不再参选的一部分。
Facebook首席执行官马克·扎克伯格(Mark Zuckerberg)在乔治敦大学的演讲中谈到“对于什么才算是仇恨有广泛的分歧”，并辩称：“我们应该表现出更大的表情偏见”。
研究人员说，他们的提议不是万能的，而是介于完全允许或禁止在线使用某种“极端自由主义和专制主义”方法之间。
重要的是，用户成为仲裁者。托马林说：“许多人不喜欢没有选举产生的公司或由微观管理的政府来决定我们可以和不能彼此说的想法。”
“我们的系统会在您应该小心的时候进行标记，但这始终是您的要求。它不会阻止人们发布或查看他们喜欢的东西，但是它为那些被仇恨所淹没的人们提供了急需的控制。”
在本文中，研究人员指的是达到60%准确度的检测算法-比偶然性好得多。 Tomalin的机器学习实验室现在已经达到了80%，他预计数学建模将继续得到改善。
同时，Ullman收集了更多的“训练数据”：经过验证的仇恨言论，算法可以从中学习。这有助于完善确定隔离和随后的仇恨O’Meter读数的“置信度分数”，可以根据用户喜好将其设置为灵敏度刻度盘。
一个基本的例子可能涉及到“ b子”这样的词：一个多义的诽谤，但在诸如犬类繁殖的情况下也是一个合法术语。仇恨语音评分的依据是对此类单词在语法上的位置(周围单词的类型及其之间的语义关系)的算法​​分析。
Ullman说：“仅识别单个关键词是不够的，我们正在研究整个句子结构，甚至更多。用户个人资料中的社会语言信息和发布历史都可以帮助改善分类过程。”
Tomalin补充说：“通过自动隔离为可恨内容的强度提供指导，我们可以在仇恨言论的接收端授权那些使我们的在线话语中毒的人。”
但是，在剑桥艺术，人文与社会科学研究中心（CRASSH）工作的研究人员说，与计算机病毒一样，仇恨言论与限制仇恨言论的系统之间总是存在军备竞赛。
该项目还开始关注“反言语”：人们对仇恨言论的回应方式。 研究人员打算就“ Siri”之类的虚拟助手应如何应对威胁和恐吓问题进行辩论。