Instagram使用AI在发布令人讨厌的标题之前警告用户

 
Instagram正在启动一项新功能，旨在使用户在发布带有令人讨厌的字幕的视频或照片之前三思而后行。
展望未来，每当有人尝试发布Instagram检测到可能令人反感的字幕时，用户都会看到一条警报，要求他们重新考虑自己的言语。警报系统是完全自动化的，Instagram依靠从以前的欺凌报告中收集的数据，这些报告包含类似措辞的标题。
这实质上是Instagram于7月份推出的针对评论部分的类似功能的扩展-在这里，Instagram再次使用AI来检测语言，警告用户并最终“鼓励积极互动”。
上图：Instagram中字幕的滥用警报
当然，没有什么可以阻止用户违背建议并张贴辱骂性的评论或标题，但是其想法是，可能需要轻柔的提示，至少可以减少对Facebook庞大的照片和视频的滥用。共享平台。
该公司在博客中写道：“作为领导对抗在线欺凌行为的长期承诺的一部分，我们开发并测试了可以识别Instagram上不同形式的欺凌行为的AI。” “今年早些时候，我们发布了一项功能，可在人们发表评论之前通知他们。结果令人鼓舞，我们发现这些微调可以鼓励人们在有机会的情况下重新考虑自己的话。”
对于大多数社交平台来说，在线虐待和欺凌是一个长期存在的问题，研究表明，遭受网络欺凌的25岁以下的人遭受自我伤害或自杀的可能性是其两倍以上。仅对人类来说，监视数十亿用户的评论和标题是几乎不可能的挑战，这就是为什么所有主要平台都越来越多地使用自动化工具的原因-Twitter最近报告说，它现在主动删除了所有滥用推文的一半，而没有任何人举报第一。
Instagram最新的欺凌警报将首先在“特定国家”登陆，然后在接下来的几个月内进入全球市场。