YouTube推荐算法审核揭示了激进化的路径

 
美国，瑞士和巴西大学的一组研究人员发现，YouTube的推荐算法可能会分享种族主义的右翼渠道。上周在arXiv.org上发表的一篇论文“YouTube上的审计激进化路径”中详细介绍了这项工作，并且认为消费“alt-right”内容是激进化的合适代理，因为它与大规模枪击和推广有关。群际冲突
研究人员将视频分为三组 – 智力黑暗网(IDW)，Alt-lite和Alt-right – 以便分辨出不同程度的种族主义和激进化。
审计将IDW内容定义为偶尔冒犯或与恐同，伊斯兰恐惧症或种族主义有关，而Alt-lite内容通常是右翼活动家的工作，他们调查白人至上主义的想法。 Alt-right内容公开支持一个白人的ethnostate。
然后，研究人员使用三个社区中熟悉的一组关键字搜索YouTube，并用英语记录前200个结果。还增加了与该主题广泛相关的频道，例如与alt-right相关联的知名人士的姓名。
“我们的分析表明，特别是通过渠道推荐系统，可以从IDW渠道轻松发现Alt-lite渠道，并且可以从其他两个社区到达Alt-right渠道，”审计报告中写道。 “YouTube非常受欢迎，特别是在儿童和青少年中，如果流媒体网站实际上激化个人，这可以将白人至上等边缘意识形态推向主流。”
研究人员在阅读了具有超过50小时阅读alt-right内容手动注释数据集的经验的贴标者后得出了他们的发现。总而言之，分析的数据集由超过330,000个视频，360个频道，7900万条评论，200万个视频推荐和10,000个频道推荐组成。
在编制的360个频道中，90个被分类为IDW，114个被分类为Alt-lite，88个被分类为Alt-right。
研究人员声称，这是对YouTube上用户激进化的第一次大规模审计，该报告遵循了一些最近的报道以及用户的轶事声称，YouTube视频导致他们失去了“alt-right rabbit hole”。
为了解释视频和频道推荐中的潜在位置偏差，研究人员使用VPN来收集数据。其中三个VPN位于美国，两个位于加拿大，其中一个位于巴西和瑞士。
激进化的代理
为了跟踪激进化，研究人员将用户分类为“轻微感染”，如果他们发表一两条视频评论，“轻度感染”，如果他们发布三到五条评论，并且“严重感染”，如果他们留下六条或更多评论。大约10%的评论者被轻微感染，4% – 或超过9,000人 – 被中度或严重感染。
评论被用作信号，因为大多数评论被认为是彼此一致的，并且在2018年，alt-right视频每大约每五个视频视图收到一条评论。
“我们认为，这一发现包含了重要的证据，证明YouTube上存在并且仍然存在用户激进化，”该报告写道。
然而，研究人员没有宣称YouTube是一个激进化的渠道，因为个性化无法在结果中加以考虑。
“在2018年，对于所有类型的感染，大约40%的评论用户可以追溯到过去只在Alt-lite或IDW视频中评论过的用户群，”报告中写道。
观察家们指出，现在许多专注于alt-right内容的频道都是从关于视频游戏或锻炼等非常不同主题的视频开始的，但政治成为一个“越来越多”的话题。
审计发现三个类别之间的用户流量很大，声称他们越来越多地共享相同的评论基础。自2015年以来，三个类别中的每个类别的视频都有所增加。
在去年秋天的一份年度报告中，美国司法部表示，仇恨犯罪已连续第三年上升。自2015年以来，研究人员发现三个类别中的每个类别的YouTube观看次数，喜欢次数和视频都相应增加。
对于他们的审计，研究人员进行了10,000次模拟，以分析算法性能，并使用定制的爬虫收集视频和频道建议。他们收集了多个“轮次”建议 – 22个用于频道推荐，19个用于视频推荐。
研究人员写道：“如果我们按照推荐系统进行5次，每次25次中约有1次我们会发现一个Alt-right通道。”
使用来自少数主流新闻来源的内容作为控制，研究人员发现从控制向左右移动的迁移越来越少，并且与alt权利内容的接触程度越来越高，到2018年，每五个视图就收到一条评论。
研究人员指出，激进化的趋势可能会受到对主流媒体的怀疑以及越来越多的人从他们的社交媒体提供新闻报道的帮助。
审核由哈佛大学伯克曼克莱因互联网与社会中心，巴西UFMG和瑞士EPFL的研究人员进行。未来的研究可以用来解释个性化并对评论内容进行更深入的分析，以便跟踪单词使用模式和语气的演变。