扫蕩平台毒瘤,YouTube加速移除违规影片、把关留言环境新

去年度,Google 宣布将继续使用机器学习开发程式,以打击极端主义内容。经过一段时间的实测显示,AI 比人类可以更快更精準的清理 YouTube 上的非法内容,除了技术处理,也藉由小组成员进行人工审查,YouTube 透过在 4 月发布了每季一次的《YouTube 社群规範执行报告》,与用户报告最新进度,包含遭移除的频道数、遭移除的留言数,以及移除影片频道所依据政策。

YouTube 今天发表了《社群规範》执行概况的最新进展,包含加速移除违规影片,打造更安全的留言环境两大重点,根据官方资讯整理如下:

抢在观众看到前 YouTube 究竟如何先行移除?

发现违反《社群规範》的影片之后,YouTube 会将其移除并频道发出警告。如果频道继续发布《社群规範》禁止的内容,或是任一严重违规事例 ,YouTube 就会终止整个频道。绝大多数的滥用行为都是由企图上传垃圾或成人内容的不肖人士所为:YouTube 在 2018 年 9 月移除的频道和影片当中,有超过 90% 的频道和超过 80% 的影片都是因为违反 YouTube 的垃圾或成人内容政策而遭到移除。

针对暴力极端主义和儿童安全这些数量较少、违规情节却最为重大的领域,YouTube 在抵制这类内容上投入的大量资源正逐渐产生效果:在 2018 年 9 月上传,且因暴力极端主义或儿童安全问题而遭到移除的影片当中,有超过 90% 的影片都只有不到 10 次的观看次数。

这些数据每季都会出现波动。如果小组成员针对特定类别制定更严谨的政策,波动幅度就会更为明显。举例来说,在去年补强了儿童安全政策并定期谘询专家的意见,以确保政策能够遏止各种可能对儿童造成伤害的内容,包括未成年人打架闹事或参与可能引发危险的胆量挑战活动等。

接着就发现有 10.2% 的影片是因为可能危害儿童而遭到移除,和过去相较移除的比例有所成长,且因为含有儿童性虐待内容 而遭到移除的内容仅佔其中一小部分。

成果:

● 在 2018 年 7 月至 9 月之间,YouTube 移除了 780 万部影片

● 其中 81% 是由 YouTube 的系统率先侦测到

● 在系统侦测到的影片当中,有 74.5% 的影片在尚未被观众看到前就已经被侦测

 创作者崛起 YouTube 如何把关留言环境

与影片相同,YouTube结合了智慧型侦测技术和人工审查员来检举、审查及移除含有垃圾内容、仇恨言论与其他骚扰/滥用行为的留言。

同时,YouTube 也打造了多种实用工具,让创作者能够管理自製影片中的留言。举例来说,创作者可以选择亲自审核所有留言,或是由系统自动将含有连结或可能让人感到被冒犯的留言加以隐藏,以便创作者进行审核。目前已有超过 100 万名创作者使用这些工具来管理频道上的留言。[1]

YouTube 也持续加重对违规留言的处置,近期成果如下:

● 2018 年 7 月至 9 月期间,YouTube的小组成员移除了超过 2 亿 2400 万则违反 YouTube《社群规範》的留言。

● 遭到移除的留言多半是因为含有垃圾内容。每季在 YouTube 上发布的留言多达数十亿则,而遭移除留言的总数仅佔其中的一小部分。

● 儘管 YouTube 移除了更多违规留言,但观众的留言反而更加热络。相较于去年,每日使用者发布留言的机率如今高出了 11%。

YouTube 也表示将持续抵制平台中不当行为,目前仍有许多进步空间,但未来会持续投注资源于人力和技术,以便快速移除违规内容。

[1] 报告中不包含创作者在频道上自行移除的留言,因为这些留言是透过创作者选择採用的管理工具加以移除,而非由 YouTube 的小组成员依据《社群规範》审核并移除的违规内容。

上一篇: 下一篇:
随机文章Random article
图文排行Image & Text rank