Instagram新推出两款AI工具,帮你过滤垃圾留言!

Instagram新推出两款AI工具,帮你过滤垃圾留言!

Instagram 发布了两款新工具。一款为自动评论过滤器,另一款为垃圾讯息过滤器。两款过滤工具的技术基础都採用了 Facebook 的人工智慧係统。

该公司表示,这两项工具可用来减少垃圾讯息的数量,同时降低内容和影片中的攻击性评论。

自动评论过滤器自去年 9 月就一直存在,用户可以选择自动启动该程序。该程序可利用机器学习来识别可能引人反感的评论。如果在评论过滤器开启的情况下仍然出现攻击性评论,那幺用户可以像以往一样直接向 Instagram 报告。Instagram 表示,评论过滤器目前仅支持英语,不过未来将支持其他语言。

另一方面,垃圾讯息过滤器自去年 10 月上线以来就一直处于对外界保密的状态。而上线 9 月有余都未被用户发现,于 Instagram 而言已经说不准是好事还是坏事。目前该功能可以自动清除英语、西班牙语、葡萄牙语、阿拉伯语、法语、德语、俄语、日语和汉语共 9 种语言的垃圾讯息。

据报导,此次 Instagram 发布的评论过滤器就是使用了 Facebook 旗下 AML 实验室建立的「Deep Text」系统。在 Facebook 上,其可以结合机器学习辅助器完成每日 40 亿次以上的翻译功能的处理。此外,该系统还能在一秒之内理解超过二十多种语言的数千封邮件的内容。

去年 6 月,Deep Text 上线。其一开始被定位为内部工具,用来帮助 Facebook 工程师快速排序大量文本,创造分类规则。其后 Instagram 高管深入了解该系统之后,立即看到了机会——藉其打击垃圾邮件。因为对于 Instagram 的用户来说,垃圾邮件几乎是一个极其影响用户体验的烦恼。

在决定使用该系统之后,Instagram 第一步就是聘请了一批人员对该平台进行评论,并将评论按照「垃圾邮件」和「非垃圾邮件」分类。事实上,这种工作,在社交媒体涉及的技术行业而言非常普遍。先利用人类来训练机器,让其执行单调甚至无聊的工作,如此反复,最终机器会慢慢变得聪明和智能。

Instagram 相关负责人表示,最终透过不断地数据整合,有 3/4 的数据被送入 Deep Text。基于此,Instagram 的工程师可创造演算法,并对垃圾邮件可进行正确的分类。

在经历 4 个多月的不断测试和研究后,Instagram 团队在去年 10 月悄悄地上线了垃圾邮件过滤的功能。Instagram 的 CEO Kevin Systrom 对该功能的效果感到十分满意。他决定利用 Deep Text 来处理更複杂的问题——消除与 Instagram 社群準则相悖的意见或评论。为此,Instagram 还公开发布了一个 1200 字的长文,来解释其社群的精神。

与垃圾邮件过滤功能的开发过程类似,这次 Instagram 又聘请了一大批的人员,每天就重複一件事—看评论,并确定该评论是否合适。然后将其分类是否涉及欺骗、种族主义或性骚扰等等。所有这些工作人员都必须会两种语言。经过一段集中的处理,这些人一共分析了大约 200 万条评论。

同时,Instagram 的员工率先在自己的手机上内测了该系统,以此协助公司调整算法。与垃圾邮件算法一样,该系统会基于文本语义来分析发文的人和评论者之间的关係。通过一段时间对神经网络的训练和使用真实数据对模型的测试,Deep Text 已经可以探查到文本之间非常细微的语义差别。

直至今日,Instagram 终于正式宣布两大工具的上线。

当然,就目前这两大工具而言,仍然存在一些算法缺陷,如当被问及一些特定句子时,系统无法给出具体的回应。经过前文对 Instagram 这两个工具的开发过程的描述,我们也能看到 Instagram 的 AI 仍然依赖人类的力量,来训练机器学习系统。

正如 Facebook 欧洲、中东和非洲地区公共政策副总裁 Richard Allen 如是表述,Facebook 还需要很长一段时间,才能依靠机器学习和人工智慧来处理评估仇视言论时的複杂性。

相关推荐