原标题:Facebook 利用 AI 识别表情包里的不当内容

图片 1

图片 2

北京时间9月12日,Facebook宣布开发出一款新型人工智能系统,可用于检测仇恨性言论。美国科技媒体CNET认为,这款“武器”的推出可谓恰逢其时,在Facebook面临内容审查的当下,会大有用处。这一系统的代号为“Rosetta”,可帮助计算机阅读和理解每天发布到社交网络的数十亿张图像和视频。凭借这套新系统,Facebook可以更容易地发现平台上哪些内容违反了反仇恨言论规则。

Facebook 的审查人员无法审核人们在平台上发布的每一张图片,因此 Facebook
希望通过人工智能来帮助他们。在一篇博客文章中,Facebook 介绍了一个名为
Rosetta
的系统,它可以利用机器学习来识别图像和视频中的文本,然后将其转录为机器可读的内容。特别地,Facebook
发现这个工具有助于在表情包上转录文本。

通常情况下,计算机使用一种名为光学字符识别的方法来识别图片或视频中的内容,但是,由于Facebook网信息庞大——每个月有22亿人使用该社交网络——OCR的缺点暴露无遗。因此,Facebook宣布建立一套更大规模的系统。该系统同时适用于Facebook和Instagram,还可用于改进照片搜索和新闻流的表面内容。Rosetta通过从十多亿个图像和视频帧中实时地提取不同语言的文本,对网站内容实施监测。

文本转录工具并不是什么新鲜事,但 Facebook
却面临着不同的挑战,因为其平台量级巨大,以及其上的图像种类繁多。根据官方说法,Rosetta
现在已经上线,每天会从 Facebook 和 Instagram 上抓取 10
亿个图像和视频帧文本进行转录。

随着Facebook在社交网络上对内容进行审查,这套系统肯定会派上用场。此前,Facebook网曾被指责对缅甸、斯里兰卡和印度的暴力事件负有一定责任。上个月,该社交网络表示,由于在Facebook平台发现虚假信息,该公司正在采取行动,阻止缅甸的“仇恨传播”,截止到目前,鉴于缅甸国内针对罗辛亚穆斯林的种族暴力仍在继续,Facebook已删除了18个帐户和52个与缅甸军方有关的网页。

发表评论

电子邮件地址不会被公开。 必填项已用*标注