VR之家消息：近日，谷歌为了打击网络暴力，推出了专门用于识别网络暴力语言的人工智能系统“Conversation AI”。据悉，该系统结合了谷歌的图像识别技术等最新的人工智能研究成果。
谷歌发布人工智能系统Conversation AI 旨在减少网络暴力事件的发生
从“不作恶”(Don’t be evil.)到“为所应为”(Do the right thing.)，作为科技界风向标的谷歌一直在市场上扮演者颠覆者和改变者的身份。为了应对出现越来越频繁的网络暴力，前不久谷歌推出了专门用于识别网络暴力语言的人工智能系统“Conversation AI”。
网络暴力的形式和范围或许比很多人想象的还要严重。目前，网络欺凌、骚扰、社交羞辱等形式的言论和行为已经成为 Twitter 和 Reddit 等平台中非常常见的现象。或许这些键盘侠的“道德绑架”只是出于一时的兴起和借机表达意见，但是这些不负责任的言论引发的后续结果却常常超乎预料，对受害者造成的心理创伤同样难以估量。
根据美国独立民调机构皮尤研究中心 2014 年的一份调查，每 10 个网民中就有 4 人遭遇过某种形式的网络骚扰，近五分之一互联网用户遭遇过严重的网络暴力，包括人身威胁、持续性的跟踪骚扰。而在国内，近日来自橙雨伞公益和尖椒部落共同制作的网络骚扰调查报告显示，国内的网络暴力现状同样令人担忧。在参与调查的 675 名网友中，有 99.5%的人表示曾经遭受过某种形式的网络骚扰。
网络暴力问题不仅仅局限于线上，它已经成为现代人不得不面对的一个严重的社会问题。随着网络的触角越来越广，这一问题的影响范围也变得越来越大，仅仅依靠人工检测已经无法有效地对此进行预防和打击了。
这项由谷歌子公司 Jigsaw 推出的网络暴力检测工具“Conversation AI”是基于大规模的神经网络构建的，其中还结合了谷歌的图像识别技术等最新的人工智能研究成果。它可以用于帮助企业管理其在线评论，并且对一些不符合讨论主题的、煽动性、带有淫秽和攻击元素的内容等进行辨别和屏蔽。据了解，这项技术将首先用于《纽约时报》的评论部分进行测试，维基百科也正计划对这项技术进行采用，不过 Jigsaw 公司并没有对外透露 Conversation AI 实现这些步骤的具体技术。据 Jigsaw 透露，公司最终将会开源这项技术，因此更多的网站和社交平台可以利用它对网络暴力进行一定程度的管理和抵制。
当然，虽然谷歌声称这项技术的准确性能够达到 92%，但是公司也明白网络暴力是无法仅仅依靠人工智能技术就被完全消灭的，不过至少，像 Conversation AI 这样技术为我们提供了一个能够让网络环境更加友好的辅助工具，减少网络暴力事件的发生。
