254

Google создала оружие для борьбы с интернет-троллями

21 сентября 2016

Google выходит на тропу войны с интернет-троллями. Новый инструмент под названием Conversation AI наделён искусственным интеллектом и может автоматически определять оскорбительные комментарии. Об этом сообщает Wired.

Система, разработанная одним из подразделений Google, оценивает изречения интернет-пользователей по шкале от 1 до 100, в которой 1 балл означает нейтральный комментарий, а 100 баллов — максимально резкое и оскорбительное высказывание.

Как утверждают создатели, Conversation AI работает намного точнее, чем стандартные фильтры ключевых слов: в настоящий момент система успешно выявляет троллей в 92% случаев. Кроме того, искусственный интеллект работает значительно быстрее, чем живые модераторы. Конечно, Conversation AI ещё требует доработки, поскольку система иногда принимает нейтральные комментарии за оскорбительные.

В ближайшее время команда разработчиков планирует начать испытание своего алгоритма в комментариях издания The New York Times. Кроме того, новым программным обеспечением заинтересовались представители Википедии.

Как ожидается, Conversation AI будет распространяться с открытым исходным кодом, чтобы администраторы интернет-ресурсов могли свободно использовать данную систему и помогать в её развитии.