Google выходит на тропу войны с интернет-троллями. Новый инструмент под названием Conversation AI наделён искусственным интеллектом и может автоматически определять оскорбительные комментарии. Об этом сообщает Wired.
Система, разработанная одним из подразделений Google, оценивает изречения интернет-пользователей по шкале от 1 до 100, в которой 1 балл означает нейтральный комментарий, а 100 баллов — максимально резкое и оскорбительное высказывание.
Как утверждают создатели, Conversation AI работает намного точнее, чем стандартные фильтры ключевых слов: в настоящий момент система успешно выявляет троллей в 92% случаев. Кроме того, искусственный интеллект работает значительно быстрее, чем живые модераторы. Конечно, Conversation AI ещё требует доработки, поскольку система иногда принимает нейтральные комментарии за оскорбительные.
В ближайшее время команда разработчиков планирует начать испытание своего алгоритма в комментариях издания The New York Times. Кроме того, новым программным обеспечением заинтересовались представители Википедии.
Как ожидается, Conversation AI будет распространяться с открытым исходным кодом, чтобы администраторы интернет-ресурсов могли свободно использовать данную систему и помогать в её развитии.