«ВКонтакте» начала тестировать нейросеть для борьбы с языком вражды

Специалисты социальной сети «ВКонтакте» начали работать над искусственным интеллектом для автоматического распознавания материалов с враждебными высказываниями. Это ускорит время обработки жалоб и поможет пользователям реже сталкиваться с хейтспичем, рассказали в пресс-службе соцсети.

«Нейросеть учится определять самые разные категории оскорблений и угроз. Среди них — проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний», – сообщили в «ВКонтакте».

Чтобы усилить модерацию по теме языка ненависти и обучить искусственный интеллект, «ВКонтакте» добавила новую категорию жалоб — «Враждебные высказывания». Пользователь может выбрать ее, если нажмет кнопку «Пожаловаться» у оскорбительной публикации. После этого материал попадет на рассмотрение к модераторам. 

По словам руководителя команды модерации «ВКонтакте» Ивана Корнеева, модераторы ежедневно обрабатывают огромный объем контента, в том числе с использованием искусственного интеллекта, и большинство опасных материалов удаляются еще до того, как их кто-то увидит. «Если же вы заметили оскорбительную публикацию, пожалуйтесь на нее», – призвал он пользователей.

По информации соцсети, за первую половину 2020 года на платформе было удалено 520 тыс. единиц контента по теме разжигания вражды и ненависти, заблокировано 1340 профилей и 2470 сообществ, распространяющих враждебные высказывания.