ИИ помог «Одноклассникам» снизить токсичность в комментариях

«Одноклассники» при помощи искусственного интеллекта сократили токсичность в комментариях почти в два раза. Внедренная модель машинного обучения автоматически выделяет негативные высказывания и на время ограничивает их авторов, сообщили в пресс-службе социальной сети.

«Мы видим, что у нашей аудитории есть потребность в пространстве для безопасного и уважительного общения: треть всех жалоб на платформе связаны с негативными, по мнению пользователей, комментариями, а 80% обращений в службу поддержки по поводу комментариев нацелены против "токсичности". Мы обучали эту модель больше года и продолжим совершенствовать ее в дальнейшем», — отметил директор по продукту OK Александр Москвичев.

Согласно исследованию, негативные посты вызывают злость у более 40% пользователей соцсети. Внедрение искусственного интеллекта в соцсеть позволил снизить время обработки жалоб на токсичные посты в три раза.