С помощью ИИ «Одноклассники» сократили токсичность в комментариях на 47%

В социальной сети «Одноклассники» начали применять технологию искусственного интеллекта (ИИ) для временного блокирования пользователей, оставляющих оскорбительные сообщения. Об этом сообщает «Лента.ру» со ссылкой на пресс-релиз.

В пресс-службе социальной сети «Одноклассники» сообщили, что компания использовала технологию искусственного интеллекта для автоматического обнаружения и блокировки оскорбительных комментариев. Срок блокировки составляет от одного часа до суток и зависит от частоты подобных высказываний пользователя. Благодаря этой технологии, количество негативных сообщений под публикациями, фотографиями и видео сократилось на 47%.

Согласно результатам исследования, проведенного социальной сетью, более чем у 40% респондентов негативные публикации вызывают чувство гнева. «Мы видим по запросам пользователей, что у нашей аудитории есть потребность в пространстве для безопасного и уважительного общения», — сообщил директор по продукту соцсети «Одноклассники» Александр Москвичев. Треть всех обращений на платформе связана с комментариями, которые, по мнению пользователей, являются негативными. А 80% обращений в службу поддержки по поводу комментариев направлены на борьбу с токсичностью.

Модель машинного обучения была натренирована на основе 400 тысяч негативных комментариев. Это позволило сократить время обработки жалоб на токсичный контент в три раза и быстрее оказывать помощь людям в решении их проблем.

Ранее Агентство Экономических новостей сообщало, что в РФ предложили поручить ИИ выполнять несложные задачи в сфере образования.