В России создали систему для выявления экстремистов в социальных сетях

В Пермском государственном национальном исследовательском университете (ПГНИУ) разработали математические алгоритмы, которые позволяют обнаруживать экстремистские идеи в социальных сетях. Этот инструмент анализирует профили, сообщения и комментарии пользователей, а также выявляет призывы к нарушению общественного порядка. Об этом сообщает газета «Известия» со ссылкой на сайт ПГНИУ.

Доцент института компьютерных технологий Андрей Рабчевский разработал уникальный набор данных. В то же время одна из пермских компаний создала специализированную поисковую систему. Пособие, которое описывает методику использования этой системы, стало одним из победителей конкурса, организованного Академией МВД России.

В интервью изданию Рабчевский рассказал о том, что разработанный им набор данных позволяет определять роли пользователей социальных сетей, которые могут быть вовлечены в деструктивные социальные процессы.

Он отметил, что созданные в университете модели являются универсальными и могут использоваться для выявления потенциально опасных аккаунтов не только в контексте экстремизма, но и в сфере терроризма, а также изготовления самодельных взрывных устройств и нападений на школы.

В основу работы механизма легла поисковая система «Сеус», которая была разработана специально для работы с социальными сетями. В них содержится гораздо больше информации, чем в новостных каналах, как отметил Рабчевский. Система способна анализировать появляющиеся публикации, открытые профили, группы, лайки и комментарии, а затем проводить анализ поведения пользователей.

В процессе поиска алгоритмы выделяют ключевые слова, для каждого деструктивного направления создан список таких слов и словосочетаний. Когда программа обнаруживает ключевые слова, она откладывает сообщение и анализирует его. Поисковая система используется более чем в половине территориальных управлений МВД РФ. Рабчевский отметил, что благодаря системе удалось предотвратить множество преступлений, связанных с массовыми убийствами в школах, в частности, деструктивное явление «Синий кит».