Методика работы в социальных сетях по выявлению экстремистского и иного противоправного контента

Красинский Владислав Вячеславович

доктор юридических наук, доцент,

заместитель руководителя аппарата

Антитеррористической комиссии

Московской области

Krasinsky Vladislav

Doctor of  Law, Аssociate Professor,

deputy head of the office of the Anti-terrorist

commission of the Moscow region

Источник опубликования: Красинский В.В. Методика работы в социальных сетях по выявлению экстремистского и иного противоправного контента // Современное право. 2020. № 2. С. 65-69.

В настоящее время одним из главных инструментов координации и информационной поддержки террористической деятельности, вербовки и ресурсной поддержки новых сторонников, финансирования террористических структур стали социальные сети и интернет-мессенджеры.

Современные средства интернет-коммуникации получили значительное распространение и ориентированы, в первую очередь, на молодежь. Возможность хранения и распространения данных на различных платформах, резервирования сообществ и аккаунтов позволяет идеологам и агитаторам террористических и экстремистских площадок  оперативно перенаправлять противоправный контент и сохранять основную базу подписчиков.

Профили социальных сетей сегодня являются уникальным источником информации о конкретных людях, их интересах и устремлениях, социальных связях[1]. В социальной сети можно найти «друзей» со сходными интересами и взглядами. В этой среде человек общается, получает и воспринимает информацию, которая соответствует его внутренним установкам, воспринимается им как заслуживающая доверия. С другой стороны, социальная сеть позволяет отгородиться от информации, не соответствующей его установкам, от альтернативных точек зрения (отписаться от паблика, удалить пользователя из списка друзей). Эффективность пропаганды в социальной сети определяется тем, что в ней легко происходит замыкание внимания пользователя на определённом типе информации или волнующих его проблемах и отгораживание пользователя от альтернативной информации, не укладывающейся в систему его взглядов. В этом случае получаемая информация будет только подтверждать и укреплять уже имеющиеся взгляды пользователя, при этом возможность столкнуться с альтернативными точками зрения существенно снижена.

Из профиля можно получить данные и о возможных противоправных устремлениях экстремистской направленности.

Учитывая важнейшее значение социальных сетей как ключевого элемента информационной инфраструктуры, модерации и распространения контента (в том числе противоправного и околокриминального) в сети, вопросы мониторинга социальных сетей на предмет выявления и блокирования экстремистского контента стали предметом рассмотрения Антитеррористической комиссии Московской области.

В соответствии с протокольным решением заседания АТК Московской области от 24.12.2018 г. № 59 муниципальным антитеррористическим комиссиям было поручено организовать выявление в сети Интернет материалов с признаками пропаганды террористической идеологии и информации экстремистского характера, содержащейся в Федеральном списке экстремистских материалов[2]. Во все муниципальные образования Московской области были направлены разработанные аппаратом АТК Методические рекомендации по выявлению в сети Интернет экстремистских (террористических) материалов[3]. Документ был разработан для руководителей аппаратов и секретарей муниципальных антитеррористических комиссий, заместителей руководителей объектов по безопасности, должностных лиц, ответственных за профилактику терроризма и экстремизма. Один из разделов Методических рекомендаций посвящен работе с профилями социальных сетей.

Некоторые комиссии (например, АТК городских округов Балашиха, Электросталь, Пушкино, Реутов) в 2019 г. организовали живую работу по данному направлению. Ряд муниципалитетов, к сожалению, формально отчитался о том, что «противоправного контента не выявлено».

На базе Академии социального управления Министерства образования Московской области начата работа по пилотному проекту создания группы интернет-мониторинга, которая будет вести сбор информации в сети о возможных проявлениях террористического, экстремистского и иного криминального характера в среде учащихся.

В ходе учебно-методических сборов и вебинаров в Министерстве образования Московской области с профильными специалистами и руководителями органов управления образованием регулярно обсуждаются актуальные вопросы противодействия распространению криминальной субкультуры АУЕ (экстремистская организация - деятельность запрещена в России), культа массового убийства «колумбайн», идеологии неонацизма и религиозно-экстремистских идей.

Для повышения эффективности адресной работы с населением в августе 2019 года на электронные адреса жителей Московской области проведена рассылка  информации от имени ГУРБ Московской области об алгоритме блокировки противоправного контента в сети Интернет. Информация поступила всем гражданам, зарегистрированным на порталах «Госуслуги» и «Добродел».

Аналогичная информация размещена на порталах образовательных организаций высшего и среднего образования Подмосковья.

Важно понимать, что сегодня профили в социальных сетях являются возможными индикаторами противоправной активности пользователя. Именно они, как правило, сигнализируют об устремлениях пользователя профиля.

Вслед за радикализацией пользователя происходит и трансформация его аккаунта. Другими словами, изменение индивидуального сознания пользователей социальной сети Интернета под воздействием террористической агитации и пропаганды отражается на характеристиках их профилей.

Рассмотрим поэтапное изменение профиля радикально настроенного пользователя социальной сети[4].

Типичный профиль пользователя, не подверженного воздействию террористической агитации и пропаганды, как правило содержит достаточные и правдивые сведения о личности (интересы, место жительства, личные фотографии), а также подписки на тематические паблики в зависимости от интересов. Материалы террористической агитации и пропаганды не представлены на стене[5] профиля или в подписках.

На первом этапе радикализации в подписках пользователя появляются паблики, распространяющие материалы террористической направленности. В списке друзей[6] профиля имеются пользователи, транслирующие такие материалы. Возможно появление подписок на «резервные» паблики.

Основной паблик, распространяющий материалы экстремистской направленности, часто имеет ссылку на резервный. В резервном паблике, как правило, отсутствует коммуникативная активность (нет записей на стене), при этом на него подписано много пользователей, что не характерно для социальной сети. Как только основной паблик блокируется, террористические материалы начинают распространяться через резервный. Наличие резервного паблика позволяет не потерять целевую аудиторию после блокировки основного. В настоящее время используются также резервные паблики с маскировочной коммуникативной активностью на стене.

Для второго этапа характерно проявление изменения интересов пользователя к информации, не связанной с террористической агитацией и пропагандой. Пользователь подписывается на паблики, распространяющие информацию о несправедливости существующего государственного устройства, информацию о совершении преступлений со стороны правоохранительных органов в отношении представителей отдельных социальных групп (национальностей, религиозных конфессий и т.п.), информацию, дискредитирующую представителей органов государственной власти и др. Возможен вариант разрастания общего количества подписок до больших значений (до 300), что маскирует подписки на экстремистские сообщества. Пользователь отписывается от пабликов, распространяющих развлекательный или другой контент, не соответствующий меняющимся интересам, либо считающийся запрещённым.

На третьем этапе возможно появление у пользователя другого аккаунта – анонимного. Такой аккаунт содержит минимум информации о пользователе, либо вымышленную информацию. Анонимный аккаунт часто имеет в подписках паблики, распространяющие террористические материалы. Возможна ситуация, когда экстремистские паблики маскируются подписками на паблики (или на профили), распространяющих материалы, не характерные для рассматриваемой категории пользователей, либо считающиеся у них запрещёнными (например, развлекательный контент, порно-контент).

На данном этапе пользователь может перейти к использованию других социальных сетей, мессенджеров, предполагающих более высокую анонимность. Появление анонимного аккаунта, подписанного на паблики, распространяющие террористические и экстремистские материалы, свидетельствует о наличии установок на сокрытие своего интереса к информации радикального характера.

В рекомендациях дана методика поиска запрещенного контента и алгоритм ограничения доступа к экстремистским (террористическим) сайтам, пабликам или страницам таких сайтов, аккаунтов[7].

14 июля 2019 г. с участием волонтеров в г. Видное проведено методическое занятие с волонтерами Московской области по тематике выявления в социальных сетях экстремистского контента. Добровольцам сотрудниками аппарата была доведена информация об особенностях и типовой методике работы в социальной сети «В контакте». Проведен анализ ряда аккаунтов, свидетельствующих о возможном наличии у пользователей противоправных устремлений.

В ходе анализа профилей пользователей социальных сетей необходимо обращать внимание на[8]:

подписки на паблики, заблокированные Роскомнадзором;

тематические группы, связанные с возможным финансированием террористической деятельности (например, «пожертвования на пути Аллаха», «помощь братьям по вере в тагутском плену», «помощь семьям муджаидов, шахидов», «поддержка исламскому призыву и «делу джихада»»);

содержание постов (казни заложников; видео с мест боевых действий в Сирии, Афганистане, Пакистане и др. регионах повышенной террористической активности; фотографии с оружием; инструкции участникам террористических ячеек, незаконных вооруженных формирований по обучению приёмам и методам изготовления оружия, взрывчатых веществ, самодельных взрывных устройств, осуществления терактов, способам противодействия правоохранительным органам);

наличие на стене репостов материалов из заблокированных аккаунтов.

В тематических сообществах, позиционирующих себя как исламские, но фактически распространяющих террористические идеи и формирующих готовность к совершению преступлений террористической направленности и к самоубийству, нередко содержатся материалы, навязывающие отчуждённость от общества, ощущения одиночества, несправедливости мира, обесценивания жизни и романтизации смерти.

Косвенными признаками, которые могут свидетельствовать о наличии в Интернете экстремистских (террористических) материалов являются:

минимальное количество информации о пользователе в профиле;

наличие запасных, резервных групп и ссылок на них;

неоправданно большое количество просмотров постов при минимуме подписчиков (пример: 5 подписчиков в группе, просмотров 245);

минимум лайков и репостов.

На мониторинговую деятельность в социальных сетях оказывают влияние следующие факторы:

- наличие «закрытых групп» и процедур регистрации пользователя;

- временные затраты на скачивание и обработку массивов данных
(с целью предотвращения несанкционированного автоматического сбора данных владельцы сервисов социальных сетей вводят ограничения на количество запросов);

- попытки блокирования поискового аккаунта со стороны представителей террористических и иных экстремистских структур.

При работе в социальных сетях целесообразно придерживаться следующей методики:

1. Создание специального аккаунта (учетной записи).
2. Анализ сообществ пользователей.
3. Лингвистический анализ профилей пользователей и текстов.
4. Анализ изображений.
5. Сравнение данных по пользователю с данными различных социальных сетей.
6. Идентификация пользователя.

Специальный аккаунт создается для целевой мониторинговой работы. Нежелательно работать с профилем, в котором отсутствует фотография и содержится минимум данных.

Аппарат АТК Московской области использует автоматизированную поисково-аналитическую систему, которая позволяет отслеживать активности, приводящие к росту социальной напряженности, выделять деструктивные тенденции, отслеживать реакции в социальных медиа и работать на упреждение.

Сообщества пользователей анализируются на предмет возможной принадлежности к одной из «групп риска». Можно вести речь о следующих сообществах:

- авторы и активные пользователи экстремального («шокирующего») контента;

- участники лево- и праворадикальных сообществ («антифа», «скины», «ультрас»);

- участники анархических сообществ;

- сторонники религиозно-экстремистских сообществ;

- сторонники деструктивных религиозных сект и культов («сатанисты», «неоязычники» и др.);

- сторонники криминальных субкультур («АУЕ»  *Экстремистская организация, запрещенная в России) , «околофутбол», «оффники» и пр.);

- последователи культа массового убийства («колумбайнеры», «скулшутеры»)[9];

- владеющие навыками обращения с оружием;

- состоящие на профилактическом учете в территориальных органах МВД.

Список не является исчерпывающим.

В настоящее время аппаратом АТК Московской области разработан словарь лингвистических маркеров (ключевых слов) сторонников террористических структур.

В словарь включены только поисковые термины и словосочетания (выражения), которые имеют специфической значение. На основе ключевых слов в Интернете ведется поиск сообществ, тематических групп и персональных страниц пользователей.

Анализ изображений предполагает изучение аватаров и страниц пользователей на предмет возможного использования и распространения экстремистской и террористической атрибутики и символики.

Важное значение имеет сопоставление полученных данных пользователей, состоящих в «группах риска», с данными различных социальных сетей. Одни аккаунты могут быть активными, другие – «спящими» или «резервными». В различных профилях может храниться разнообразная значимая информация.

Наиболее сложным этапом является идентификация пользователя, после чего с ним должна проводиться индивидуальная работа подготовленными специалистами (психологи, медиаторы, родители, сотрудники правоохранительных органов).

Мониторинговая деятельность в Интернете является важнейшим элементом общегосударственной работы по защите информационного пространства от проникновения и распространения деструктивных идей, в том числе экстремистской и террористической направленности. Современные интернет-технологии в данной сфере должны сочетать автоматизированную деятельность по поиску противоправного контента с «ручной» отработкой конкретных аккаунтов и их пользователей.

Использование предложенной методики мониторинга социальных сетей позволяет выстроить общие подходы к организации работы по своевременному выявлению аккаунтов риска, опасных сообществ и тематических групп, их связей и противоправных устремлений.