Запреты Телеграммы на экстремистские каналы на самом деле не являются настоящими запретами
Запреты Телеграма на экстремистские каналы не имеют должного эффекта
По случаю нападений ХАМАСа на Израиль 7 октября внимание людей, беспокоящихся о онлайн-экстремизме, обратилось к зашифрованному приложению для обмена сообщениями Telegram, где ХАМАС-ские группы разместили графические изображения своих нападений в канале, который теперь имеет 1,9 миллиона подписчиков. Этот контент затем был широко распространен в социальных сетях. Под давлением общественности на Apple и Google через несколько недель после начала войны Израиль-ХАМАС Telegram-каналы, используемые ХАМАСом, были «ограничены». Однако они не были, как может показаться некоторым пользователям, запрещены.
Расследование ENBLE показывает, что вместо запрета или удаления каналов ХАМАСа и крайне правых экстремистских групп, Telegram скрывает их от пользователей двух основных магазинов приложений, но они все еще существуют. Некоторый контент из ограниченных каналов широко распространяется в неограниченных каналах, несмотря на механизмы Telegram для остановки распространения такого контента. Отмечено, что, несмотря на то, что Telegram делает некоторые из своих самых нарушающих совместности сообществ труднодоступными, сообщают эксперты, люди в ограниченных каналах все равно способны распространять свои сообщения, и каналы продолжают функционировать как места радикализации.
ENBLE и Джефф Аллен, соучредитель политического исследовательского центра Integrity Institute, проанализировали более 100 ограниченных каналов и тысячи сообщений за более двух месяцев. Большинство этих каналов содержат контент, связанный с крайне правым экстремизмом и другими формами радикализованной ненависти. Анализ ENBLE показал, что большинство этих каналов оставались активными даже при ограничении.
«Они просто делают так, чтобы [каналы] не отображались в вашем поиске и не были обнаружимы, но они все еще находятся на запасном складе», говорит Николь Стюарт, ассистент профессора цифровых медиа в Техасском университете.
Основанный Павлом Дуровым в 2013 году, Telegram долго был излюбленной платформой экстремистов. Его каналы не имеют ограничений на количество подписчиков (группы имеют лимит в 200 000 человек), и его подход к модерации контента означает, что группы и контент, которые могут нарушать условия использования на платформах, таких как Facebook, Instagram и X (ранее Twitter), остаются доступными.
- «Make it more» от ChatGPT – новая тенденция, которая выводит ...
- «Я успешно торговал с гаражной распродажей искусственного интеллект...
- Ориентирование в развивающемся электронном коммерческом ландшафте В...
ENBLE исследовала 108 ограниченных каналов, включая ХАМАС-ские каналы, которые Telegram ограничил в конце октября, и 365 неограниченных каналов за более двух месяцев. В 54 публичных неограниченных каналах содержался контент, пересылаемый из ограниченных каналов, что свидетельствует о совместном членстве. В то время как в некоторых ограниченных каналах есть всего несколько сообщений в неделю, другие, например, крайне правый канал rlwolf_9999, имеют более 1 000 сообщений.
Большинство каналов были ограничены в течение периода работы ENBLE. Однако, при исследовании каналов ХАМАСа, которые были ограничены после нападений 7 октября, ENBLE обнаружил, что просмотры контента значительно снизились – около 70 процентов, но они по-прежнему оставались активными, и ХАМАС-ский военный канал @qassambrigades продолжал делиться более 20 контентом в день. Хотя просмотры ограниченного канала часто снижались, ENBLE обнаружил, что контент из @qassambrigades был скопирован и вставлен в неограниченный канал @hpress, популярный канал новостей с более полумиллиона подписчиков.
«Неудивительно, что в ограниченной среде можно начать замечать такой же сетевой обмен», говорит Стюарт. «Это то, что они делают, чтобы распространять свои идеологические убеждения и передавать сообщение».
Эксперты, изучающие экстремистские группы в Telegram, говорят ENBLE, что платформа обычно модерирует контент этих групп в ответ на давление правительств, органов правопорядка или таких сущностей, как Google и Apple, которые имеют возможность ограничивать доступность приложения.
«То, что мы, кажется, знаем из опыта – это то, что когда Google и Apple говорят: «Эй, удалите это», в этот момент Telegram начинает удалять вещи», утверждает Александра Урман, исследовательница из Цюрихского университета, которая изучает Telegram и крайне правую оппозицию в Европе. Это также говорит о «силе Google и Apple», говорит Урман, поскольку обе компании способны влиять на решения Telegram по модерации контента.
В то время как Telegram доступен для загрузки в Google Play и Apple App Store, и Google, и Apple запрещают приложения, которые продвигают ненавистные высказывания, терроризм и насильственный контент. Например, условия использования Google гласят, что они не “разрешают приложения с содержанием, связанным с планированием, подготовкой или прославлением насилия против гражданских лиц” или “приложения, которые продвигают насилие или подстрекают к ненависти против отдельных лиц”. Приложения, нарушающие эти стандарты, могут быть удалены из Google Play или App Store, что значительно ограничивает их доступность. То, что обе платформы предлагают загрузку Telegram, свидетельствует о том, что приложение соблюдает условия использования компаний.
Apple не ответила на запрос на комментарий. Представитель Google Даниэль Коэн говорит ENBLE: “Play-приложения, содержащие или предлагающие UGC [пользовательский контент], включая приложения, которые являются специализированными браузерами или клиентами для направления пользователей на платформу UGC, должны иметь надежную, эффективную и систематическую проверку UGC. Это включает предоставление в приложении системы для сообщения о неприемлемом UGC и пользователях и принятие мер против такого UGC и/или пользователя при необходимости”.
Telegram не ответил на запрос на комментарий ENBLE.
В 2021 году Telegram выпустил версию приложения, которую можно было скачать напрямую на Android, где она была описана как обладающая “меньшими ограничениями”. Загрузка приложения напрямую означает, что оно выходит за рамки условий использования Google Play. Пользователи, у которых есть такая “самостоятельно установленная” версия Telegram, могут продолжать просматривать и публиковать контент в ограниченных каналах, которые обычные пользователи не могут просматривать.
Коэн, представитель Google, говорит ENBLE, что “Google не контролирует распространение приложений на Android”, отмечая, что открытая операционная система Android позволяет загружать приложения из других магазинов для приложений Android или напрямую на устройства пользователя через веб-сайт приложения.
Условия использования Telegram указывают, что пользователи не могут “продвигать насилие на публично доступных каналах и ботах в Telegram”, но ничего не говорят о том, как платформа реагирует на пользователей, нарушающих эти правила. Telegram не ответил на вопросы о том, как он определяет, должны ли быть ограничены или полностью запрещены каналы, так как он делал это ранее с каналами, связанными с Исламским государством.
В своем сообщении в публичном канале Telegram 13 октября Дуров отозвался о давлении на удаление каналов и контента, связанных с ХАМАС, сказав: “Ежедневно модераторы Telegram и искусственный интеллект удаляют миллионы очевидно вредоносного контента с нашей публичной платформы.” Он также утверждал, что, поскольку Telegram не усиливает содержание алгоритмически, “маловероятно, что Telegram-каналы могут значительно увеличивать популярность пропаганды”.
Хотя Telegram, возможно, не алгоритмически продвигает контент, эксперты говорят, что он используется для распространения ненавистных идей. “Группы ненависти и группы, признанные террористическими, используют эту платформу для мобилизации своих сторонников, по сути, они действуют как влиятельные личности”, говорит Стюарт из Техасского университета. Часть этой работы заключается в распространении и продвижении сообщений и идей других соответствующих групп и влиятельных личностей, заставляя пользователей еще глубже окунуться в экстремистскую экосистему.
Когда пользователь Telegram из ограниченного канала пересылает контент в неограниченный канал, этот контент не будет виден никому в канале, кто загрузил приложение из Apple App Store или Google Play. Но простое копирование и вставка легко обходит эту функцию для текстовых сообщений. ENBLE и Аллен нашли более 400 случаев, когда текстовый контент был полностью скопирован из ограниченных и неограниченных каналов, и пользователи часто помечали ограниченные каналы в неограниченных. В анализ не включены изображения и видео, которые также составляют значительную часть контента.
Например, сообщения, отправленные в неограниченный канал, называемый OfficialTheCollective, с более чем 4 000 участниками, содержали метки ограниченных каналов, таких как SpecialQForces, канал заговора QAnon, и часто призывали пользователей присоединиться.
Одно сообщение, размещенное на OfficialTheCollective, даже указывает пользователям, как обойти ограничения Google и Apple, говоря: «Google и Apple цензурируют приложение Telegram, загруженное через Google Play и Apple App Store. Используйте веб-браузер». В сообщении содержатся инструкции о том, как скачать Telegram, включая ссылку на видео с инструкцией на платформе видео Rumble, которая популярна среди правых инфлюенсеров.
В неконтролируемом канале ExpatsPortugalEngChannel ENBLE нашла сообщение, в котором ссылается на бунт эритрейских мигрантов в Германии. «Где все либералы, которые хотели, чтобы эти захватчики открыто входили в их страну?» – говорится в сообщении. «Нам нужно, чтобы вы пошли и поговорили с ними доброжелательно, сделайте это первыми, прежде чем нацисты возьмут верх, ведь ВАМ это понадобится». Текст полностью совпадает со собщением, размещенным в ограниченном канале @InTheEndGodAlwaysWins.
В некоторых случаях Telegram ограничивает каналы на основе местных законов. К таким странам относится Германия, которая имеет строгие правила в отношении речи ненависти и неонацизма. Хайди Шульце, исследовательница Людвиг-Максимилианского-Университета в Мюнхене, говорит, что ей удалось получить доступ к ограниченным каналам в Германии, используя VPN и голландские SIM-карты, которые обманули Telegram, заставляя его думать, что она находится не в Германии. Ограничение каналов «с точки зрения Telegram, может быть умным решением, так как они следуют местным законам, но они не удаляют каналы», утверждает она, поскольку это позволяет платформе сохранить свое право на защиту свободы слова.
Однако Урман с Университета Цюриха говорит, что ограничение каналов также может создавать пространство для более радикализации. «Люди, которые, вероятно, будут следовать за этими группами даже после ограничения, те, кто действительно хочет видеть этот контент и будет искать технические возможности сделать это, скорее всего, будут более радикальными», – говорит она.
Уже быть “лишенным платформой” в какой-то степени также может означать, что контент, скорее всего, будет более крайним, поскольку операторы каналов больше не боятся модерации контента, согласно Урман. «Эти группы, даже когда они ограничены, вероятно, способствуют радикализации», – говорит она. «Вы больше не будете планировать, в большинстве случаев, определенные атаки на открытом месте. Но теперь вы не на открытом месте. Вы среди своего клуба».
Рита Катц, исполнительный директор и основатель группы SITE Intelligence, консалтинговой компании, которая отслеживает деятельность террористических групп онлайн, считает, что решение компании о запрете канала, вероятно, зависит от законов и их соблюдения. «Европейский союз принуждал Telegram принимать меры против ИГИЛ и “Аль-Каиды” с 2015 года, и компания вела еще более точную работу против сетей этих групп в 2019 году», – утверждает Катц. «Telegram стал удалять целые каналы и аккаунты, не только администраторов или связанные с ИГИЛ или “Аль-Каидой” аккаунты, но и всех пользователей в этих группах и каналах».
Когда пользователь пересылает сообщение из ограниченного канала в неконтролируемый, появляется уведомление для тех, у кого нет «сообщения загруженного боковым путем», что сообщение не может быть отображено на их устройстве. Анализ, проведенный ENBLE по тысячам ограниченных материалов, показал, что только 36 из них появились с уведомлением, что они ограничены за нарушение Правил использования Telegram. Это означает, что большинство ограниченных каналов и содержимого, по-видимому, являются попыткой соответствовать политике Google и Apple, которые могут удалить приложение из своих магазинов.
«Если деятельность Telegram будет somehow угрожена», – утверждает Стюарт, – «это, вероятно, не является их приоритетом».
