«Hamas угрожает выпуском видео, на которых показываются казни заложников, что вызывает большие тревоги в социальных медиа»
«В социальных медиа растет тревога из-за угрозы выпуска Hamas видео, демонстрирующего казни заложников».
На протяжении последнего десятилетия социальные платформы борются с распространением экстремистского насилия в прямом эфире. Теперь они сталкиваются с совершенно другой проблемой: на этот раз они знают, что может произойти.
В днях после того, как ХАМАС атаковал Израиль 7 октября, военное крыло группы заявило, что будет убивать израильских заложников каждый раз, когда Израиль запустит атаку на Газу. Представитель аль-Кассамских бригад Абу Обейда добавил, что эти казни будут транслироваться “аудио и видео”. По состоянию на сегодня, ХАМАС держит в заложниках 220 человек, согласно Израильским Вооруженным силам.
Во время атаки 7 октября один человек транслировал видео, на котором были запечатлены боевики ХАМАСа, убивающие израильтян – клип, который позже был размещен Дональдом Трампом младшим на X. И в дни после атаки ХАМАС захватил учетные записи заложников на платформах, таких как Facebook и Instagram, чтобы в прямом эфире атаковать и угрожать смертью.
В ответ на это, технологические компании казались воспринимать ситуацию серьёзно.
Meta запустила “специализированный оперативный центр” для отслеживания контента на Facebook, Instagram и Threads. TikTok активировал свой “командный центр”. X (ранее Twitter) мобилизовал свою “группу кросс-компанией”. YouTube активировал свой “разведывательный отдел”. И Reddit говорит ENBLE, что их “команда безопасности” находится на чеку.
- Пользователи Google Chrome Microsoft Edge хочет узнать, почему вы н...
- 9 лучших плагинов для маркетинга электронной коммерции в 2023 году
- Apple торопится догнать в гонке за ИИ
Но когда ENBLE запросило конкретные детали о том, как они собираются предотвратить злоупотребление возможностями прямой трансляции на платформах, ни одна из компаний не предоставила конкретных деталей, вместо этого ссылаясь на общее онлайн-руководство по политике прямых трансляций, если вообще отвечала. Например, Meta направила ENBLE на блог-пост 2019 года главного информационного директора Гая Розена о том, как компания планировала ограничить использование своих продуктов прямой трансляции после массового убийства в Крайстчерче, во время которого один стрелок убил 51 человека в мечети Новой Зеландии в марте того года.
Несмотря на пресс-релизы, указывающие на всеобщее внимание к проблеме прямых трансляций, эксперты отрасли говорят, что социальные медиа-компании проявляют недостаток прозрачности и неохоту предпринимать необходимые меры для предотвращения распространения видеозаписей казней на своих платформах, таких как полное приостановление возможностей прямых вещаний во время войны Израиля и ХАМАСа.
“Угрозы ХАМАСа проводить казни людей в прямом эфире происходят потому, что они могут это вещать”, говорит Имран Ахмед, основатель и генеральный директор Центра борьбы с цифровой ненавистью, неправительственной организации, отслеживающей ненавистную речь на социальных платформах. “Они делают это для эффекта, потому что это терроризирует нас. Если бы мы отобрали у них способность создавать этот эффект, они бы делали это? Что стоит первым, прямая трансляция или казнь?”
Ахмед утверждает, что компании не могут внедрить системы, которые автоматически обнаруживают содержание насилия экстремистов так же эффективно, как они делают это с некоторыми другими видами контента. “Если в вашем видео находится украденная музыка, их системы обнаружат это в течение микросекунды и удалят”, – говорит Ахмед, добавляя, что “фундаментальные права жертв террористических атак” должны вызывать такую же срочность, как и “имущественные права музыкальных артистов и исполнителей”.
Отсутствие подробностей о том, как социальные платформы планируют ограничить использование прямых трансляций, объясняется, по части, тем, что они опасаются разглашения слишком много информации, которая может позволить Хамасу, Палестинскому исламскому джихаду (ПИДж) и другим военным группам или их сторонникам обойти существующие меры, по словам сотрудника крупной платформы, который просит сохранить анонимность из-за отсутствия разрешения говорить публично, в связи с ENBLE.
Адам Хэдли, основатель и исполнительный директор Tech Against Terrorism, некоммерческой организации, связанной с Организацией Объединенных Наций, которая отслеживает экстремистскую активность в сети, говорит ENBLE, что сохранение конфиденциальности методов модерации контента важно во время чувствительного и взрывоопасного конфликта, но технологические компании должны быть более прозрачными в отношении своей работы.
«Необходимо быть осторожным в отношении конкретных деталей о том, как обнаруживается и анализируется этот материал», – говорит Хэдли. – «Но я надеюсь, что существуют способы этической коммуникации, которые не предоставят террористам информацию о методах обнаружения, и мы всегда особо поддерживаем прозрачность платформ в отношении их действий».
Компании социальных медиа говорят, что их выделенные команды работают круглосуточно в ожидании запуска ожидаемой наземной атаки Израиля в секторе Газа, что, по словам Хэдли, может вызвать вспышку заложников.
Тем не менее, несмотря на время, деньги и ресурсы, которые эти компании на миллиарды долларов, предположительно, вкладывают в борьбу с этим потенциальным кризисом, они все еще полагаются на Tech Against Terrorism, небольшую некоммерческую организацию, чтобы оповещать их о публикации нового контента от Хамаса или ПИДжа – другой военной группы, базирующейся в Газе.
Хэдли говорит, что его команда из 20 человек обычно узнает о новом террористическом контенте раньше, чем крупные платформы. Пока отслеживая аутентифицированный контент от военного крыла Хамаса или ПИДж, Хэди говорит, что объем контента на основных социальных платформах «очень низок».
«На крупных платформах мы можем найти тысячи этих официальных примеров, так что это не много в сравнении с Telegram», – говорит Хэдли. – «Мы рассылаем предупреждения на 60 платформ, в которых был обнаружен контент с [Хамасом] и ПИДжем, но объемы очень низкие».
Хамас запрещен на Facebook, Instagram, YouTube и TikTok, поэтому обычно не использует эти популярные платформы в большой степени, хотя X заявил ранее в этом месяце, что удалил сотни учетных записей, связанных с Хамасом. Вместо этого Хамас предпочитает использовать Telegram.
«Поскольку использование Telegram настолько широкое и простое, мы предполагаем, что они будут продолжать это делать, потому что террористы отдают предпочтение платформам, которые можно использовать наиболее легко», – говорит Хэдли. – «И зачем им заморачиваться с чем-то другим, кроме Telegram?»
Meta, X и YouTube сотрудничают, чтобы делиться информацией о том, что они видят на платформах. Telegram не участвует в таких партнерствах. В то время как он блокирует некоторые каналы в определенных юрисдикциях, Telegram обычно относится к модерации контента без вмешательства, что означает, что Хамасу и связанным группам в основном свободно размещать любой контент на своей платформе.
Telegram не ответил на вопросы ENBLE о том, как он будет справляться с видеозаписями казней на своей платформе, также как и X и Twitch. Discord отказался дать комментарий на запись.
Хотя Хэдли видит Telegram в качестве основной проблемы, основные платформы все же подвержены риску распространения этого контента. Видео можно легко скачать с Telegram и разместить на любой другой платформе, и здесь основные социальные сети сталкиваются с проблемой остановки их.
Когда им была предложена более подробная информация о своих усилиях, Meta и TikTok направили ENBLE на свои политические страницы, где они излагают свою работу по предотвращению распространения этих видеозаписей. Представитель YouTube Джек Мэлон говорит ENBLE, что «наши команды круглосуточно отслеживают вредоносный материал на разных языках и в разных регионах». Представитель Reddit говорит, что компания имеет «отдельные команды с лингвистической и предметной экспертизой, активно отслеживающие конфликт и продолжающие соблюдать политику Reddit на всем сайте».
Одной из ключевых методов, которыми технологические компании пытаются предотвратить распространение насильственного крайне правого контента на своих платформах, является использование так называемых хеш-баз данных. Когда контент от террористической организации идентифицируется, он «хешируется», чтобы создать уникальный идентификатор, который затем может быть разделен между всеми компаниями, чтобы автоматически предотвращать повторное распространение этого видео или изображения в других местах.
Обмен хешами и взаимодействие вокруг инцидентов, таких как война Израиль-Хамас, координируется Глобальным интернет-форумом по противодействию терроризму (GIFCT), небольшой командой экспертов, задача которой – предотвратить эксплуатацию технологическими платформами насильственными идеологиями. Группа была создана в 2017 году Facebook, Microsoft, X (тогда Twitter) и YouTube как способ централизации и координации обмена информацией. Компании, такие как Dropbox, Amazon, Pinterest и Zoom, также финансируют группу.
GIFCT не предоставили представителя для ответа на вопросы ENBLE, но на сайте группы есть заявление, которое гласит: «мы предоставляем регулярный мониторинг ситуации для компаний-участников и поддержку в борьбе с контентом, нарушающим политику платформы, связанным с этим конфликтом».
Даже когда основные платформы имеют доступ к общей базе данных верифицированного террористического контента и централизованное общение с экспертами, которые следят за этим контентом, у них все равно есть много работы, чтобы предотвратить распространение насильственных видео на их платформах.
«Это будет большой пробный камень для основных платформ», – говорит Хадли. «Мы ожидаем, что их алгоритмические системы смогут обнаружить [логотип Хамаса], например, и соответствующим образом реагировать. Поэтому, на самом деле, мы тихо уверены в том, что эти платформы справятся с этим. И я надеюсь, что они тренируют свои алгоритмы в ожидании этого на основе уже существующего большого объема контента от [Хамаса и ПИД]. Но, к сожалению, мы не имеем никакого понимания об этом».
