Становится все сложнее для правительства скрыто отмечать ваши социальные публикации
It is becoming increasingly difficult for the government to secretly monitor your social media posts.
В то время как израильская полиция подавляла палестинские протесты на улицах Восточного Иерусалима в мае 2021 года, отдельное агентство пыталось провести свою операцию в сети. Отдел киберпреступности Министерства юстиции Израиля отправил социальным медиа-компаниям списки тысяч пользовательских аккаунтов, которые они хотели удалить за нарушение политики контента сервисов своими сообщениями о протестах. Бывший сотрудник Twitter говорит, что компания приостановила несколько учетных записей, отмеченных израильским агентством за использование ненавистнического или оскорбительного языка. Но сотрудники по политике пришли к выводу, что большинство из них просто палестинцы и другие пользователи Twitter, которые публиковали комментарии, хотя и критические к Израилю, но не нарушали никаких правил.
Израильский киберотдел является примером того, что ученые по онлайн-платформам называют интернет-отделом направления – правительственной командой, созданной для того, чтобы заставить онлайн-сервисы принимать меры против контента, который им не нравится. Все больше стран запускают IRU, так как правительства всех стран борются с онлайн-платформами. Технологические компании часто предоставляют приоритет запросам IRU в очереди модерации, что вызывает беспокойство критиков, которые говорят, что такие отделы могут отражать политические мотивы и часто обходить правовые преграды, предназначенные для предотвращения несправедливой цензуры.
После десятилетия почти неограниченного роста интернет-отделы направления теперь сталкиваются с новыми проверками и балансами в США и ЕС.
В этом месяце федеральный судья в Луизиане вынес предварительный запрет, запрещающий 41 должностным лицам и их сотрудникам из 10 разных агентств Байдена предупреждать социальные медиа-компании о контенте, который, по их мнению, нарушает условия использования сервиса. Запрет серьезно ограничил влияние Белого дома на цифровые площади через неформальные IRU агентств и заставил Государственный департамент отложить запланированную встречу с Meta для обмена информацией по борьбе с дезинформацией за рубежом.
В ЕС отделы направления должны подвергнуться новым требованиям прозрачности в соответствии с одним из положений широко рассматриваемого Закона о цифровых услугах, который вступает в силу в следующем году.
- Apple Розничные магазины будут предлагать клиентам возможность дост...
- Apple грозится отозвать FaceTime и iMessage в Великобритании из-за ...
- Скидка ноутбук Apple M1 MacBook Air снова доступен по лучшей цене в...
Решение и закон являются первыми значительными нарушениями уютных отношений между онлайн-платформами и правительственными агентствами и другими организациями, контролирующими веб, чтобы тихо подавлять нежелательные комментарии. Но хотя правозащитные группы, борющиеся за свободу выражения, приветствуют новые вмешательства, они также предупреждают, что IRU и принимаемые ими решения по модерации в основном будут продолжать существовать без должного контроля или разглашения информации.
Отделы направления впервые появились в Великобритании примерно в 2010 году, когда такие сервисы, как Facebook и YouTube, оказались под давлением органов по борьбе с терроризмом, чтобы лучше управлять контентом, созданным насильственными исламскими экстремистами. Компании, стремящиеся установить лучшие отношения с правительствами, обычно принимали запросы и даже провозглашали IRU “доверенными сигнализаторами”, чьи сообщения о плохом контенте рассматривались быстрее, чем сообщения обычных пользователей.
Количество и активность IRU быстро расширились. Компании также добавляли организации гражданского общества в число доверенных сигнализаторов. Власти некоторых стран, включая Германию и Францию, использовали тактику для подавления крайне правого политического экстремизма в социальных медиа в 2010-х годах, а затем дезинформации о здоровье во время пандемии.
Отделы направления не всегда являются формальными или хорошо организованными структурами, и их полномочия различны, но установлен общий процесс: выбирается тема для мониторинга, такая как политическая дезинформация или антисемитизм, осуществляется поиск проблемного контента, а затем предлагается компаниям через специальные горячие линии, физические письма, личные связи с внутренними лицами или кнопки “пожаловаться” доступные всем пользователям. Отделы могут сообщать только о преступной деятельности, но некоторые также сообщают о контенте, который является законным, но запрещенным в соответствии с правилами платформы, такими как нагота или бот-аккаунты.
Чаще всего, по словам экспертов, соответствие платформами является добровольным, поскольку запросы не являются юридически обязательными; пользователи обычно не уведомляются о том, кто сообщил о их контенте. Правозащитные группы давно выражают озабоченность тем, что IRU фактически обходят юридические процессы, обмениваясь скоростью и простотой прозрачностью и проверками злоупотребления властью, а также отправляют отчеты пользователей на задний план.
Платформы социальных медиа могут испытывать значительное давление, чтобы реагировать на запросы IRU, потому что борьба с ними может привести к регулированию, повышающему стоимость бизнеса, согласно нескольким экспертам и четырем бывшим сотрудникам политического отдела технологических компаний, которые имели дело с требованиями. Политики и влиятельные группы часто требуют прямых каналов для усиления проблем с контентом, и платформы предоставляют им это.
Балансы сил, установленные в офлайне, отражаются в программах. Палестинская администрация, одна из небольших групп правительства, находящихся в противоречии с Израилем, “не имеет рычагов или отношений с Meta, чтобы эффективно работать с IRU”, – говорит Эрик Сайп из палестинской правозащитной группы 7amleh. Компании Meta, TikTok и Twitter не ответили на запросы о комментарии по этой истории, а YouTube отказался комментировать.
IRU уже вызывали противоречия раньше. В 2021 году, когда Израиль столкнулся с протестами в Восточном Иерусалиме и дал сигналы компаниям, включая Twitter, Верховный суд страны отклонил иск к юстиционному министерству. Суд назвал работу “важной для национальной безопасности и социального порядка” и разрешил ей продолжаться, поскольку истцы не смогли продемонстрировать непосредственный вред. В том году IRU в конечном итоге отправил более 6000 запросов технологическим компаниям, в том числе более 1300 на Twitter, о добровольном удалении или ограничении контента, такого как “похвала терроризму” и дезинформация о вакцинации от Covid, согласно ежегодным отчетам израильского правительства и анализу Государственного департамента США. Почти 5000 запросов были удовлетворены, показывают данные. Посольство Израиля в Вашингтоне, округ Колумбия, не ответило на запрос о комментарии.
Независимое советское управление Мета, орган для рассмотрения спорных вопросов модерации контента, также выступило против. В прошлом году компания удалила трек UK drill-музыки по запросу лондонской полиции из-за опасений, что упоминание о стрельбе в песне может побудить к насилию. Совет отменил удаление, сказав, что у Мета не было достаточных доказательств наличия реальной угрозы, и порицал компанию за принятие неформальных запросов правоохранительных органов в “беспорядочной и непрозрачной” форме. Он призвал Мета публиковать все такие запросы, обращение, которое копредседатель Совета надзора Майкл Макконнел и член Сюзан Носсель повторили в отдельных статьях в этом месяце. На своем веб-сайте Мета говорит, что работает над этим, но не уверена, сколько времени это займет, потому что централизация всех запросов является сложной задачей.
В этом месяце решение федерального суда США, запретившее чиновникам агентства подавать просьбы об удалении, нанесло самый серьезный удар по ИРУ до сих пор. Оно последовало после того, как два консервативно настроенных штата и несколько пользователей социальных сетей подали иск, утверждая, что Белый дом нарушает защиту первой поправки против правительственной цензуры, давя на Facebook и Twitter, чтобы размещать предупреждающие ярлыки на постах и приостанавливать или блокировать учетные записи. Оспариваемый контент касался вопросов, связанных с масками для лица, вакцинами, происхождением вируса и карантинами.
Судья Терри Доути признал, что истцам вероятно удастся доказать, что бомбардировка запросами об удалении письмами и звонками от чиновников Белого дома и федеральных агентств заставила компании социальных сетей принять решение, что является практикой, известной как давление. Он обвинил администрацию в преследовании “нежелательной консервативной речи” и указал на неформальные, но иногда интенсивные электронные требования чиновников. В одном из них было сказано: “Не могу сказать, насколько это нужно решить немедленно. Пожалуйста, немедленно удалите эту учетную запись”.
Доути написал: “Ответчики ‘существенно поощряли’ компании социальных сетей настолько, что решения (компаний) следует считать решениями правительства”.
Запрет Доути, который находится на удержании в связи с обжалованием Белым домом, пытается установить границы приемлемого поведения для государственных ИРУ. Он предусматривает исключение для чиновников, которым разрешено продолжать уведомлять компании социальных сетей о незаконной деятельности или вопросах национальной безопасности. Эмма Ллансо, директор проекта Свободы выражения в Центре демократии и технологии в Вашингтоне, говорит, что это оставляет много неразрешенных вопросов, потому что граница между заботой о общественной безопасности и несправедливым подавлением критиков может быть тонкой.
Также некоторые активисты считают, что новый подход к ИРУ в ЕС также находится в затруднительном положении. Закон о цифровых услугах (DSA) требует, чтобы каждый член ЕС до февраля назначил национального регулятора, который будет принимать заявки от государственных органов, некоммерческих организаций, ассоциаций отраслей или компаний, которые хотят стать доверенными сигнализаторами и могут напрямую сообщать о незаконном контенте Мета и другим средним и крупным платформам. Сообщения от доверенных сигнализаторов должны быть рассмотрены “без необоснованной задержки” под угрозой штрафов до 6 процентов глобального годового объема продаж компании.
Закон направлен на то, чтобы сделать запросы ИРУ более точными, назначая ограниченное количество доверенных сигнализаторов, обладающих экспертизой в различных областях незаконного контента, таких как расистская речь, подделанные товары или нарушения авторских прав. Организации также должны годовым отчетом сообщать о количестве поданных ими заявок, кому они были поданы и о результатах.
Но отчеты будут иметь значительные пробелы, потому что они будут включать только запросы, связанные с контентом, являющимся незаконным в государстве ЕС, что позволяет упускать из виду сообщения о контенте, отмеченном только за нарушение условий использования. Хотя технологические компании не обязаны придавать приоритет сообщениям о контенте, нарушающем правила, ничто не мешает им делать это. И платформы все еще могут работать с незарегистрированными доверенными сигнализаторами, сохраняя в общем-то непонятные практики сегодняшнего дня. DSA требует, чтобы компании публиковали все свои решения по модерации контента в базе данных ЕС без “необоснованных задержек”, но имя сигнализатора может быть опущено.
“DSA создает новую, параллельную структуру для доверенных сигнализаторов, не решая проблемы с уже существующими сигнализаторами, такими как ИРУ”, говорит Пэдди Лирссен, постдокторант исследователь в Университете Амстердама, который участвует в проекте, предоставляющем постоянный анализ DSA.
Два официальных представителя ЕС, работающих над исполнением DSA и говорящих под условием анонимности, потому что они не имеют права говорить с СМИ, говорят, что новый закон направлен на то, чтобы обеспечить, чтобы все 450 миллионов жителей ЕС получили преимущества от возможности доверенных сигнализаторов отправлять уведомления компаниям, которые иначе не сотрудничают с ними. Хотя новое обозначение доверенного сигнализатора не было предназначено для государственных органов и правоохранительных органов, ничто не мешает им подавать заявки, и DSA специально упоминает интернет-отсылочные подразделения в качестве возможных кандидатов.
Правозащитные группы опасаются, что если правительства примут участие в программе доверенных сигнализаторов, это может быть использовано для подавления законной речи в рамках некоторых из более жестких законов блока, таких как запрет (в настоящее время находящийся под судебным иском) Венгрии на продвижение однополых отношений в учебных материалах. Элишка Пиркова, глава глобальной свободы выражения в Access Now, говорит, что технологическим компаниям будет трудно сопротивляться давлению, хотя координаторы государств могут приостанавливать доверенных сигнализаторов, которые считаются действующими неправильно. “Здесь совершенно отсутствуют независимые гарантии”, – говорит она. “Это довольно тревожно”.
Сотрудник Twitter сообщает, что пару лет назад организация по правам человека была исключена из наивысшей очереди для представления отчетов из-за слишком большого количества ошибочных сообщений. Однако отказ от правительства может быть более сложным. Посольство Венгрии в Вашингтоне, округ Колумбия, не ответило на запрос для комментария.
Тамаш Береч, генеральный директор INACH, глобальной коалиции неправительственных организаций, борющихся с онлайн-ненавистью, говорит, что некоторые из его 24 членов ЕС рассматривают возможность получения официального статуса доверенного сигналиста. Однако у них есть опасения, включая вопрос о том, будут ли координаторы в некоторых странах одобрять заявки от организаций, ценности которых не совпадают с правительством, например, группы, отслеживающей высказывания, осуждающие геев, в стране, где однополые браки запрещены, например, Венгрии. “Мы не знаем, что произойдет”, – говорит Береч, оставляя место для некоторого оптимизма. “Пока они довольны неофициальной программой доверия”.
