Внутри первого избирательного кризиса Илона Маска – на следующий день после его ‘освобождения’ птицы.
Внутри первого избирательного кризиса Илона Маска - уже на следующий день после его 'освобождения' птиц разгорелась бурная дискуссия
На следующий день после того, как Илон Маск закрыл сделку по покупке Twitter, офис компании в Сиэтле организовал Хэллоуинскую вечеринку для сотрудников и их детей. Ребекка Скотт Теин была одета в ярко-зеленый костюм пришельца, чтобы поиграть в космического рейнджера Базз Лайтера для своей дочери. Теин, занимающаяся планированием и координацией выборов на Twitter (теперь X), ехала на вечеринку, когда поступил срочный звонок. На другом конце провода был представитель политической команды Twitter. Компания только что получила “согласительный приказ” – фактически, угрозу правовых действий – в Бразилии, где скоро должны состояться решающие голосования на положение главы государства и губернаторов.
Откровенным поклонником свободы слова Маск уже публично заявил, что собирается ограничить модерацию контента – системы и команды Twitter, отвечающие за устранение проблемного материала на платформе. Проблема заключалась в том, что Twitter уже обязался что-то предпринять по поводу количества дезинформации в отношении выборов в Бразилии. Бразильские власти хотели, чтобы Twitter выполнил свои обещания. Если он этого не сделает, сообщил ей представитель политической команды, бразильские власти могут наказать компанию или отключить платформу, которой пользуются более 19 миллионов пользователей в стране. Что-то нужно было сделать быстро.
Тейн вспоминает прибытие в офисе, где сотрудники бездельничали и развлекались, многие играли в настольный футбол и бездельничали, так как работы не было. Непосредственно после того, как Маск взял под контроль компанию, была введена блокировка многих внутренних систем, чтобы гарантировать отсутствие изменений во время передачи руководства (и последующих сокращений). “У нас отключилась активная директория, все наши системы были отключены”, – говорит Тейн. У нее не было способа узнать, кто из руководителей все еще работает в компании или к кому обратиться с тревогой. “Мне позвонили, и я просто подумала: “О, нет, что мне делать? Никого нет онлайн”.
Тейн прянула в конференц-зал со стеклянными стенами и, используя свои знания о электронной почте Twitter, начала угадывать контактные данные новой руководящей команды. Когда родители и дети прибыли на вечеринку с диджеем и надувными привидениями, разглядывая силуэты Сиэтла, Тейн задавалась вопросом, кто вообще находится рядом, чтобы что-то сделать с проблемой в Бразилии.
Последовало хаотическое бегство, чтобы заполнить пробелы в процессах Twitter и предотвратить его превращение в вектор мифинформации и дезинформации во время крупных выборов. Чтобы понять, что произошло, ENBLE провела беседу с пятью людьми, которые участвовали в управлении кризисом.
- Google Maps получает Киностудию для маршрутов и другие возможности ...
- Лучшие концертные камеры для запечатления волшебства живой музыки
- Голландский солнечный электромобиль прошел испытания на прочность, ...
Тейн сейчас беспокоится о том, что то, что она пережила в первые дни руководства Маска, было не столько счастливым случаем, сколько предзнаменованием. Через год Тейн, а также другие бывшие сотрудники и эксперты, беспокоятся о том, что X, опустошенный сокращениями и возглавляемый руководителем, неприязненным к модерации, несется к катастрофе в 2024 году. Именно в этом году более 50 стран, включая США, будут проводить выборы.
X не отреагировал на запросы оставить комментарий.
К моменту появления Илона Маска в офисе Twitter в Сан-Франциско накануне его приобретения, держа раковину, Тейн была в Twitter немного больше года. Компания была подвержена риску во время выборов в США в 2020 году, когда ее несистематический подход к обращению с тогдашним президентом Дональдом Трампом позволил обвинить ее в том, что она способствовала восстанию 6 января в Капитолии США, поэтому она пыталась разработать протоколы для будущих выборов. Бразильские выборы и промежуточные выборы в США в 2022 году должны были стать испытательным полигоном перед президентскими выборами в США в 2024 году. Во время декретного отпуска по уходу за вторым ребенком Тейн получила предложение Маска купить Twitter. Когда она вернулась на работу в конце июля 2022 года, на нее уже начали оказывать влияние последствия покупки, которая официально была закрыта только в октябре. Тейн внесла все имена людей, “затрагивающих” выборы в Twitter, в книгу Excel. По мере ухода этих людей в следующие несколько месяцев она вычеркивала их, одно за другим.
Эти уходы поставили под угрозу планы Twitter по внедрению функций, о которых он обязался в Бразилии, включая размещение специальных значков у имен многих кандидатов, баллотирующихся во всех странах. Команда недооценила масштаб этой задачи, говорит Тейн. Реорганизации и уходы замедлили их работу. И 5 сентября 2022 года “чрезвычайная жара” в Калифорнии вывела из строя один из центров обработки данных Twitter, временно делая невозможными крупные изменения на платформе. Функции должны были быть введены к началу октября. “Уже в сентябре нам пришлось обратиться к избирательным органам и сказать: “Мы не можем предоставить то, что обещали”, – говорит Тейн.
По мере приближения выборов в Бразилии, команды в Twitter проводили “настольные” сценарии, играя в различные угрозы, с которыми может столкнуться платформа, и как она могла бы на них реагировать. Теин присутствовал на одном из них, где обсуждались вопросы вроде “Что, если будет спорное избирательное голосование?” “Что, если один из кандидатов заявит о победе досрочно?” Теин и другие говорят, что человек, координировавший эти упражнения, тоже ушел до того, как Маск взял рулевое управление.
Среди других сценариев, которые были предложены для игры, согласно людям, знакомым с процессом, был случай резкой смены руководства компании. Что бы сделала команда, если само управление Twitter было риском? Такой сценарий не был проверен.
Казалось, что выборные власти Бразилии видели риски в новом руководстве Twitter. По словам нескольких бывших сотрудников, знающих о соглашении и реагировавших на него, бразильские избирательные власти высказали две основные опасения. Во-первых, Маск заявил, что компания сократит модерацию контента. Это могло нарушить законы страны, если Twitter не сможет удалять все, что отмечено судом для удаления. Во-вторых, этим сотрудникам сообщили, что чиновники беспокоились, потому что Twitter смог внедрить только некоторые этикетки для кандидатов и они опасались, что запланированная Маском платная функция Twitter Blue могла бы использоваться для создания поддельных аккаунтов. С тысячами людей, баллотирующихся на региональные и национальные должности по всей стране, они беспокоились, что кто угодно мог утверждать о своем кандидатстве безосновательно.
Другие сотрудники Twitter из-за открытого противодействия модерации не знали, как отреагировать на требования бразильцев. Даже задолго до того, как миллиардер закрыл сделку и заявил “the bird is freed,” он выразил свои чувства. В апреле 2022 года, когда он впервые предложил купить компанию, Маск твитнул, что он против “цензуры”, выходящей за пределы незаконной речи. В июне 2022 года он описал модерацию платформы как предвзятую против “половины” США. Прежде чем Маск взял под контроль Twitter, но после своего предложения о покупке компании, он опубликовал мем, который подразумевал, что тогдашняя глава по политике Виджайя Гадде была ответственна за предполагаемую левую предубежденность компании, хотя собственное исследование компании показало, что платформа симпатизировала контенту правой направленности. Гадде была в числе первых руководителей, уволенных после того, как Маск взял компанию под свой контроль. Никто не знал, какие сотрудники или отделы будут следующими.
Теин и ее коллеги опасались, что политический риск не убедит Маска позволить им вернуться в систему Twitter и включить границы модерации контента. Поэтому они придумали новое предложение с учетом чемпионата мира по футболу, который должен был начаться в Катаре в ноябре.
“Мы подумали, ‘Этот человек новичок в компании и не понимает, как работают социальные сети… и может быть не осведомлен о том, что есть даже бразильская ставка на выборы'”, – говорит Теин. В футбольной Бразилии чемпионат мира был огромной коммерческой возможностью. Если платформа была бы отключена, это было бы огромным ударом по ее доходам. “Мы переформулировали это как то, что Бразилия является нашим третьим по величине рынком, а Чемпионат мира – нашей второй по величине рекламной возможностью в году”, – говорит Теин. “Если мы отключимся в Бразилии, это будет для вас рисковано.”
Во время Хэллоуинской вечеринки за стеклянными стенами конференц-зала, Теин получала обновления о встрече между старшими сотрудниками и Маском, которому, говорят, передали оценку рисков. Плацдарм с Чемпионатом мира сработал, говорит Теин. Старшие члены команды сказали ей, что Маск “очень понимающий”. Под его благословением Теин и ее команда начали бросаться в сборы, чтобы возвратить все в норму.
Модерация контента – это сочетание автоматизированного и человеческого принятия решений, но были конкретные системы автоматизированной модерации – боты, которые Twitter установил во время выборов. Например, некоторые алгоритмы машинного обучения могли выявлять определенные слова или термины или пометить твит как имеющий отношение к выборам (с ссылками на официальные источники). Но большая часть систем Twitter осталась заморожена, что означало, что кто-то должен был бы войти и включить эти конкретные алгоритмы. Когда Теин обратилась к сотрудникам, у которых была возможность это сделать, она столкнулась с недоверием. “Они говорили, ‘Ты говоришь мне, что по новостям [Маск] говорит ‘Я не буду заниматься модерацией контента’ – ты собираешься заставить меня потерять работу, чтобы ты получил доступ?'”, – говорит она.
В конце концов, Илла Ирвин, тогдашний вице-президент по продукту, отвечавшая за доверие и безопасность, была попросена создать заметку в системе, указывающую на то, что Маск одобрил определенную модерацию контента для выборов в Бразилии. Твиттер добавил ярлыки к большинству кандидатов и пометил твиты, которые, скорее всего, содержали дезинформацию о выборах.
Но этим кризис не закончился. Объем дезинформации, заполнившей платформу в Бразилии, превышал возможности сгруппированной команды. Сообщения, увиденные ENBLE, показывают, что команда просила о дополнительных ресурсах по мере роста задержки проблемного контента. Согласно сообщениям, команде было предоставлено всего одно дополнительное лицо для помощи в работе с быстро расширяющейся очередью.
Теин и ее команда смогли поддержать работу Твиттера во время выборов в Бразилии. Когда они закончились, они обратили свое внимание на следующий большой вызов: промежуточные выборы в США, которые состоялись 8 ноября. Она и ее коллеги хотели, чтобы уступки, сделанные для Бразилии, распространились на США. В течение следующих нескольких дней они боролись, чтобы подготовить план. Но 4 ноября, за четыре дня до промежуточных выборов в США, Теин в числе 3700 человек, включая многих сотрудников доверия и безопасности компании, была уволена.
За последний год исследователи, отслеживающие ненавистную речь и дезинформацию, выпустили отчет за отчетом о развале модерации на платформе. Команды, предназначенные для поддержания безопасности платформы, были систематически свернуты. В ноябре 2022 года Маск сократил около 4400 контрактных работников, часть из которых занималась модерацией контента. К апрелю 2023 года Маск сообщил, что сократил около 80 процентов персонала компании. В сентябре компания объявила, что сокращает половину своих оставшихся сотрудников, занимающихся доверием и безопасностью, и работающих на выборах.
Другие изменения в политике не помогли. В апреле платформа убрала ярлык “государственных СМИ”, который ранее добавлялся к пропагандистским изданиям, включая те из Китая и России. Недавнее исследование от организации по изучению дезинформации NewsGuard показало, что вовлеченность в государственную поддержку пропаганды из Ирана, России и Китая существенно выросла после этого изменения. В октябре NewsGuard обнаружила, что почти три четверти дезинформации на Х, связанной с конфликтом Израиль-ХАМАС, происходят от проверенных пользователей с “галочкой”. Функция “сообщений сообщества” платформы, которая устанавливает форму коллективной модерации, иногда вносит шум.
Think-танк «Center for American Progress» оценивает, что в 2024 году около 2 миллиардов человек примут участие в национальных выборах. Большинство из них состоится за пределами США и Европы, в странах, таких как Бразилия, где социальные медиа компании уже столкнулись с проблемой модерации на местных языках. В сентябре Global Coalition for Tech Justice, группа из более чем 150 организаций гражданского общества, попросила технические компании представить свои планы для выборов 2024 года. Александра Пардал, директор по кампаниям в “Digital Action”, некоммерческой организации защиты цифровых прав, которая содействовала возглавлению коалиции, сказала ENBLE, что X была единственной компанией, которая вообще не ответила на этот запрос. “Я не наблюдаю никаких признаков того, что они готовы – или хотят быть готовыми – к мегациклу выборов в следующем году”, – говорит она.
Помимо сокращения числа сотрудников по вопросам доверия и безопасности, “они откатили базовые функции платформы, которые помогали решать проблемы, которые, очевидно, угрожают целостности выборов по всему миру”, говорит Джесси Лерих, сооснователь группы защиты Accountable Tech. Сюда входит “снятие маркировки с официальных лиц и аккаунтов государственных СМИ, и, очевидно, Twitter Blue стал полным провалом”, говорит он, отмечая, что новая модель распределения доходов платформы может добавить хаоса. “Существует финансовый стимул размещать скандальный или сенсационный контент, чтобы он стал вирусным и, возможно, вызвал прибыль”, говорит он.
Маск также начал взимать плату за API Twitter, что затрудняет работу тех, кто отслеживает платформу, чтобы оценить истинный объем ее проблем с модерацией контента. X даже угрожал подать в суд на организации, которые пытаются привлечь его к ответу.
Когда Тейн покинул Twitter, она говорит, что отказалась подписывать соглашение о неразглашении в обмен на выплату пособия по безработице, зная, что может однажды захотеть рассказать о своем опыте и беспокоясь о том, какую ущерб может нанести платформа под управлением Маска. Ее страх состоит в том, что недостатки, предшествующие приобретению Маска, будут усилены и представляют огромные риски для демократии. Вот почему она выбрала говорить сейчас. “Если в этом есть что-то, что поставит меня на колени, то пошли на это”, говорит она. “Есть гораздо более плохие вещи, за которые можно привлечь к ответу”.
