Бывший руководитель отдела доверия и безопасности Twitter наконец-то прерывает свое молчание
Бывший руководитель отдела доверия и безопасности Twitter наконец раскрывает правду
В данный момент наступило 20:00 вечера в одну осеннюю ночь, и я наконец-то расслабляюсь, а Дель Харви отправляет мне сообщение. И снова.
На этот раз она присылает скриншот напряженных твитов, обменяемых между верховным лидером нации и официальным аккаунтом Twitter конкурирующей нации. Я отвечаю быстро: “Представьте, что вы все еще находитесь в Twitter. Как бы вы поступили?” Харви рассказывает мне о процессе принятия решения, а затем меняет тему: “А что бы ВЫ сделали?” Я спрашиваю у нее, могу ли я обдумать это и лечь спать. Она говорит мне, что мне не суждено спать. Неважно, какое решение я приму, люди будут ненавидеть меня за него. И вне зависимости от итогов, люди могут умереть. “Вы должны жить с тем, что принимаете наименее плохое решение с ресурсами, которыми располагаете”, пишет она.
На следующее утро снова сообщение от Харви: “Хорошо, значит, вы все обдумали; какое ваше решение?” Огромность принимаемого решения лежит на моей груди, словно бетонный блок, и даже после рассмотрения всех аспектов, я уверен, что какой бы выбор я ни сделал, это будет ошибка контентной модерации.
Срочность Харви, даже спустя 12 часов, — это рефлекс: именно так она поступала на протяжении 13 лет, работая на позиции руководителя команды доверия и безопасности Twitter. Если возникала проблема с контентом на платформе или любая другая проблема, люди говорили: “Напишите Делу”. Теперь, спустя два года молчания, Харви, наконец, решила поговорить. Она открывает символический занавес над решениями Twitter о блокировке, запрете и ограничении контента за все эти годы — и о том, какова была ее жизнь в эпоху до Илона.
Она также говорит о том, какова ее жизнь сейчас, убирая фигуральные занавески и создавая декорации для детских театральных постановок. Я не могу точно сказать, где находится этот театр, потому что, несмотря на то, что она ушла от Twitter, Харви все еще находится в режиме безопасности.
- Apple Watch SE продолжает снижаться в цене в честь Черной Пятницы, ...
- «Эти AI-агенты могут сократить рабочую неделю до всего лишь 3-х дней»
- Означает ли испытание четырехдневной рабочей недели в Валенсии, что...
Дель Харви даже не ее настоящее имя. Кажется, что все знают ее так или, возможно, под псевдонимом @delbius, которым она стала известна онлайн. Харви начала скрывать свою личность еще в 2003 году, когда она начала работать в неправительственной организации Perverted Justice, занимающейся борьбой с онлайн-хищниками. Perverted Justice сотрудничала с сериалом на NBC “Хватай маньяка”, который снимал операции по выявлению педофилов, поэтому Харви оказалась работником телевидения. Ей было 21 год, но она могла пройти за 12. Это означало, что она была приманкой. Через пять лет, когда друг посоветовал Харви устроиться на работу в молодую технологическую компанию, это показалось ей легкой прогулкой по сравнению с ловлей педофилов.
В 2008 году Харви стала сотрудником номер 25 в Twitter. Ей поручили руководство сотрудниками по борьбе со спамом и злоупотреблениями, что позднее стало “доверием и безопасностью”. Да, я все еще называю его Twitter, даже если сейчас его называют X, потому что, когда Харви там работала, это был несомненно Twitter. Это были времена громоздких хэштегов и символа @, звездно-глазые видеокарты основателей-визионеров и ничтожный спам. Харви сухо говорит мне, что тогда “БТГ были одной из самых сильных сил на планете”. Прикол в том, что “БТГ” обозначало бразильских подростковых девушек. Большая часть работы Харви заключалась в управлении спамом, таком как, например, выяснение, как справиться с наводнением твитов, в которых говорится: “@Justin Bieber мы тебя любим, приезжай в Бразилию”.
Работа усложнилась. В 2012 году Twitter-аккаунты Израильской оборонной армии и ХАМАС начали обмениваться угрозами после подтвержденной смерти лидера ХАМАСа. Twitter — точнее, Харви — должны были определить, нарушают ли эти угрозы политику компании. (“Это не решение, которое несколько сотен инженеров из Северной Калифорнии хотели бы принимать”, сказал аналитик Бенедикт Эванс в то время.) Twitter не вмешался. Компания решила классифицировать твиты как “казаков”, говорит Харви, но даже если Twitter хотел бы вмешаться, в то время у него не было подходящей технологии для этого. В 2014 году в сети Интернет началась гикерская война Gamergate (на виду “этика в журналистике видеоигр”, но на самом деле об преследовании женщин). Снова Twitter должен был определить, где провести черту. Команда Харви обновила инструменты модерации контента Twitter. Тем не менее, тролли теперь имели свою собственную стратегию для онлайн-экстремизма.
Затем, в 2016 году, появился Дональд Трамп. Твиты Трампа часто скользили на грани правил и политик Twitter. Его сообщения в эпоху Ковида в конечном итоге заставили команду Харви начать наклеивать ярлык “недостоверная информация” на некоторые твиты в 2020 году.
6 января 2021 года стал переломным моментом для платформы. В дни после смертельного восстания в Капитолии США, в котором толпа приверженцев Трампа штурмовала территорию, аккаунт Твиттера президента Трампа был навсегда приостановлен. Почти через два года бипартийный Комитет 6 января опубликовал доклад и написал отдельную заметку о роли социальных сетей в этой атаке. The Washington Post сообщил, что исследователи “нашли доказательства того, что технологические платформы, особенно Twitter, не приняли к сведению предупреждения собственных сотрудников о насилии в риторике на своих платформах.” Публично человек, работавший в Twitter, Аника Колиер Навароли, недавно назвала Харви недостаточно активной в области модерации контента с 2019 по 2021 год. “Сначала я поняла, что некоторые потенциальные вреды выходят за пределы воображения руководства”, – сказала Навароли.
К концу 2021 года Харви покинула Twitter. Ее уже не было там, когда Коллиер Навароли выступала со своим показанием, или когда Элон Маск приобрел Twitter, переименовал его в X и разорил команду по доверию и безопасности компании. Харви была давно ушла, когда рекламодатели начали уходить из Twitter из-за отсутствия безопасности бренда – корпоративным жаргоном это означает, что они не могли рисковать размещением своих объявлений рядом с твитами пронацистских троллей.
Но можно ли когда-нибудь по-настоящему покинуть Twitter? Харви, после первоначального нервничества, кажется почти довольной, когда мы встретились на обширной мастерской для местного театра в районе Бэй-Эрии этой осенью. Она говорит о геополитике, создании театральных декораций, о том, как она проводит время на Discord-серверах, и о Тейлор Свифт – все в одном дыхании. (Харви – поклонница Свифт.) Позже я обнаружил, что человек по имени @delbius на Reddit помогает организовывать праздничные благотворительные акции и раздает игрушки, художественные принадлежности и пиццу незнакомым людям через интернет. Да, это Харви, ищущая смысл и проводящая время с чем-то, кроме X-изначально-Twitter. И все же, Харви все еще скрыто находится на Twitter. Она видит все твиты. Она знает о насилии, которое они подстрекают. И она размышляет, что она будет делать дальше.
Лорен Гуд: Несколько известных брендов и рекламодателей недавно заявили, что приостанавливают рекламу на X, потому что их объявления появляются рядом с антисемитическими твитами и другим проблемным контентом. X заявил в августе, что расширил инструменты безопасности бренда, но это, похоже, не помогает здесь. Как такое могло произойти?
Дел Харви: Ну, я давно там не работаю, так что я не могу сказать, как все работает сейчас. Но одной из больших проблем в прошлом было то, что системы безопасности для рекламодателей, весь рекламный механизм в целом, был построен на полностью отдельном техническом стеке, ни с чем не связанном с остальным Twitter. Представьте себе два здания рядом друг с другом без какой-либо связи между ними. Возможность определения проблемного контента на органической стороне была трудно интегрирована в рекламируемый контент. Это была эта змея-самоглотательная ситуация, две стороны, заблокированные в этой внутренней борьбе, не получали информацию, потому что они не связывали их.
Twitter приобрел компанию Smith в 2018 году, у которой были умные люди, которые создали некоторые очень крутые внутренние инструменты для использования. Но я не знаю, используются ли они до сих пор.
В то же время есть такое: даже если ваши системы работают правильно, это неважно, если вы даете людям инструменты, чтобы сказать: “Я не хочу, чтобы мои сообщения появлялись рядом с рискованным контентом”, если это не признается как “рискованный” … не знаю, генеральным директором?
Мне было интересно, как Линда [Линда Якарино, нынешний генеральный директор X] в своем последнем интервью на конференции Code так сильно подчеркнула различия между Twitter и X. Как будто это было прошлым, а это сейчас.
Я не находился на стороне бренда или маркетинга, но у Twitter был довольно высокий уровень узнаваемости. У него же собственное слово в словаре, верно? Переход к X кажется очень похожим на … Однажды я ехал через всю страну, и я проехал место, которое называлось Общественный мотель, и я подумал, “У них наверное плохой SEO, или наоборот.”
Кстати, что вы здесь строите? [Показывая на маленький деревянный мостик и кучу пенных блоков.]
Помните ту часть из фильма “Вилли Вонка и шоколадная фабрика”, когда Август Глуп пьет из реки шоколада и оказывается поглощен шоколадом и падает в реку? Этот матрас будет под ним. Поэтому это зонтичная ткань, наполненная 144 пенными блоками размером 6 на 6. Вы обязательно должны попробовать. Это действительно весело.
Ух ты. Хорошо … Значит я Август Глуп.
Да, ты пьешь шоколад …
Мне немного нервно, признаюсь.
Вот поэтому это широкое. Даже если ты переборешь, у тебя будет мягкое снижение. [Я падаю с мостика.] Вот так. Видишь, ты не умер или что-то в этом роде. Это на самом деле победа в моей книге.
Вернемся к 2008 году. Ты присоединился к Twitter.
Я был настолько молод.
До Twitter ты работал в Perverted Justice и To Catch A Predator на NBC. Никогда не боялся за свою безопасность?
Впоследствии, да, удивительно. Например, когда какой-то парень подошел и сел рядом со мной на скамейке в парке. У него был фетиш на пальцы ног. Он попробовал дотронуться до моих ног и сказал: “Я думал, что ты будешь красить мне ногти.” Моя стратегия на протяжении всего времени работы там была, откровенно говоря, чем смешнее твой ответ, тем реалистичнее он звучит. Так что я начал говорить: “Знаешь, как иногда, когда красишь ногти, появляется пузырек прямо на краю ближе к низу? У меня это случилось на всех пяти пальцах правой ноги …” Какая-то ахинея, которую я просто придумал, потому что полиция должна была уже прийти. Он не должен был дойти до этой стадии, чтобы сесть …
И касаться твоих ног.
И касаться моих ног. Так вспомнившиеся, смущает. В то время я просто выполнял свою работу.
Что привлекло тебя к этой работе?
Мне всегда нравилось попытка внести некоторый порядок в хаос. Когда я был моложе, моя первая летняя работа была спасателем. Вначале я работал спасателем в общественном бассейне, а затем я увидел объявление о работе спасателем в близлежащем государственном психиатрическом учреждении третьего уровня. В этих местах не так уж много счастливых историй.
Где это было?
Теннесси. Я понял в течение лета, когда я встречался с этими детьми в учреждении, разговаривал с ними и узнавал их немного лучше, я понял, насколько ужаснулось количество из них, над которыми совершались насилие или они были сексуально измывались, и насколько это им наносило вред и действительно влияло на их чувство безопасности и личности. И это заставило меня осознать, что я в действительности везучий, что, конечно, хорошее осознание на 18 лет. Я также некоторое время работал паралегалом у адвоката, специализирующегося на помощи жертвам домашнего насилия. Снова, так ужасны были эти люди, что я нашел много причин, чтобы хотеть помочь.
Когда твой друг позвонил и рассказал тебе о работе в Twitter в 2008 году, почему она подумала, что ты подходишь для этой работы?
Она сказала тогда: “Я подумала, что ты мог бы подойти для этого, потому что когда я думаю о плохих вещах в Интернете, я думаю о тебе.” И я подумала, “Это ужасный личный бренд.”
И вот ты приходишь, и встречаешься с Эваном и Бизом первый раз. Какое ваше первое впечатление?
Биз вел себя очень общительно, Эван же внимательно слушал. У них был такой Ци и Янь. Я помню, они категорически считали спам проблемой, но “мы не считаем, что это когда-нибудь станет настоящей проблемой, потому что вы можете выбирать, кого вы подписываетесь.” И это был один из моих первых моментов, когда я подумал: “О, мой сладкий, летний ребенок.” Потому что когда у вас достаточно большая пользовательская база, когда достаточно людей на платформе, когда вероятность получения прибыли становится достаточно высокой, у вас появятся спамеры.
Одним из более существенных вопросов, с которыми вам пришлось столкнуться в начале, были твиты. В 2012 году, перебрасываясь сообщениями между ХАМАС и Израильскими оборонными силами. Мы возвращаемся к этому сейчас. В последние недели исследователи указывали на то, что количество дезинформации, которую они видели на Х в связи с конфликтом, ни с чем не сравнимо с тем, что они видели раньше. Какая была ваша процедура принятия решений тогда?
Я помню, как подумал: «Почему они выбрали Twitter? Почему не какую-то другую платформу?»
Почему я, верно? Но затем я действительно пытался четко осознать, что ХАМАС и Избранное начало – политические субъекты. По отношению к ХАМАС, в некоторых областях это террористическая группировка. В некоторых областях это часть избранного правительства, и взаимодействие со всеми этими сложностями и оттенками. Это международная дипломатия? Это боевое трепетание, которое мы рассматриваем как общественный интерес?
Как только мы столкнулись с насильственными угрозами, мы пришли к выводу, что причина, по которой мы не хотим их видеть [в Twitter], заключается в том, что мы не хотим, чтобы люди находили в них вдохновение. И если бы это было что-то такое, что обычный человек столкнулся бы с трудностями в повторении – если обычный человек не может сказать: «Я собираюсь отправить своих собственных летчиков-бомбардировщиков и воспроизвести это действие», – тогда мы оставляем это. Военные действия мы склонны рассматривать с точки зрения: «Приведет ли это к непосредственному вреду за пределами военных столкновений?» Это было очень сложное дерево принятия решений в то время для принятия решения “ничего не делать”.
Зная то, что вы знаете сейчас, вы бы приняли то решение тогда?
Когда ваши возможности значительно ограничены, это предсказуемо затрудняет поиск путей магического решения подобных проблем. Мы могли отправить электронное письмо [нарушающим аккаунтам], в котором говорилось бы: “Прекратите это”. Но они также могли бы ответить: “Что угодно”. Я не думаю, что у нас даже было обнаружение нескольких аккаунтов в те дни. То, что мы сделали, вероятно, было лучшим, что мы могли сделать среди имеющихся у нас инструментов.
Если Линда Якарино или Илон Маск сейчас обратятся к вам за советом по вопросу доверия и безопасности на Х, что бы вы ответили?
Я бы сначала хотел лучше понять, как они пытались заниматься модерацией контента. Я бы не хотел предполагать, что они пытались или не пытались.
Но есть ли внутри вас желание сказать им: “Почему вы не сохраняли свою команду по доверию и безопасности? Почему вы просто не уволили всех?”
Я настолько озадачен, что даже не знаю, с чего начать. Я имею в виду, что эти люди были лишь хорошими людьми, делающими все возможное, чтобы обеспечить безопасность людей. И не ясно, почему вы решили устранить эту работу, особенно в более поздние этапы (увольнений), когда целью стали представители, работающие над информацией и целостностью выборов.
Наибольшая команда в области доверия и безопасности была какой величины?
Перед моим уходом, в зависимости от того, включались ли различные категории контрактных сотрудников, команда включала сотни и тысячи человек. Так что это была большая команда. Она была глобальной. Работала 24/7. У нас было покрытие. И у нас было покрытие для значительного количества языков.
Вы в своем роде были известной личностью в Twitter. Все знали, кто вы, потому что вы были лицом доверия и безопасности. Все знали Делбиуса. Я думаю, что единственный раз, когда мы переписывались до этого, был, вероятно, по причине какой-то проблемы с доверием и безопасностью, и все говорили: “Напиши Дэлу”.
Это происходит.
В 2017 году какой-то тролль написал мне в ЛС что-то вроде: “Твоя редакция должна быть сброшена бомбой”. И я подумал, что мало шансов на то, чтобы это случилось, но, вероятно, я должен был донести это дальше. Я пошел, чтобы поделиться с форумом Twitter об отчете и понял, что нет никакого механизма для передачи доминирующих ЛС. Я написал Джеку и спросил об этом. Казалось, что это все поставлено кое-как. Похоже, в то время Twitter, вместе с другими социальными платформами, придумывали доверие и безопасность по ходу дела.
Это была та же проблема, которая всегда была и всегда будет, и называется ресурсирование. В 2010 году я заявлял о функциях, которые не были реализованы, по большей части, десятью и более лет спустя.
Какой пример?
Обнаружение нескольких аккаунтов и восстановление аккаунтов. Если вы нарушали несколько раз, как мы можем убедиться, что вы остановились? Без того, чтобы забредать по этому странному пути, где мы не уверены в том, является ли это лучшим использованием ресурсов и вместо этого предлагать новую функцию продукта. Все шло на пользу роста, а безопасность приходила потом.
Почему вы думаете, что руководство так медленно реагировало на вопросы доверия и безопасности?
Когда дела обстоят хорошо с доверием и безопасностью, никто о них не думает и не говорит. А когда дела с доверием и безопасностью идут плохо, обычно руководство хочет винить в этом политику. Честно говоря, политика – это лишь временное решение, если ваш продукт не разрабатывается таким образом, чтобы не поощрять злоупотребления. Вам нужно планировать заранее, ребята.
Геймергейт, который произошел в других социальных сетях, но многое произошло на Твиттере, кажется моментом, когда люди осознали, что “Онлайн мир и реальный мир” это не то же самое. Было осознание, что искусства и угрозы безопасности оказывают реальное влияние на жизнь людей. Был ли это момент осознания для руководства Твиттера?
Возможно, на короткое время. Возможно, достаточно долго, чтобы сказать: “Нам нужна политика, которая предотвратит подобное”. И затем мы вернулись к исходной точке: я должен продолжать нанимать людей, потому что у меня нет необходимых инструментов. И инженеры, которые могли бы создать необходимые инструменты, либо забиты техническими задолженностями, отстают по проектам после всех предыдущих запусков, когда мы не получили нужные инструменты, либо отчаянно пытаются предотвратить дополнительные технические задолженности, возможно, пытаясь исправить сломанные инструменты.
Интересно, что вы продолжаете говорить о “инструментах”, и…
Да, точно.
Так как, когда мы говорим с руководителями технологических платформ и спрашиваем их о модерации контента, они часто говорят, что они используют комбинацию модераторов и искусственного интеллекта. Так что, когда вы говорите о “инструментах”, я интересуюсь, что вы подразумеваете?
Инструменты, которыми люди могут пользоваться при выполнении своих задач. Например, внедрение полуэффективного алгоритма обнаружения множественных аккаунтов заняло несколько лет. Годы.
И это позволило бы кому-то в вашей команде определить, если у кого-то есть несколько аккаунтов Твиттера, и, вероятно, их нужно отметить?
Верно. Или вы даже можете использовать эту информацию несколько шагов раньше, то есть, когда кто-то сообщает о нарушении, автоматически проверить, связан ли этот аккаунт с другими аккаунтами, которые были ранее заблокированы. Если это так, и возраст аккаунта меньше возраста самого старого заблокированного аккаунта, то, вероятно, этот аккаунт был создан, чтобы избежать блокировки в первую очередь. Таким образом, вы его просто блокируете, и нет необходимости, чтобы человек просматривал этот контент.
Дональд Трамп некоторые называют первым президентом Твиттера, хотя мы знаем, что это не совсем так, но Трамп использовал его определенным образом. Только позднее, в ходе его президентства, Твиттер начал помечать его твиты как ложные, например, когда он написал о том, что имеет иммунитет к ковиду после недавнего выздоровления. Что стояло за этим решением?
Он даже не был первым мировым лидером, которому был добавлен ярлык. Но было осознание того, что люди находили этот контент достоверным и могли подвергнуть себя непосредственной опасности. Мы старались четко определить: если что-то может привести к смерти, если в это поверят, мы хотели убрать это. Если что-то было … Это не сразу убьет вас, но это была плохая идея или дезинформация, то мы хотели, чтобы об этом было известно.
Вы в общем-то считаете, что платформы должны быть арбитрами истины?
Я в целом считаю, что это невозможно, но они должны попробовать. Это правда. Вы никогда не сможете полностью успешно это сделать. Вы никогда не сможете предотвратить все плохие вещи.
Я постоянно веду разговоры с людьми … потому что люди становятся частью доверия и безопасности, потому что им это важно, верно? Вы не становитесь частью доверия и безопасности, потому что вам нравится получать похвалу за свою работу. Вам действительно нужно, чтобы вас интересовали странные, человеческие и проблематичные ситуации, когда иногда обе стороны виноваты, иногда никто не виноват, но вам все равно приходится справляться с этими ситуациями.
Я всегда рассказывал эту вымышленную историю о мальчике, который гуляет по пляжу, где лежит много морских звезд, пытающихся вернуться в океан, прежде чем умереть. И он идет по пляжу и каждый раз, когда видит морскую звезду, поднимает ее и бросает обратно в воду. И тут подходит парень и спрашивает: “Что ты делаешь? В этом нет смысла. Здесь лежит тысячи морских звезд. Ты никогда не сможешь сделать разницу”. И мальчик берет следующую морскую звезду и бросает ее в океан, говоря: “Сделал разницу для этой”.
Ваш аккаунт все еще был на Твиттере 6 января 2021 года. Что происходило в вашей голове в тот день?
Я помню большую часть этого дня вспышками. Но то, что я помню наиболее ясно, это осознание того, что нет никакой высшей силы или высшего уровня людей, которые придут и исправят ситуацию. Правительство делает то, что делает правительство. Мы должны делать все, что в наших силах. Был момент, когда двоим из нас были выданы спутниковые телефоны, и мы оба имели возможность приостановить аккаунт из соображений безопасности.
Аккаунт Дональда Трампа.
Аккаунт Дональда Трампа. У двух из нас в Twitter были охранники у домов и спутниковые телефоны на случай, если инфраструктура начнет рушиться – общественная инфраструктура. И на случай, если нам понадобится приостановить аккаунт по какой-то причине. Которую, опять же, в то время, когда ты находишься внутри ситуации, ты не думаешь о слишком многом. И только после того, как все произошло, ты задумываешься и испытываешь ужас.
У вас есть какие-либо сожаления о том, как Твиттер справился с 6 января или днями, предшествующими ему?
Это было время, когда нам очень пригодились бы многие инструменты, о которых мы просили много лет. В тот день мы делали многое вручную. Многое из того, что мы делали, я думаю, так и не получило должного признания или осознания. Опять же, потому что когда работает доверие и безопасность, никто особо не говорит об этом. Казалось также, что в некотором смысле проще винить платформы социальных сетей, чем искать причину где-то еще.
Вы имеете в виду доклад от 6 января?
Я говорю о любом из множества докладов.
Поскольку отдельное меморандума комитета от 6 января указывало, что Твиттер, а также другие платформы социальных сетей, в частности, не прислушивались к предупреждениям сотрудников о том, что в Капитолии будет невероятно нарушительное состояние.
Я имею в виду, что именно я давал такие предупреждения.
Где произошла ошибка? Было это у Виджайи (Виджай Гадде, бывший руководитель юридического, политического и доверия в Твиттере)? У Джека? Вам некуда было подняться.
Я бы сказал, что Виджайя и я обычно были на одной волне. Мне очень нравилось работать с Виджайей. Она была нашим отличным защитником.
Что вы думаете о показаниях Аники Коллиер Навароли перед Комитетом по надзору в американском Конгрессе?
Мое мнение, которое, я думаю, относительно хорошо информировано, состоит в том, что я просто не думаю, что она знала о многих работах, которые делались, потому что они происходили в наших разговорах между мной, Йоэлем (Йоэл Рот, руководитель доверия и безопасности в Твиттере после Харви) и технической поддержкой Твиттера. И всё это происходило задолго до 6 января. Мы уже сделали [эти политики] после выборов, и я думаю, что это было всего лишь недопонимание в коммуникации о том, что происходит.
Имеется в виду, например, такой пример: “Заряжен и готов”. Некоторые сотрудники команды доверия и безопасности думали: “Кто бы мог твитнуть ‘Заряжен и готов’ без намерения применить насилие?” А если бы вы провели опрос твитов и посмотрели бы на них, то вы бы видели людей, твитящих такие вещи, как “У меня в руках бокал бурбона, заряжен и готов к шоу сегодня вечером”. Если бы мы приостановили всех, кто твитит “Заряжен и готов”, у нас не было бы возможности приоритезировать апелляции и просматривать их. И кто знает, сколько людей были бы фактически лишены свободы слова по сравнению с тем, что мы пытались сделать, а именно выделить наиболее вероятные нарушения и почти наверняка приостановить их.
Так что с таким твитом Трампа, как “Будьте там, будет горячо!” В какой момент Твиттер как платформа истолкует это как потенциальное насилие, учитывая все происходящее с конфликтной выборной компанией, по сравнению с кем-то, кто говорит, что, с вашей точки зрения, “Иду на концерт. Там будет горячо!”
Я точно считаю, что был повод изучить этот [твит]. Затем последовала последующая переписка о том, что он не будет присутствовать на инаугурации, и это сразу же вызвало у меня ассоциацию с сигналом для собак. Мы рассмотрели ответы к его твитам, и было много сообщений вроде “Сообщение получено. Понятно. Мы подстрахуем”. Такие ответы достаточно ясно указывали на то, что инаугурация может быть целью нападения, потому что он не будет присутствовать, чтобы избежать опасности. И это попадало под категорию нарушений.
Когда вы ушли в 2021 году, вы ушли или вас попросили уйти?
О, я ушел.
Что стало последней каплей для вас?
У меня был запланированный отпуск с начала 2021 года до осени, потому что мой старший ребенок собирался пойти в начальную школу. У моих детей была эта игра, которую они любили играть в это время. Они заходили в эту ракету, которую я для них сделал, где была маленькая клавиатура, и они вводили текст, надев свои большие наушники и потом выскакивали и говорили: “Окей, у меня перерыв. Я смогу поиграть немного. Ой, извини, мне нужно присоединиться к этому звонку. Я смогу поиграть с тобой в следующий раз, когда у меня будет перерыв.” Они мимикрировали меня. И я подумал: “О, Боже, это жестоко.”
Я продлил свой отпуск до четырех месяцев. Я вернулся и поговорил с Виджайей и сказал: “Я не уверен, что смогу хорошо справиться с обоими делами. Я хочу быть хорошим родителем. Я хочу, чтобы доверие и безопасность имели крепкого лидера, который сможет сосредоточиться на доверии и безопасности.” И я принял решение, что мне больше имеет смысл провести это время полностью посвященным своим детям, а не быть наполовину присутствующим для них и наполовину присутствующим для Твиттера, когда оба заслуживают полноценного внимания.
Когда я говорил с бывшими сотрудниками Твиттера, которые работали над доверием и безопасностью вместе с вами, они указывали на то, что Йоэль действительно стал центральной фигурой с тех пор. И, возможно, голоса женщин, включая ваш, не были услышаны, так как вы занимались доверием и безопасностью в течение 13 лет, а он только недавно стал ответственным за это. Почему?
Что ж, Йоэль был рад выступать и говорить об этом, а я предпочитаю быть в тени. Я не думаю, что Йоэль пытался меня стереть или что-то в этом роде. Я бы даже сказал, что он старался убедить, чтобы меня не включали в разговоры, если я не хотел этого. Мы все равно всегда общаемся. Он хороший парень. Он знал, что я предпочитаю сохранять низкий профиль после Твиттера. Я не хотел получать повестки, которые он регулярно получал.
Вопрос, который у меня возникает, почему вас не вызывали по повестке?
Пытались доставить мне повестку. В один момент я получил повестку, связанную с Маском. Это было от его юридической команды, я думаю, когда он пытался отказаться от покупки… но потом это отменили. Ее отозвали.
Так вы никогда не получили повестку, связанную с 6 января? Это что-то, что смущает некоторых ваших бывших коллег, тот факт, что вам не приходилось давать показания.
Хочу сказать, я не пытаюсь давать им идеи здесь, Лорен. Но нет, я так и не получил. Самое максимум, что я слышал: “Мы бы хотели с вами поговорить”, и я сказал: “Я в порядке”. Те повестки получал Йоэль, потому что он возглавлял отдел по безопасности сайта, который в основном занимался этими вопросами доверия и безопасности.
Я также не думал, что весь этот расследовательский процесс был полностью честным и объективным. И я думаю, то, что мы увидели на этих слушаниях, подтвердило это. Результатом многих из них было осуждение социальных сетей, а не внутреннего размышления о ролях, которые разные части правительства могли сыграть.
И есть причина, почему я впервые говорю об этом. Когда мы говорили об некоторых аспектах этого, я немного заплакал. У меня двое детей. Мой вопрос всегда был: чего именно вы ожидаете получить от этого? Чем я могу дополнить все это, о чем уже не говорили? Я не пытаюсь получить славы или что-то в этом роде.
Итак, что, по вашему мнению, будет будущим для модерации контента на технических платформах? Мы вступаем в еще один безумный выборный цикл. И мы сталкиваемся с множеством дезинформации, которая стимулируется через генеративное искусственное интеллекта. Как команды должны справляться с этим? Как они должны справляться с этим?
Ситуация не очень хорошая. Факт в том, что, по-моему мнению, пока нет платформ, которые имеют необходимые инструменты для решения этой проблемы через удаление. Решение через удаление требует столько усилий, особенно если вы хотите иметь процесс апелляции, который следует рассматривать как человеческое право в некотором смысле.
Что же есть альтернатива?
Что ж, никогда не следует придерживаться только одного подхода к проблеме, верно? Вы хотите иметь метки, а также возможность удаления определенных типов контента. Вы хотите иметь принципиальный, структурированный подход к тому, как вы определяете приоритеты типов неправильной информации, какую информацию вы удаляете и какую не удаляете. И вы хотите общаться с людьми так, чтобы они, надеюсь, понимали.
Образование действительно важно. Но вот проблема: образование оказывает наибольшее влияние, когда вы видите его в тот момент, когда вам нужна информация. Вы должны сразу увидеть метку вроде “Потенциально создано искусственным интеллектом. Мы имеем такой уровень уверенности, что это сгенерированный контент”. Есть много разных вещей, которые можно исследовать.
Подумайте о том, насколько единая была технологическая отрасль вокруг детской сексуальной эксплуатации. Именно это стало первым поводом для разговоров между разными технологическими компаниями, затем появились разговоры о терроризме и самоубийствах, которые, конечно же, не являются лучшими темами для обсуждений в первую очередь. И это было первым, потому что такие вещи были очевидными проблемами. А вот неправильная информация, созданная искусственным интеллектом, это еще одна проблема, которая является очевидной. Я могу почти гарантировать, что технологические компании фактически готовы передавать друг другу информацию о разных кампаниях дезинформации, которые появляются на их платформах в разное время.
Скучаете ли вы по Твиттеру?
Меня скучает множество людей. У нас были достаточно большие надежды. У нас были великолепные планы, которые мы начинали воплощать, некоторые значительные изменения, которые мы пытались осуществить. И, вероятно, всегда будет некоторое разочарование в том, что мне никогда не довелось увидеть эти изменения полностью реализованными или хотя бы начатыми.
Твиттер, как бренд, мертв, но вы думаете, что платформа Твиттер мертва?
Мне нужно больше данных, прежде чем я смогу сделать такой вывод. Всеобщеизвестно, что твитов стало гораздо меньше. Также, что значит “мертва”? На ней все еще действуют активные группы правых националистов и другие активные группы. Я думаю, что она “мертва” в отношении определенных вещей. Но для других людей это именно то, что они хотят.
Думаете ли вы, что когда-нибудь появится еще один Твиттер?
Я не думаю, что это очень вероятно. Это действительно было что-то уникальное, неповторимое во многих отношениях. Даже после него, даже с X, фактом существования Threads и Mastodon и Discord и Bluesky и всех этих децентрализованных узлов и новых платформ, и все хотят получить кусочек пирога и борются за это… это здорово. Верно? Круто. Давайте, люди! Но все это раздроблено.
В свои лучшие моменты, Твиттер был похож на Вавилонскую башню перед ее падением.
Дайте нам знать, что вы думаете об этой статье. Отправьте письмо редактору по адресу [email protected].
