Модераторы Bumble, Grindr и Hinge борются за безопасность пользователей – и свою собственную
Модераторы Bumble, Grindr и Hinge предпринимают меры для защиты своих пользователей и себя
“Я не могла ходить никуда одна,” говорит Ана. “У меня было такое большое тревожное состояние, что когда я выходила на улицу делать дела, я дважды теряла сознание. Тогда я поняла, что я очень больна”.
Ана начала работать в приложении для знакомств LGBTQ+ Grindr, когда ей было двадцать несколько лет, одна из сотен гондурасцев, нанятых американской аутсорсинговой компанией PartnerHero для работы по этому аккаунту. Её команда базировалась в Сан-Педро-Сула, втором по величине городе Гондураса, где они занимались различными задачами, от обычных – ответы на электронные письма и вопросы о платежах, до ужасных: сообщения пользователей о сексуальных нападениях, гомофобном насилии, сексуальном насилии над детьми и убийствах.
Её психическое здоровье ухудшалось, но она боялась, что если она пожалуется, ей будет трудно найти работу в других аутсорсинговых компаниях в Гондурасе, а её болезнь делала поиск другой работы трудным. “Я не могла уйти, потому что не могла оставить свою работу”, – говорит она. “Я не могла бороться за большее. Я не говорила ни слова”.
Ана присоединилась к Grindr как амбициозный молодой выпускник, готовый начать свою карьеру. В 2019 году она ушла с работы с тревогой и депрессией, неспособная работать в течение месяцев после этого. Она говорит, что позже ей был поставлен диагноз посттравматического стрессового расстройства.
Этот материал опубликован при сотрудничестве с The Bureau of Investigative Journalism.
- Vision Pro от Apple, возможно, займет немного больше времени для за...
- Еще один поворот от OpenAI Microsoft нанимает Сэма Альтмена на долж...
- ЕС хочет исправить работу на заказ. У Uber свои собственные идеи
Онлайн-индустрия знакомств огромна, с отчетными доходами около 2,6 миллиарда долларов в прошлом году. Bumble, Grindr и Match Group – конгломерат, владеющий Hinge и Tinder, оцениваются в совокупности в 13 миллиардов долларов. Но платформы давно критикуются за злоупотребление, домогательства и насилие в реальной жизни, с которыми сталкиваются их пользователи. Чтобы повысить безопасность, эти платформы привлекают, обычно через аутсорсинговые компании, глобальную рабочую силу модераторов, таких как Ана, которая, вместе с другими источниками, далее в этой истории выразились под псевдонимом, чтобы она свободно могла рассказать о своих опытах.
The Bureau of Investigative Journalism (TBIJ) провело интервью более 40 настоящих и бывших работников, работающих в Гондурасе, Мексике, Бразилии, Индии, Филиппинах, США и Великобритании, которые работали от имени Grindr, Bumble и Match Group. Условия в этих группах различаются, но тренды очевидны. Работники говорили о проблемах с психическим здоровьем, включая симптомы тревоги, депрессии и ПТСР, связанные с их работой, но говорили о нехватке поддержки. Некоторые выразили обеспокоенность недостатком персонала и высокими целями продуктивности, которые, по их словам, подрывают качество их работы и, в свою очередь, означают, что люди, использующие приложения, менее безопасны, так как отчеты о злоупотреблениях остаются без ответа на длительные периоды.
Шервин Талиэ, генеральный директор PartnerHero, заявил TBIJ, что компания “придерживается позиции лидера по вопросам благополучия сотрудников в нашей отрасли и одновременно поддерживает важные миссии наших партнеров и безопасность их пользователей”. Сара Бауэр, представитель Grindr, заявила, что компоненты конфиденциальности и безопасности были встроены прямо в приложение для устранения незаконной деятельности. “Мы предъявляем нашим партнерам самые высокие стандарты сотрудничества, неприкосновенности и доверия, и регулярно оцениваем, как наши партнеры соответствуют этим критериям”.
Люди, использующие приложения для знакомств, могут и не осознавать того, что если они сообщают о злоупотреблении, таком как преследование или сексуальное насилие, их жалоба вначале может быть рассмотрена сотрудником из Гондураса, Индии или Гватемалы. Главная причина для такого аутсорсинга — это стоимость.
Grindr сократила свою внутреннюю команду доверия и безопасности и теперь полностью полагается на аутсорсинговых сотрудников. PartnerHero, который работает для Grindr, в основном нанимает своих сотрудников в Гондурасе и Филиппинах, а также в меньшей степени в Бразилии. Компания предлагает бизнесу использовать эти регионы как возможность для “существенной экономии” на заработной плате, подборе персонала, налогах и помещениях. У неё также есть небольшие центры в Германии, Румынии и Южной Африке.
Bumble постепенно сокращает свою международную сеть фрилансеров и нанимает команду модераторов, базирующихся в Индии, через аутсорсинговую фирму TaskUS, штаб-квартира которой находится в Техасе, но большая часть персонала набирается из Филиппин. В 2022 году Hinge сократил большинство модераторов в США и заменил их 43 агентами, нанятыми аутсорсинговой компанией Telus International в Гватемале, по информации источников в компании. Заработная плата для этих агентов значительно ниже, чем у их коллег из США.
Работа, которую выполняют эти модераторы, имеет ключевое значение. Они помогают принимать решение о том, должен ли пользователь быть забанен в приложении, и должно ли дело быть “передано” специалистам по безопасности персонала. Отчеты, с которыми они работают, могут варьироваться от опасного, насильственного и жестокого поведения до преследования, нетерпимости, шантажа и торговли наркотиками. Неверное решение по отчету о злоупотреблении может иметь серьезные последствия. TBIJ рассмотрела отчет одной женщины о сексуальном нападении, произошедшем после побывания на свидании в Hinge, на который не было получено ответа. Только когда женщина побежала за ним – через год – Hinge забанил указанного пользователя.
Однако аутсорсинговые работники для приложений знакомств жалуются на недостаточно ресурсов и перегруженность производственной линии по обработке отчетов пользователей. Они добавляют, что ситуацию усугубляют компании, устанавливающие недостижимые цели. “Иногда мы делали ошибки, которые мы не учитывали или которые можно было избежать, если бы у нас было больше людей”, говорит один бывший модератор Grindr.
Лаура, работавшая в качестве специалиста по безопасности Bumble в Великобритании до 2022 года, говорит о “огромном объеме” серьезных случаев, что она объясняет “хроническим недостатком персонала”.
В разделе “Часто задаваемые вопросы” Bumble говорится, что они стремятся решить все отчеты в течение 48 часов. Лаура говорит, что сроки ожидания часто были гораздо дольше, иногда серьезные случаи оставались без ответа в течение недель. Двое источников утверждают, что задержки в обработке отчетов о проблемах с приложениями знакомств могут привести к задержкам в решении серьезных вопросов.
“Не хватало людей, чтобы справиться с таким объемом работы”, говорит Лаура. “Вместо найма большего числа людей они оказывали на нас большее давление, чтобы увеличить численность”.
По словам Лауры, сотрудники Bumble работают с “очередями” отчетов, и система компании имеет цветовую кодировку. “Если вы находитесь в пределах цели, все отображается серым цветом, а если ситуация ухудшается, цвет становится оранжевым, а если совсем плохо – красным … и, по сути, всегда был красный, все время”.
Как утверждает бывший сотрудник, когда работники покидали Bumble, количество специалистов по безопасности участников, которые работают над особо сложными случаями, уменьшилось с 15 человек до 7 весной 2023 года, но Bumble недавно начал привлекать персонал для устранения пробелов. “Мы столкнулись с множеством проблем, связанных с тем, что различные случаи оставались в очереди неделями до принятия мер”, утверждает один сотрудник. “Команда чувствовала себя действительно подавленной из-за накопившегося объема работы и ощущала, что вы можете обнаружить что-то очень серьезное слишком поздно”.
Несколько сотрудников Grindr, Bumble и Hinge говорят о неразумных целях, которые ставились перед ними, и о том, что часто от них ожидали принять сложные решения о том, должен ли пользователь быть заблокирован на платформе всего за минуту.
Лаура была одной из работников, которые выразили обеспокоенность безопасностью пользователей. “Когда дело доходило до обеспечения безопасности участников, проблемой была не политика сама по себе, а исполнение”, – сказала она. “Потому что у нас было недостаточно персонала, люди могли ждать несколько дней или даже недель, прежде чем их отчеты будут рассмотрены … В случае серьезных проблем это означает, что этот отчет получилось рассмотреть только после длительного времени”.
“Строгие цели не соответствуют характеру нашей работы, потому что мы столкнулись с большим количеством вторичной травмы”, – говорит Лаура. “Вот человек только что пролил свою душу вам, рассказывая о том, какие травматические ситуации он пережил, например, нападение … и вам должно отвечать на это словно вы робот”.
Bumble не предоставил комментарий, который можно привести в зачет.
Кейла Уейлинг, представитель Match Group, говорит: “Безопасность – это важнейшее для нашего бизнеса, и наши постоянные усилия по улучшению функций и политик с целью сделать платформу безопаснее для всех никогда не прекратятся”.
Работа с часто тревожным материалом в условиях повышенного давления оказывает значительное воздействие на модераторов. Работники PartnerHero, с которыми беседовали сотрудники TBIJ, говорят, что они не получали достаточную поддержку, некоторые из них были наказаны и даже уволены во время психических кризисов, связанных с их работой.
Гаэль, фрилансер, который работал для Bumble из своего дома в Бразилии до начала этого года, все еще испытывает трудности в обсуждении двух случаев сексуальных злоупотреблений в отношении детей, с которыми ему пришлось столкнуться. “Это просто неприятно говорить об этом, потому что это возвращает в память изображение”, – говорит он. Эти случаи “не позволяли мне хорошо спать несколько недель после этого”.
Гаэль считает, что он не получил достаточного обучения для работы с такими деструктивными изображениями. “Кажется, что они ожидают, что вы будете достаточно умны и ловки, чтобы справиться с такими ситуациями”, – говорит он.
Из 14 бывших модераторов Grindr, с которыми говорили сотрудники TBIJ, практически все свидетельствуют о травматических условиях работы, с которыми они столкнулись. Некоторые говорили, что симптомы стресса были явны у персонала. “Эмоции каждого, в какой-то момент, начали проникать в воздух”, – говорит один бывший модератор. “Люди могли это почувствовать … Они замечали напряжение, враждебную обстановку. Это было ужасно”.
В один момент, несколько сотрудников, находящихся в Гондурасе, увидели изображения сексуального насилия над детьми, прикрепленные к электронной почте от пользователя Grindr. “У нас в тот день ушли трое людей… Они не смогли справиться”, – говорит один из сотрудников.
Другой сотрудник говорит, что они неоднократно пытались покончить с собой во время и после работы в компании.
PartnerHero начал сотрудничать с Grindr в 2017 году, и сначала нанял сотрудников на общие должности по поддержке клиентов. Хотя им всегда требовалось выполнять задачи в области безопасности пользователей, с течением времени PartnerHero стал основным поставщиком услуг по модерации контента Grindr.
Сотрудники Grindr и Bumble говорят, что им пришлось бороться, чтобы получить право на льготы по психическому здоровью. Эти льготы значительно различались в зависимости от приложения и контрактного положения модератора, и сотрудники обычно получали более хорошую поддержку, чем фрилансеры и контрактные работники.
Внештатные сотрудники Grindr в PartnerHero говорят, что, несмотря на их постоянные просьбы, психическая поддержка гондурасскому персоналу была практически недоступна до 2020 года, когда сторонняя компания была нанята для предоставления терапии, а страховой полис компании был дополнен льготами по психическому здоровью. Однако несколько человек, работавших в PartnerHero после введения этих льгот, говорят, что они об этом не знали. До этого сотрудники Grindr говорят, что им было сказано, что они могут обратиться к представителю отдела кадров.
Сотрудники Grindr говорят, что они продолжали бороться за большую поддержку психического здоровья, и в ноябре 2022 года PartnerHero наняла координатора по благополучию персонала с опытом в клинической психологии. Генеральный директор PartnerHero Тали пожаловал ТБИЖ, что каждый сотрудник его команды Grindr в Гондурасе получает медицинский и психологический планы и доступ к программе помощи сотрудникам, а модераторам предлагаются дополнительные возможности. “Мы сотрудничаем с Grindr для развития процессов и обучения”, – говорит он.
“Мы уважаем, насколько трудна роль модератора контента и работали с PartnerHero на протяжении нашего сотрудничества, чтобы постоянно улучшать процессы, обучение и поддержку команды модерации”, – говорит представитель Grindr Бауэр.
Хуан Мануэль, вице-президент по операциям в Telus International Гватемала, говорит, что компания тщательно подбирает модераторов и “предлагает полноценное обучение (постоянное) и обеспечивает комплексную систему благополучия”.
В Bumble сотрудники говорят, что они имели доступ к психологической поддержке через частную страховую программу и программу помощи сотрудникам. В 2022 году компания расширила свои возможности, введя “пособие по благополучию”, которое можно использовать для оплаты сеансов терапии или других медицинских услуг, и наняла координатора по благополучию, который получил обучение по оказанию поддержки в психическом здоровье сотрудникам. Однако Гаэль и Оскар говорят, что эти льготы не были доступны фрилансерам.
Условия во внештатной индустрии модерации могут только ухудшаться. Сокращения стали центральной особенностью технологической отрасли США за последние два года при росте процентных ставок и сокращении венчурного капитала.
С 2022 года Match Group также урежил меры безопасности, утверждают три источника, ранее занимавшие ведущие должности в компании. По словам двух из этих старших источников, эти сокращения привели к перегрузке команд доверия и безопасности. По словам Уэйлинга из Match Group: “Мы увеличили инвестиции в безопасность и привлекли ведущих специалистов по безопасности, которые продолжили создавать новые должности и расширять существующие функции безопасности, что привело к 30-процентному росту наших команд доверия и безопасности за последний год”.
По словам источников, в Grindr ресурсы для модерации были сокращены. “Когда компании пытаются увеличить свою [прибыль], они смотрят на операционные издержки”, – говорит Сара, сотрудник, который ушел из Grindr в этом году. “Обычно для работы с клиентами и модерации контента прилагается большая сумма денег. Так что это обычно первое, что становится под угрозой сокращения”.
Сара утверждает, что проекты, направленные на предотвращение возвращения заблокированных пользователей на Grindr и сокращение негативного воздействия на модераторов от контента, такого как детская порнография, были утратившие приоритет в пользу сокращения затрат и увеличения дохода. На Grindr уже небольшая команда внутренней безопасности была еще более сокращена после массовых увольнений в связи с применением компанией строгой политики возврата в офис.
В августе руководство Grindr дало сотрудникам две недели для принятия решения, будут ли они работать два раза в неделю в офисах в Чикаго, Лос-Анджелесе или Сан-Франциско. По данным Коммуникационных рабочих Америки, представляющих интересы сотрудников, около половины из 178 сотрудников отказались и были вынуждены уволиться.
Сообществу обвиняют принудительное введение политики возврата в офис в ответ на создание профсоюза Grindr United в июле и позвали на суд из-за неправомерных трудовых практик. Grindr говорит, что эти заявления не имеют основания. “Так много людей, которых уже нет”, – говорит Мэдисон, сотрудник Grindr. “Практически никого нет. Нет достаточного количества сотрудников для решения проблем”.
В Grindr осталось только трое сотрудников внутренней безопасности, которые наблюдают за командами в PartnerHero, говорят два источника, которые теперь покрывают всю работу по модерации, включая сложные юридические запросы и команду по кризисному управлению, аутсорсится в PartnerHero.
Представитель Grindr Бауэр говорит, что компания “будет продолжать инвестировать значительные средства” в процессы автоматизации, которые защитят модераторов от депрессивного контента. “Наши команды безопасности и юристы, которые имеют достаточно ресурсов, продолжают рассматривать сложные доклады пользователей по мере необходимости”.
Некоторые бывшие модераторы, которые теперь покинули индустрию, говорят о большом чувстве облегчения.
Ана говорит, что ее здоровье улучшилось. “Сегодня я могу выйти на улицу и сделать какие-то дела самостоятельно”, – говорит она. “Моя семья все еще беспокоится… но я находусь в процессе восстановления своей независимости”.
Гаэль тоже говорит, что теперь он чувствует себя “гораздо лучше”. “Я был очень счастлив, когда ушел с работы [в Bumble]. Потому что, хотя она очень хорошо платила… она очень сильно влияла на мою жизнь”.
Но другие, вероятно, заняли их место. “Эти люди считаются одноразовыми”, – говорит бывший старший менеджер в PartnerHero, описывая индустрию. “Итак, когда они выгорают, просто находят новых, и людей… которые готовы войти в дверь, предостаточно”.
Если вам или кому-то известному нужна помощь, в США звоните по номеру 1-800-273-8255 бесплатную круглосуточную поддержку от Национальной линии предотвращения самоубийств. Вы также можете отправить текст HOME на номер 741-741 для Линии кризисной помощи по текстовым сообщениям. Вне США посетите Международную ассоциацию предотвращения самоубийств для кризисных центров по всему миру.
