Выборы в Словакии показывают, что искусственный интеллект представляет угрозу для демократии
Выборы в Словакии искусственный интеллект - угроза для демократии
За два дня до выборов в Словакии на Facebook была опубликована аудиозапись. На ней были слышны два голоса: предположительно, Михал Шимечка, лидер либеральной партии Прогрессивная Словакия, и Моника Тодова из газеты Denník N. Они, похоже, обсуждали, как подделать выборы, частично путем покупки голосов из маргинализированного ромского меньшинства страны.
Шимечка и Denník N немедленно отрицали подлинность аудиозаписи. Отдел проверки фактов информационного агентства AFP заявил, что аудиозапись показывает признаки манипуляции с использованием искусственного интеллекта. Но запись была опубликована во время 48-часового моратория перед открытием выборов, во время которого СМИ и политики должны сохранять молчание. Это означало, что согласно правилам выборов в Словакии, пост был трудно разоблачить широко. И, поскольку пост был аудиозаписью, он использовал лазейку в политике Meta по манипулированию контентом, которая предписывает запретить только фальсифицированные видеозаписи, где человек был отредактирован так, чтобы произнести слова, которые он никогда не говорил.
Выборы были острым противостоянием между двумя лидерами с противоположными взглядами на Словакию. В воскресенье было объявлено, что партия Прогрессивная Словакия, выступающая за НАТО, проиграла партии SMER, которая выступала за отзыв военной поддержки своего соседа — Украины.
Перед голосованием цифровой глава Евросоюза Вера Йоурова заявила, что выборы в Словакии станут пробным случаем того, насколько уязвимы европейские выборы перед “многомиллионным оружием массовой манипуляции”, используемым Москвой для вмешательства в выборы. Теперь, после выборов, страны по всему миру будут изучать события в Словакии, чтобы найти подсказки о том, с какими проблемами они также могут столкнуться. Рядом с ней Польша, которая, согласно недавнему исследованию ЕС, наиболее подвержена дезинформации, пойдет на выборы через две недели. В следующем году выборы пройдут в Великобритании, Индии, ЕС и США. Факт-чекеры, пытающиеся противостоять дезинформации в социальных сетях в Словакии, говорят, что их опыт показывает, что искусственный интеллект уже достаточно развит, чтобы нарушить выборы, тогда как у них нет инструментов для противодействия.
“Мы не готовы к этому так, как следовало бы”, – говорит Вероника Хинцова Франковска, руководитель проекта в организации по проверке фактов Demagog.
- Индия использует антитеррористические законы для преследования журн...
- Меньше – это гораздо больше, когда речь идет о искусственном ...
- Получите этот электробайк всего за 900 долларов прямо сейчас
Во время выборов команда Франковска работала долгие часы, разделяя свое время между проверкой утверждений, сделанных во время телевизионных дебатов, и мониторингом социальных медиа-платформ. Demagog является партнером Meta по проверке фактов, что означает, что он сотрудничает с социальной медиа-компанией для написания ярлыков проверки фактов для подозреваемой дезинформации, распространяемой на платформах, таких как Facebook.
Искусственный интеллект добавил новый вызов в их работу. За три дня до выборов Meta уведомил команду Demagog о том, что аудиозапись, в которой Шимечка предлагает удвоить цену пива в случае его победы, набирает обороты. Шимечка назвал видео фальшивкой. “Но, конечно же, проверка фактов не может быть основана только на том, что говорят политики”, – говорит Франковска.
Доказать, что аудиозапись была подделана, было трудно. Франковска слышала о создании искусственным интеллектом постов, но ее команда никогда раньше не приходилось проверять их. Они выяснили, откуда поступила запись, обнаружив, что сначала она была опубликована в анонимном аккаунте Instagram. Затем они начали обзванивать экспертов, спрашивая, считают ли они запись подлинной или подделанной. Наконец, они попробовали классификатор речи на основе искусственного интеллекта, созданный американской компанией Eleven Labs.
Через несколько часов они были готовы подтвердить, что они считают запись измененной. Их ярлык, который до сих пор доступен на словацком языке на Facebook, когда посетители натыкаются на пост, гласит: “Независимые проверяющие факты говорят, что фото или изображение были отредактированы таким образом, что могут ввести в заблуждение людей”. Пользователи Facebook могут выбрать, хотят ли они все равно увидеть видео.
И аудиозапись о повышении цены на пиво, и аудиозапись о подделке голосов остаются видимыми на Facebook с ярлыком проверки фактов. “Когда контент проверяется фактами, мы помечаем его и снижаем его рейтинг в ленте, чтобы меньше людей видели его – как это произошло и с этими примерами”, – говорит Бен Уолтер, представитель Meta. “Наши стандарты сообщества применяются ко всему контенту, независимо от того, создан он искусственным интеллектом или человеком, и мы примем меры против контента, нарушающего эти правила”.
Эти выборы были одними из первых значимых голосований, которые состоялись после введения в августе цифрового акта ЕС. Этот акт, разработанный для лучшей защиты прав человека онлайн, вводит новые правила, которые должны были заставить платформы быть более активными и прозрачными в своих усилиях по модерации дезинформации.
“Словакия была пробным случаем, чтобы увидеть, что работает и где нужны некоторые улучшения”, – говорит Ричард Кухта, аналитик в Reset, исследовательской группе, которая фокусируется на влиянии технологии на демократию. “На мой взгляд, [новый закон] оказал давление на платформы, чтобы увеличить возможности контентной модерации или проверки фактов. Мы знаем, что Meta наняла больше проверяющих факты для словацких выборов, но увидим, было ли этого достаточно”.
Вместе с двумя глубокофейковыми аудиозаписями Кучта также стал свидетелем появления на социальных сетях двух других видео с подделанным голосом, созданных с помощью искусственного интеллекта, опубликованных крайне правой партией “Република”. Одно из них подделывало Михала Шимечку, а другое – президента Зузану Чапутову. В этих аудио были заявления о том, что голоса являются вымышленными и их сходство с реальными людьми является случайным: “Эти голоса являются вымышленными, и их сходство с реальными людьми является совершенной случайностью”. Однако, как отмечает Кучта, эта надпись появляется только через 15 секунд после начала 20-секундного видео, что, по его мнению, было попыткой обмануть слушателей.
Словацкие выборы тщательно наблюдались в Польше. “Конечно, искусственно сгенерированная дезинформация – это то, чего мы очень боимся, потому что на нее очень сложно быстро реагировать”, – говорит Якуб Шлиж, президент польской группы проверки фактов – Ассоциации “Правда”. Шлиж также беспокоится о том, что в Словакии дезинформация упаковывается в аудиозаписи, а не в видео или изображения, потому что клонирование голоса настолько сложно определить.
Как и Хинцова Франковска в Словакии, Шлиж также не располагает надежными инструментами, помогающими ему определить, что было создано или подделано с использованием искусственного интеллекта. “Доступные инструменты дают вам вероятность”, – говорит он. Но эти инструменты страдают от проблемы “черного ящика”. Он не знает, как они решают, что публикация, вероятно, является подделкой. “Если у меня есть инструмент, который использует другой искусственный интеллект, чтобы каким-то образом магически сказать мне, что это 87 процентов создано искусственным интеллектом, как я должен передать это сообщение своей аудитории?” – говорит он.
Пока в Польше не было много искусственно сгенерированного контента, говорит Шлиж. “Но люди используют факт того, что что-то может быть создано искусственным интеллектом, чтобы подорвать доверие к реальным источникам”. До голосования польских избирателей остается две недели, чтобы решить, должна ли правящая консервативная партия “Право и справедливость” оставаться у власти на рекордный третий срок. В выходные в Варшаве собралась огромная толпа в поддержку оппозиции, а контролирующее оппозицию городское правительство оценило ее численность в пике в 1 миллион человек. Но на X, ранее известном как Twitter, пользователи предположили, что видео с маршировкой были обработаны с использованием искусственного интеллекта, чтобы сделать толпу кажущейся большей.
Шлиж считает, что такой контент легко проверить на достоверность, перекрестно сопоставляя разные источники. Но если искусственно сгенерированные аудиозаписи начнут распространяться в Польше в последние часы до голосования, как это произошло в Словакии, это будет гораздо сложнее. “Как организация, занимающаяся проверкой фактов, у нас нет конкретного плана, как с этим бороться”, – говорит он. Так что если что-то подобное случится, это будет больно.”
