«Мы не готовы к влиянию генеративного ИИ на выборы»

Unprepared for the impact of generative AI on elections.

Вы слышали историю о том, что Джордж Вашингтон не поддерживал Революционную войну?

Служа генералом, возглавляющим повстанческие силы, Джордж Вашингтон был уверен, что Американская война за независимость была ошибкой. Он “далек от уверенности, что мы заслуживаем успеха”.

Также: Как я обманул ChatGPT, чтобы он рассказывал мне неправду

В 1777 году солдат, служивший под командованием британского генерала Оливера Де Лэнси, нашел сундук, принадлежащий генералу Вашингтону. В сундуке находились несколько писем, написанных собственноручно Вашингтоном, в которых говорилось о его желании примирения с Англией и даже “Я люблю своего короля”.

• Скидки Amazon предлагает скидку до $170 на iPad Mini 6, начиная от ...
• Зарегистрируйтесь для получения членства в Costco и получите беспла...
• GoodNotes 6 предлагает функции проверки орфографии и автозаполнения...

Сундук был найден в руках слуги (и раба) Вильяма Ли, когда Ли был пленен британцами.

Вот конкретное доказательство того, что даже сам Вашингтон не поддерживал войну.

Через несколько лет, в 1795 году, когда Вашингтон обращался к Сенату с просьбой ратифицировать Джейский договор с Францией, эти письма были приведены в качестве доказательства того, что верность Вашингтона нельзя доверять и что ему на самом деле не интересна демократия. Это затруднило принятие Джейского договора.

Однако… Вильям Ли никогда не был пленен британцами. Фактически, Вильям Ли ни на шаг не отходил от Вашингтона во время Революционной войны. Письма были тщательно подделаны, это был эквивалент глубокой подделки в 18 веке.

Также: Насколько велик этот новый генеративный ИИ? Подумайте о разрушении на уровне Интернета

Они преследовали Вашингтона настолько сильно, что он написал – как одно из последних своих действий на посту – опровержение этих подделок в письме госсекретарю США Тимоти Пикерингу.

От Джорджа Вашингтона к Вашингтону, округ Колумбия

Переместимся вперед к 2018 году. Я собираюсь затронуть политически заряженные темы. На мгновение прошу вас игнорировать политику и сосредоточиться на них как на примерах существования дезинформации. Это тема этой статьи. Дезинформация наносит вред всем сторонам. Но чтобы показать вам, что происходит, мне придется привести реальные примеры. И это означает, что мне нужно упомянуть политиков.

Итак, начнем…

Пример 1: Поддерживаемая Кремлем кампания дезинформации

Комитет по разведке Палаты представителей, исследуя президентские выборы 2016 года, разместил библиотеку из более чем 3 500 рекламных объявлений с фальшивыми утверждениями, целью которых было нарушение американской политической системы.

Рекламу производила и покупала ферма троллей, поддерживаемая Кремлем, с 2015 по 2017 год. Кроме купленной рекламы, Комитет по разведке Палаты заявил, что существует по крайней мере “80 000 органических” контента в социальных сетях, созданных российскими интересами.

Пример 2: Измененное видео с подделкой пьяного поведения

Затем мы переходим к 2019 году, чтобы посмотреть на видео, на котором тогдашняя спикер Палаты представителей Нэнси Пелоси запинается и выглядит пьяной. Это было видео с речью Пелоси на мероприятии Центра американского прогресса (левого “танка мысли”).

Видео было подделано и было распространено на Facebook более 45 000 раз и набрало более 23 000 комментариев. Оригинальное видео было отредактировано таким образом, чтобы “звук ее голоса звучал нечетко и искаженно” и чтобы она казалась пьяной.

Оружие генеративного ИИ в политических кампаниях

Фотографии, видео, аудио и даже рукописные письма все эти годы фальсифицировались в целях политических подлогов. Они различались по качеству в зависимости от умения подделывающих, но практика ничуть не нова.

Также: Как на самом деле работает ChatGPT?

Помните об этом, когда мы перейдем к обсуждению deepfakes в эпоху генеративного ИИ. Пегги Нунан, которая в прошлой жизни была главным речником президента Рональда Рейгана, написала в своей колонке в Wall Street Journal:

На практически каждой встрече встает вопрос об искусственном интеллекте. Я бы сказал, что люди подходят к ИИ с неуверенностью, смешанной с прагматичным стремлением сделать все возможное, чтобы улучшить жизнь. Его нельзя остановить, как нельзя остановить прилив. Есть ощущение, что он может расшифровать самые глубокие тайны рака, но одновременно он может обернуться против нас и вызвать ядерную катастрофу.

Это в целом отражает ситуацию. Путешествуя в замкнутых политических кругах, Нунан замечает, что даже политическая элита смотрит на генеративный искусственный интеллект с озабоченностью.

Конечно, это не мешает им использовать технологию в своих интересах.

В прошлом месяце сторонники Рона ДеСантиса, губернатора Флориды и республиканского претендента на президентское кресло, который согласно данным опросов занимает второе место, создали рекламу, в которой использовался сгенерированный искусственным интеллектом голос, имитирующий голос Президента Трампа, чтобы создать впечатление, будто бывший президент Республики критикует своих соратников.

Еще: Как заставить ChatGPT предоставлять источники и цитаты

Чтобы быть ясными, слова, произнесенные искусственным интеллектом, были основаны на реальном посте Трампа в социальной сети Truth Social. Рекламу финансировал Never Back Down PAC, официально не связанный с губернатором ДеСантисом, но усиленно его поддерживающий. Вероятно, PAC посчитал, что использование голоса бывшего президента с его собственными словами будет более эффективным и реалистичным, чем озвучивание их диктором.

В другой рекламе, приписываемой ДеСантису, показано, как Президент Трамп обнимает доктора Энтони Фаучи. Это было создано искусственным интеллектом. Фаучи является бывшим членом Рабочей группы по коронавирусу Трампа, бывшим главным медицинским советником Президента и на протяжении почти 40 лет был директором Национального института аллергии и инфекционных болезней. Фаучи, как известно, стал разделяющей фигурой в ранние дни пандемии. Кампания ДеСантиса, по-видимому, пыталась связать Трампа с Фаучи для политической выгоды.

Целью этой статьи не является обсуждение содержания политической рекламы, а фокус на использовании искусственного интеллекта и его значения в будущем. Изображения, на которых изображен Трамп, обнимающий Фаучи, привлекли внимание, потому что они были созданы искусственным интеллектом.

В марте The New York Times описывал, как Демократическая партия тестирует использование искусственного интеллекта для создания фондовых сообщений, которые “часто работают лучше, чем те, которые полностью написаны людьми”.

Также: Как исследователи взломали ChatGPT и что это может означать для будущего развития ИИ

В Times также сообщалось о фальсифицированных изображениях, распространенных в социальных сетях, на которых показано задержание Президента Трампа в Нью-Йорке.

Хотя искусственный интеллект может стать мощным инструментом национальных выборов, я ожидаю, что его будут активно использовать в кампаниях с ограниченным бюджетом, где требуется более креативное использование ресурсов. Одна из таких кампаний, как сообщает Insider, была проведена для выборов мэра Торонто. Insider опубликовал изображение из избирательного флаера, на котором была изображена женщина с тремя руками.

Когда я посмотрел онлайн на упомянутый в статье флаер, там не было изображения, которое они показали. Предполагаю, что ошибка была исправлена Фьюри или его командой. В любом случае, Фьюри проиграл, заняв четвертое место и получив немного больше 10% голосов победителя.

Так что, хотя искусственный интеллект может помочь создавать поддельные изображения или снижать затраты, это не гарантирует победу. Ничто не гарантирует победу.

Что все это значит?

То, что кампания использует генеративный искусственный интеллект, не означает, что она оружейничает им. Существуют четыре основных категории использования инструментов генеративного ИИ в кампаниях, и только одна из них является полностью негативной.

Deepfakes и подделки: Это наиболее потенциально разрушительное. Когда кампания подделывает информацию, это является разрушительным и относится к категории грязных приемов. То, что делает это еще более тревожным, так это то, что теперь генеративный ИИ позволяет создавать поддельные изображения гораздо большему числу людей, поэтому мы, вероятно, будем видеть это чаще – и не только в кампаниях.

Также: 6 вещей, которые ChatGPT не может делать (и еще 20, которые оно отказывается делать)

Помощь в создании рекламы и писем: Ожидается, что искусственный интеллект будет помогать сотрудникам кампании составлять рекламные материалы и письма. Хотя содержание может содержать ложные сведения или искажения, это ничего нового. Работники кампании и раньше искажали правду в письменных документах до появления генеративного ИИ.

Увеличение скорости и настройка контента для массового обращения: Самые эффективные кампании часто обладают глубокими базами данных потенциальных избирателей, особенно потенциальных доноров. Они покупают списки, агрегируют данные из предыдущих кампаний и других кандидатов, и пытаются создать профили, которые помогут точно нацеливаться на перспективных клиентов. Ожидается использование генеративного искусственного интеллекта для индивидуальной калибровки усилий по привлечению каждого потенциального клиента и для массового обращения.

Анализ трендов и настроений в поисках идей: В предыдущей статье я показал, насколько мощным может быть искусственный интеллект при анализе данных для получения идей. Кампании часто использовали специализированное программное обеспечение для анализа данных на предприятий уровня, но ожидается, что сила, простота использования и относительно низкая цена инструментов, таких как ChatGPT Plus с интерпретатором кода, позволят получить доступ к этим возможностям на всех уровнях кампаний.

Также: Я спросил ChatGPT, Bing и Bard, чего они боятся. Искусственный интеллект Google превратился в Терминатора

Лоуренс Пингри, вице-президент по новым технологиям и тенденциям в области безопасности Gartner, привнес некоторые идеи на эту тему. Он рассказал ENBLE:

Я думаю, что самая большая новая опасность заключается в том, что большие языковые модели генеративного искусственного интеллекта теперь могут быть оснащены автоматизацией. Эта автоматизация (например, AutoGPT, BabyAGI) может использоваться для осуществления целенаправленных дезинформационных кампаний.

Это значительно облегчает проведение операций влияния как политическими партиями, так и государствами.

Большие языковые модели также могут сочетаться с технологией глубокфейков для проведения кампаний, которые потенциально могут создавать аудио и видео. Применение этих инструментов в социальных сетях может создать очень сложную цифровую среду для избирателей, желающих узнать правду.

Когда речь идет о генеративном искусственном интеллекте в кампаниях, настоящий эффект будет за пределами президентских кампаний. В конце концов, в президентских кампаниях есть большие деньги.

Согласно Федеральной избирательной комиссии, “Президентские кандидаты собрали и потратили 4,1 миллиарда долларов в течение 24 месяцев избирательного цикла 2019-2020 года.” Согласно Open Secrets, которое отслеживает расходы на выборы, средний победивший кандидат в Сенате США потратил 15,7 миллиона долларов, в то время как средний кандидат в Палату представителей потратил 2 миллиона долларов на выборах 2018 года.

Некоторые местные кампании имеют сравнительно большие бюджеты на кампанию. Например, взглянув на выборы 2024 года в Совет города Лос-Анджелеса и в Школьный округ Лос-Анджелеса, кандидат в Совет города от округа 2 Адрин Назарян уже собрал 432 000 долларов, в то время как кандидат в округе LAUSD 3 Джани Дэм уже собрала 38 000 долларов.

Теперь имейте в виду, что в округе Лос-Анджелеса 2020 года проживало 793 342 человека. В целом, сам только Лос-Анджелесский округ имеет население 9,7 миллиона человек. В отличие от этого, маленький исторический сельский город, где я живу здесь, в Орегоне, имеет население менее 10 000 человек.

Также: Обнаружение глубокфейков в режиме реального времени: как Intel Labs использует искусственный интеллект для борьбы с дезинформацией

Меньшие кампании, особенно кампании в городах размером с мой, имеют гораздо меньшие финансовые ресурсы, чем национальные кампании. Инструменты генеративного искусственного интеллекта могут предоставить даже самым маленьким кампаниям аналитические инструменты, ранее доступные только кампаниям с бюджетами в шестизначном и семизначном диапазонах.

Так что, хотя мы безусловно можем ожидать, что президентские кампании будут использовать искусственный интеллект, чтобы поставить оппонентов в невыгодные положения (или, по крайней мере, изобразить их так, чтобы их сторонники могли поделиться этим в социальных сетях), ожидайте наибольшего влияния генеративного искусственного интеллекта на местных уровнях.

Будьте на связи, потому что, хотя грязные приемы в кампаниях существуют уже давно, мы обязательно увидим больше таких случаев сейчас, когда у всех есть доступ к инструментам, которые делают это абсурдно простым для осуществления

Разве все это заставляет вас плакать? Ну, помните: Джордж Вашингтон плакал здесь.

Вы можете следить за обновлениями моих проектов на протяжении дня в социальных сетях. Обязательно подпишитесь на мой еженедельный информационный бюллетень на Substack и следите за мной в Twitter по адресу @DavidGewirtz, на Facebook по адресу Facebook.com/DavidGewirtz, на Instagram по адресу Instagram.com/DavidGewirtz и на YouTube по адресу YouTube.com/DavidGewirtzTV.

• artificial intelligence
• Innovation