Как искусственный интеллект обманет избирателей в 2024 году, если мы не предпримем сейчас что-то
Как Алгоритмы Обманут Избирателей в 2024 году, Если Не Начать Действовать Сейчас?
В сентябре я исследовал, как генеративный ИИ повлияет на выборы. Одним из самых больших сюрпризов стало то, насколько сильное влияние может оказать генеративный ИИ на местные выборы.
Также: Как Microsoft планирует защитить выборы от дипфейков и дезинформации
Прочитав статью, профессор Роберт Кросслер связался со мной, чтобы обсудить вопросы, связанные с выборами в нашем цифровом обществе. Кросслер, ассоциированный профессор информационных систем на Вашингтонском университете штата Вашингтон, обладает все необходимыми знаниями для обсуждения этой области. Его последняя статья в журнале Government Information Quarterly рассматривает измерение влияния политической аллегированности, платформ и потребления фейковых новостей на интерес избирателей к процессу выборов.
Работа Кросслера была финансирована Национальным фондом науки и Министерством обороны. Он был президентом Специальной группы по информационной безопасности и конфиденциальности Ассоциации информационных систем в 2019-2020 годах. Ему также была присуждена премия Information Systems Society 2013 года за работу по информационной конфиденциальности.
Кросслер и я провели увлекательную переписку по электронной почте. Вот содержание нашего обсуждения. Мои вопросы выделены полужирным шрифтом. Единственное редактирование касается пунктуации.
- ‘Чего ожидать от полностью новой CarPlay, все еще указывается на «п...
- Купите членство в Costco всего за $20 прямо сейчас с этой акцией Cy...
- Сэкономьте 400 долларов на Roborock S8 Pro Ultra благодаря оставшей...
ENBLE: Какие способы с помощью генеративного ИИ можно использовать для влияния на избирателей или результаты выборов, а также какие потенциальные риски связаны с его использованием в этом контексте?
Роберт Кросслер: Генеративный ИИ можно использовать для дальнейшей поляризации избирателей. Если есть вопрос, на который одна партия хочет убедить другого человека, то генеративный ИИ можно использовать для создания повествования, поддерживающего эту аргументацию. Потенциальный риск заключается в том, что избиратели поверят в нечто, что не является истиной, но будут настолько уверены в этом, потому что они видели очень реалистичный материал, который поддерживает точку зрения, к которой они были обмануты.
Генеративный ИИ имеет потенциал направлять коммуникации конкретно на людей на основе легко доступных знаний, которые люди размещают в общественной сфере. Это – техника, которую мы уже видим применяющейся для социально-инженерных атак с позиции кибербезопасности.
С помощью генеративного ИИ можно настраивать политическое сообщение на основе того, что генеративный ИИ легко определяет как интересы и мотивационные факторы избирателей. Возможность делать это в масштабе имеет потенциал превратить целевую аудиторию, которая определялась на основе демографии, в целевую аудиторию с более детальным пониманием пользователя.
Также: Как использовать Bing Chat (и в чем отличие от ChatGPT)
ENBLE: Какие этические соображения относительно использования генеративного ИИ в избирательном процессе, и как должны подходить к этим вопросам законодатели и общественность?
РК: Как хотелось бы мне знать ответ на этот вопрос. Но именно этот вопрос следует задать и на него следует ответить. С этической точки зрения я считаю, что технологию не следует использовать для искажения истины или, вернее, для выдумки альтернативной истины. Однако установление и внедрение этических соображений в меняющуюся технологию – сложная задача.
Возможно, с политиками можно договориться о этическом стандарте в отношении использования генеративного ИИ, но я не уверен, как это применяется дальше от политиков. Как, например, применимо это к политическим действующим группам?
Как ограничение использования этой технологии повлияет на их права по первой поправке к Конституции? Я не юрист, но каждый раз, когда государство пытается указывать людям, что им делать и что говорить, меня начинает беспокоить.
ENBLE: Можете ли вы поделиться какими-либо результатами или выводами из вашего исследования, которые имеют последствия для более общего понимания роли технологии в демократическом процессе?
RC: Один из выводов, которые я сделал в своем исследовании, – это роль, которую социальные медиа, особенно Facebook, играют в распространении фейковых новостей. В результате я не использую Facebook и мало доверяю тому, что я читаю в других социальных медиа. Я бы настоятельно рекомендовал другим не позволять себе подражать определенному способу мышления на основе того, что они видят в социальных медиа.
Это особенно важно в свете алгоритмов, которые использует социальные медиа для привлечения пользователей. Эти алгоритмы написаны так, чтобы показывать вам больше того, с чем вы взаимодействуете, и меньше того, с чем вы не взаимодействуете. В результате возникает своеобразная “камера эхо”, где подтверждается одна и та же информация, но противоположная информация не обязательно распространяется.
ENBLE: Какова роль иностранных акторов в распространении фейковых новостей и генеративного искусственного интеллекта?
RC: Microsoft опубликовала информацию, которая поддерживала тезис о том, что Китай использует искусственный интеллект в социальных медиа для влияния на избирателей США. Китай и Россия используют генеративный искусственный интеллект для контроля над повествованием о войне на Украине. Мы видим, что искусственный интеллект используется для попыток контроля над повествованием в конфликте между ХАМАС и Израилем.
Учитывая то, о чем сообщила Microsoft и как иностранные акторы используют генеративный искусственный интеллект относительно повествования о войне, можно сделать вывод, что это будет усиливаться по мере приближения дня выборов в 2024 году.
ENBLE: Насколько велика угроза, которую представляют иностранные акторы для нашего избирательного процесса? Они специально используют генеративный искусственный интеллект для увеличения своего влияния или эффективности?
RC: Я считаю, что иностранные акторы представляют большую угрозу для нашего избирательного процесса. Иностранные акторы всегда хотели, чтобы к власти пришли люди, поддерживающие их программу. Пропаганда всегда была частью процесса. Генеративный искусственный интеллект предоставляет инструмент, который позволяет осуществлять более целевое и специфичное информационное воздействие, которое, вероятно, окажет даже большее влияние, чем традиционные методы пропаганды.
Связанная с этим проблема, которую я считаю важной при рассмотрении избирательного процесса и потенциальной силы иностранных акторов (но также и местных), – это нежелание политических претендентов вступать в дебаты. Если политики не выходят на публичную площадь для участия в диалоге, то люди будут искать информацию в других местах. Чем дальше люди уходят от первоисточника информации, тем больше вероятность того, что им предоставляемая информация манипулируется генеративными инструментами искусственного интеллекта.
ENBLE: Как вы лично различаете легитимную политическую коммуникацию и потенциально манипулятивный контент, созданный системами искусственного интеллекта во время избирательных кампаний?
RC: Из-за последних выборов и дезинформации во время этого избирательного цикла, я начал делать две вещи. Во-первых, я стараюсь триангулировать информацию, которую получаю. Это означает, что я хочу получать информацию из разных источников, которые могут иметь разные предвзятости в своей отчетности. Чем лучше я могу триангулировать информацию, тем увереннее я чувствую себя в правдивости этой информации.
Второе, что я люблю делать, это позволить себе не формировать мнение, когда я впервые узнаю о новой проблеме. Это особенно важно, когда информация отличается от того, что я уже знал, или потенциально имеет политическую важность. Ждать, чтобы сформировать свое мнение, позволяет мне уделить достаточно времени для триангуляции с дополнительной информацией, которая может подтвердить (или нет) исходную информацию.
ENBLE: Есть ли особые виды генеративных технологий искусственного интеллекта, которые преобладают или оказывают большее влияние на контекст выборов?
RC: Я смотрю на это через призму медиарисности, где более богатый контекст оказывает большее влияние. Например, видео более богато, чем только текст. То, что делает мир генеративного искусственного интеллекта более эффективным, это возможность использования различных типов генеративного контента вместе.
Хотя видео может быть более богатым средством коммуникации с людьми и может убедительно воздействовать, когда к видео прилагается созданный текст, это помогает кому-то уточнить информацию, которая пытается быть переданной.
ENBLE: Как можно лучше информировать общественность об использовании генеративного искусственного интеллекта на выборах, и какую роль играют СМИ и образовательные учреждения в повышении осведомленности?
RC: Использование генеративного искусственного интеллекта было насильно навязано нам примерно год назад, в ноябре 2022 года, и по-прежнему радикально меняется. Я бы призвал общественность быть параноидальной и искать личное общение с людьми, вместо того, чтобы верить тому, что они видят онлайн.
Я считаю, что сейчас СМИ могут проявить инициативу и быть критически настроенными ко всему, используя свои расследовательские инструменты для выявления правды. Важность правильного воспроизведения событий должна быть важнее, чем первоисточником новостей. Когда СМИ закрепляют репутацию по раскрытию правды, независимо от их предвзятости, это становится площадкой, на которую избиратели могут положиться. Я хотел бы видеть, чтобы одно из СМИ приняло это в свой подход к новостям. Быть первыми может привести к ошибкам и потере доверия.
Образовательные учреждения должны использовать это как область для поощрения студентов к критическому мышлению. Критическое оценивание новостей во время нового президентского выборного цикла поможет создать информированное избирательное тело. Я также хотел бы видеть больше общественных дискуссий, которые позволят людям с разными взглядами обсуждать то, что они видят с другими людьми, и делать это на публичной площади. Ключ к этому – в вежливом общении, и если нам удастся создать такую среду, это только поможет уточнить правды в этом избирательном процессе.
Также: Большинство американцев считают, что искусственный интеллект угрожает человечеству, согласно опросу
ENBLE: Как вы видите развитие взаимосвязи технологии, демократии и выборов в ближайшие годы, и какие потенциальные трудности или возможности вы предвидите?
RC: Я вижу, что наше способность различать правду становится все сложнее с развитием технологий. Это относится и к демократии, и к выборам. Часть меня задается вопросом, не станем ли мы отказываться от технологий, чтобы определить правду. Это позволило бы процессу оценивания происходящего вносить меньше влияния.
Однако технология позволяет тем, у кого нет голоса, раскрывать правду о том, что происходит в их мире. Мы видели это по всему миру, что благодаря социальным медиа люди могут делиться тем, что другие могут пытаться подавить. В результате происходят изменения.
Самая большая проблема, которая должна быть решена, и, возможно, решается владельцами генеративной технологии искусственного интеллекта, – это как-то информировать общественность о том, что что-то было создано с помощью этой технологии. Без знания о том, что создают с помощью этой технологии, становится все сложнее различать факты от вымысла.
ENBLE: Как генеративный искусственный интеллект будет продолжать влиять на избирательный процесс после выборов 2024 года?
RC: Я считаю, что мы увидим самые креативные способы использования генеративного искусственного интеллекта во время выборного цикла 2024 года. После его завершения эти техники, скорее всего, будут усовершенствованы и станут лучше. Хотелось бы знать, как предотвратить это или как это будет выглядеть.
Я надеюсь, что это станет темой для обсуждения нашими политиками, так как я считаю, что это область, где партии могут объединиться. Манипулятивная сила генеративного искусственного интеллекта имеет потенциал равноправно влиять на всех. Таким образом, собрав лучшие и самые яркие умы, я надеюсь, что будет возможность использовать то, что хорошо в этих технологиях, и ограничить влияние того, что вредно.
Также: Не попадитесь на поддельные приложения ChatGPT, вот на что обратить внимание
ENBLE: Каков ваш самый большой страх относительно генеративного ИИ и выборов? Объясните, почему это ваша самая большая озабоченность.
RC: Мой самый большой страх относительно генеративного ИИ заключается в том, что после выборов станет ясно, что выбранные представители Америки вызывают раскаяние. На мой взгляд, нет механизма, позволяющего американцам легко отменить свои выборы, сделанные в день выборов. Если один голос сможет найти способ манипулирования и контроля исхода выборов, а затем, ставя во главу угла интересы государства, станет ясно, что произошло, как народ должен реагировать?
Почему это мой страх? Наблюдаемое влияние и способность нацеливаться на людей в процессе голосования через социальные медиа оказалось чрезвычайно эффективным. Генеративный ИИ имеет потенциал значительно усилить это влияние. Могу ли я подчеркнуть, что граждане могут реагировать непредсказуемыми способами, вызывая массовые протесты?
Мы видели, как это происходило в течение последних четырех лет и это происходит в Европе. Не достигло ли напряжение такого уровня, что ситуация может выйти из-под контроля дальше? Иногда такое ощущение.
ENBLE: Могут ли генеративные ИИ иметь положительное применение в выборах в Америке?
RC: Генеративный ИИ имеет большой потенциал для увеличения эффективности избирательного процесса. С точки зрения администрирования, он может сделать обработку коммуникации гораздо эффективнее. Я могу представить себе, как генеративный ИИ мог бы помочь кандидату подготовиться к интервью, позволяя умному агенту задавать ему вопросы в подготовке к дебатам. Есть много способов, которыми это можно использовать, чтобы улучшить ситуацию.
Недавно я узнал о навыке использования генеративного ИИ для того, чтобы превратить сенсационную новость в скучную новость. Я с нетерпением жду, чтобы использовать это во время выборов и избавиться от сенсаций, которые часто сопровождают политические новости.
Что вы думаете по этому поводу?
“Устранение сенсационизма”. Кажется, хорошим местом для завершения. Хочу поблагодарить Роберта за его время и присоединение ко мне в увлекательном разговоре. Если у вас есть вопросы, комментарии или мнения о том, о чем мы говорили, пожалуйста, оставьте их в комментариях ниже.
Вы можете следить за обновлениями моего проекта в социальных медиа каждый день. Обязательно подпишитесь на мой еженедельный информационный бюллетень-обзор на Substack, и следите за мной в Twitter по адресу @DavidGewirtz, на Facebook по адресу Facebook.com/DavidGewirtz, в Instagram по адресу Instagram.com/DavidGewirtz и на YouTube по адресу YouTube.com/DavidGewirtzTV.
