Робозвонки с использованием искусственного интеллекта, подражающие президенту Байдену как технология дипфейка манипулирует выборами 🕵️‍♂️

Два эксперта по аудио подделкам утверждают, что голосовое сообщение, созданное с помощью технологии глубокой фейковой робозвонки о Президенте Байдене, которое определенные избиратели получили на прошлой неделе, скорее всего было произведено с использованием технологии от популярной стартап-компании по клонированию голоса из Силиконовой Долины.

Исследователи ИИ предполагают, что deepfake-робокол с Байденом, вероятно, был создан при помощи инструментов, разработанных стартапом ElevenLabs.

Введение: скандал с Байденом и deepfake-робоколами 😱

На прошлой неделе избиратели Нью-Гэмпшира были удивлены, когда получили робокол, подражающий президенту Джо Байдену, с инструкцией не голосовать на предварительных выборах штата. В то время как источник звонка остается неизвестным, аудиоэксперты считают, что он, скорее всего, был создан с помощью технологии от стартапа по клонированию голоса ElevenLabs. 📞

Развитие ElevenLabs и технологии клонирования голоса 🚀

ElevenLabs, стартап по клонированию голоса, который предлагает ИИ-инструменты для различных приложений, включая аудиокниги и видеоигры, недавно достиг «единорога» ($1.1 млрд. оценка) после того, как привлек $80 млн инвестиций в новом раунде. Ведущими инвесторами в этом раунде стали вентурная фирма Andreessen Horowitz, подтверждая доверие и веру индустрии в силу клонирования голоса. 🦄

Любой может зарегистрироваться в платной услуге ElevenLabs и клонировать голос из аудиопримера. В то время как политика безопасности компании рекомендует получать разрешение перед клонированием голоса кого-либо, она позволяет безразрешительное клонирование для некоммерческих целей, таких как политические выступления, влияющие на общественные дебаты. 💬

Выявление виновника: Pindrop и Berkeley в помощь 🕵️‍♀️

Pindrop, компания по безопасности, специализирующаяся на определении синтетического аудио, провела тщательный анализ аудио робокола. Их исследование указало на технологию ElevenLabs или систему с похожими компонентами как наиболее вероятный источник. Результаты были удивительно ясными, с вероятностью совпадения более 99 процентов. 😮

Ханни Фарид, специалист по цифровой криминалистике в Школе информации Университета Калифорнии в Беркли, изначально высказал сомнения относительно участия ElevenLabs. Однако после того, как его команда провела независимый анализ аудио, они пришли к тому же выводу. Доказательства настолько преобладают, что все указывает на то, что deepfake-робокол с Байденом действительно был сделан с использованием технологии ElevenLabs. 🔍

Контроверзии и злоупотребления: Предыдущие случаи 👀

Это не первый раз, когда исследователи подозревают использование инструментов ElevenLabs в политической пропаганде. Компания NewsGuard, отслеживающая онлайн-дезинформацию, ранее заявляла, что аккаунты в TikTok, распространяющие теории заговора, включая клон голоса Барака Обамы, используют технологию ElevenLabs. ElevenLabs ответил, признавая случаи злоупотребления и непрерывно работая над разработкой защитных механизмов, чтобы предотвратить их. 🙅‍♂️

Лидер рынка: ElevenLabs и его влиятельные инвесторы 👑

ElevenLabs несомненно считается одной из ведущих компаний по клонированию голоса с ИИ на рынке. Его успех отражается в оценке более $1.1 млрд ивлаюации, а также в линейке инвесторов, которые включают крупных игроков в индустрии, таких как Andreessen Horowitz, Нат Фридман и Мустафа Сулейман, и другие. С такими влиятельными инвесторами и значительными вложениями ElevenLabs находится в выгодном положении для создания эффективных механизмов защиты от злоумышленников. 💪

Неотложная необходимость в защите перед выборами 🗳️

По мере приближения предстоящих президентских выборов в Соединенных Штатах, необходимость в защите от deepfake-технологий становится все более критической. С возможностью кого угодно создать убедительные аудио-подражания, важно иметь регулирующие меры для защиты от злоупотреблений. В противном случае последствия могут быть катастрофическими. “По мере приближения цикла выборов, всё это становится просто безумием”, – говорит генеральный директор Pindrop Виджай Баласубраманиям. 🚫

Раздор зловещих намерений: Клонирование голоса Байдена 😈

Появился сервер Discord, посвященный поклонникам ElevenLabs, на котором активно обсуждают, как они собираются клонировать голос Байдена. На этом сервере ссылки на видео и посты в социальных сетях с deepfake-контентом, использующим голос Байдена или ИИ-генерированные версии Дональда Трампа и Барака Обамы. Мощь deepfake-технологии в неправильных руках действительно тревожит. 😨

Технологии превосходят регулирование: настоящая проблема 🌐

Хотя ElevenLabs лидирует на рынке в области клонирования голоса с использованием ИИ, наличие подобных технологий у компаний и частных лиц создает и возможности для бизнеса, и потенциал для злонамеренного использования. Когда эти средства становятся широко доступными, распространение их злоупотребления становится все сложнее. “У нас есть реальная проблема”, – говорит Сэм Грегори, директор программы в некоммерческой организации Witness, подчеркивая необходимость эффективного регулирования. 🚔

Охота на достоверность: разоблачение глубоких подделок для выборов 🕵️‍♀️

В то время как эксперты, такие как Pindrop и Berkeley, вполне могут выявить источник ИИ-генерируемых робозвонков, этот случай показывает неподготовленность властей, технической отрасли и общественности по мере приближения кампании 2024 года. Определение происхождения аудиозаписей или определение их ИИ-происхождения без специализированной экспертизы представляет трудности. Кроме того, более продвинутый анализ может быть не завершен достаточно быстро для противодействия вреду, причиненному ИИ-генерируемой пропагандой. 🧩

Вывод: Зов к надежным инструментам и быстрому действию 📣

Как показывает случай с голосовым фейком робозвонка Байдена, неконтролируемое развитие технологии глубокой фейки вызывает серьезные опасения для выборов и доверия общественности. Журналисты, избирательные чиновники и другие лица не располагают надежными инструментами для быстрого подтверждения подлинности или происхождения утечек аудиозаписей. В случае потенциально меняющей результаты выборов глубокой фейки требуется срочность. Необходимость надежных инструментов и оперативных реакций стоит на первом месте. 🚨

✅ Бонусный раздел Вопросы и ответы:

В: Используется ли технология клонирования голоса только вредоносно?

О: Нет, технология клонирования голоса имеет законные применения в таких отраслях, как развлечения и аудиокниги. Однако потенциал для злоупотребления вызывает серьезные опасения, особенно во время избирательных кампаний.

В: Каковы возможные последствия глубоких фейковых робозвонков на выборах?

О: Глубокие фейковые робозвонки могут иметь серьезные последствия, включая подавление избирателей, распространение dezinformatsii и manipulation общественного мнения. Они подрывают целостность демократического процесса и разрушают доверие общественности.

В: Как мы можем защититься от глубоких фейковых робозвонков и dezinformatsii?

О: Введение регулирования и надзора за использованием технологии глубоких фейков, а также инвестиции в надежные инструменты обнаружения могут помочь бороться с распространением глубоких фейковых робозвонков и dezinformatsii. Кроме того, медиаграмотность и образование играют важную роль в оснащении людей способностью различать подлинное и обработанное содержимое.

✨ Не забудьте поделиться этой статьей, чтобы распространить осведомленность об опасностях технологии глубоких фейков на выборах! ✨

Ссылки:

Творческий селфи 2 Преобразуйте свои селфи ...
Колеблющий воображение генератор видео ИИ о...
OpenAI реагирует на отсутствие разнообразия...
Не санкционированный дипфейк порно с Тейлор...
OpenAI выпускает новые модели и снижает сто...
ФТС запускает расследование по компаниям AI...
AI

AI