Вероятно, deepfake-робоколлы, имитирующие Джо Байдена, созданы с использованием технологии ElevenLabs.
На прошлой неделе жители Нью-Хэмпшира получили робоколлы, на которых голосовал дипфейк Джо Байдена, которые были связаны с разработанными с помощью инструментов стартапа искусственного интеллекта ElevenLabs.
Подъем поддельных робоколлов: Как технология искусственного интеллекта потрясает политику
Инструменты стартапа по искусственному интеллекту, ElevenLabs, винятся в недавней волне поддельных робоколлов, нацеленных на избирателей Нью-Гэмпшира, что вызывает беспокойство угороженных граждан и экспертов о потенциальном злоупотреблении технологией искусственного интеллекта в политике.
Опасность цифрового голоса
Некоторые избиратели штата утверждают, что получили звонки от самого Президента США, призывающего их не голосовать на первичных выборах. В то время как остается неясным, кто прямо отвечает за эти обманные вызовы, две команды аудио экспертов указывают пальцем на ElevenLabs, стартап по клонированию голоса, чья технология, как полагают, стоит за мошенничеством.
Компания по безопасности Pindrop, специализирующаяся на идентификации синтетического звука, проанализировала звонки и нашла убедительные доказательства их связи с ElevenLabs или подобной системой. AI-инструменты компании, изначально предназначенные для аудиокниг и видеоигр, теперь могут быть использованы общественностью для клонирования голоса кого угодно, предоставив аудио-образец. Хотя ElevenLabs настоятельно рекомендует пользователям получать разрешение перед клонированием чьего-либо голоса, для не коммерческих целей, включая “политическую речь, вкладывающуюся в публичные дебаты”, они разрешают клонирование без разрешения.
В ответ на обвинения, генеральный директор ElevenLabs, Мати Станисевски, опубликовал заявление, подчеркивающее обязательство компании предотвращать злоупотребление аудио AI-инструментами и обещал сотрудничать с властями, чтобы принять меры против злоупотребления их технологией.
Вопросы и мифы о Deepfake
К сожалению, это не первый случай, когда инструменты ElevenLabs связывают с политической пропагандой Deepfake. В прошлом году было обнаружено, что аккаунты TikTok, использующие голоса, сгенерированные искусственным интеллектом, включая голос Барака Обамы, использовали технологию ElevenLabs для распространения теорий заговора. Эти инциденты подчеркивают темную сторону созданного искусственным интеллектом контента и вызывают опасения о необходимости регулирования в отрасли.
- Переход Японии от физических носителей Пока-пока гибкие дискеты и C...
- Представляем Apple Vision Pro смешанная реальность в очках с потенц...
- Калифорния рассматривает законопроект, предоставляющий родителям во...
На прошлой неделе, сексуально непристойные изображения дипфейк Тейлор Свифт разошлись вирусом, вызвав срочные меры интернет-платформы по блокировке поиска и ограничению распространения этих вредоносных изображений. В то время как дипфейки продолжают развиваться и представлять угрозу для частной жизни и репутации публичных лиц, требования о более строгом регулировании, подобные тем, которые высший чиновник Конгресса Том Кин, набирают обороты в попытке защитить индивидуумов от потенциального вреда, наносимого созданным искусственным интеллектом контентом.
Вглядываясь в будущее: Будущее дипфейков
В то время как рост дипфейков безусловно вызывает опасения, он также представляет возможность лучше понять и разрешить вызовы, создаваемые технологией искусственного интеллекта. Происшествия, связанные с инструментами ElevenLabs, подчеркивают неотложную необходимость в регулирующих структурах, которые находят баланс между защитой индивидуумов от вреда и развитием новаторства в области искусственного интеллекта.
По мере того, как технология продолжает развиваться, фундаментально важно для законодателей, экспертов отрасли и всего общества быть в курсе новых тенденций и предвкушать потенциальные риски. Инвестируя в исследования и разрабатывая эффективные меры безопасности, мы можем смягчить риски, связанные с дипфейками, и использовать мощь технологии искусственного интеллекта для создания позитивных изменений.
🤔 Вопросы и ответы
В: Как можно регулировать технологию дипфейков? О: Регулирование технологии дипфейков требует комплексного подхода, включающего юридические рамки, технологические достижения и общественное сознание. Законодатели должны принимать законы, наказывающие злонамеренное использование дипфейков, сохраняя свободу выражения. Технические решения, такие как алгоритмы обнаружения дипфейков и методы аутентификации, могут помочь в идентификации поддельного контента. Кроме того, важно обучать общественность о существовании и потенциальных опасностях дипфейков для обеспечения ответственного потребления и распространения цифровых медиа.
В: Можно ли использовать технологию дипфейков в полезных целях? О: Несмотря на то, что технология дипфейков привлекает внимание своей способностью обманывать и манипулировать, она также имеет потенциал применения в положительных целях. Например, в индустрии развлечений дипфейки могут использоваться для оживления исторических фигур в фильмах или создания реалистичных виртуальных персонажей. Более того, технология обладает перспективами в медицине, где она может использоваться для улучшения коммуникации с пациентами и усиления речевой терапии для людей с нарушениями коммуникации.
Вопрос: Как люди могут защитить себя от мошенничества с deepfake?
Ответ: Чтобы защитить себя от стать жертвой мошенничества с deepfake, важно относиться к цифровому контенту скептически. Проверяйте источник любых подозрительных аудио- или видеосообщений и воздерживайтесь от распространения непроверенной информации. Будьте осторожны при предоставлении личной информации по телефону или через другие средства связи. Используйте надежные практики безопасности, такие как двухфакторная аутентификация и регулярное обновление паролей. Также полезно быть в курсе последних тенденций deepfake и уметь распознавать признаки манипуляции, чтобы избежать попадания в цель.
Ссылки
- Tech Palestine Launches to Provide Tools to Help Support Palestinians (TechCrunch)
- Wired Headphones in Mini Revival (ENBLE)
- Boeing 737 Max Crisis Reignites Arguments on Infant Safety in Planes (ENBLE)
- Startup Uses AI to Give Speech-Impaired People Voices Back (ENBLE)
- YC’s Tom Blomfield to Talk About Raising Money and Tech Regrets (TechCrunch)
James Jones
Фрилансер-журналист
Джеймс Джонс – опытный журналист, ведущий подкастер и специалист по цифровому издательству с более чем 10-летним опытом создания увлекательного контента для различных онлайн-изданий в сфере спорта и технологий. После работы в ведущих онлайн-изданиях и выступлений на известных медиа-ресурсах, Джеймс привносит в свои статьи на ENBLE.com обширные знания и опыт. С дипломом по журналистике и богатым портфолио достижений, Джеймс продолжает информировать читателей о последних новостях отрасли.
Связаться с Джеймсом в LinkedIn
Понравилась статья? Поделитесь своими мыслями и распространите информацию в социальных сетях! Обсудим влияние технологии deepfake на политику и будущее искусственного интеллекта в нашем обществе. 📢🌐
Примечание: В статье присутствуют оригинальные изображения.
