Генератор изображений на основе ИИ Midjourney запрещает запросы, связанные с Трампом и Байденом.
Эта задача модерации довольно сложная.
“`html
Во время поездки платформы социальных медиа осторожно обрабатывают посты Джо Байдена и Дональда Трампа из-за опасений распространения дезинформации по выборам.
Изображение: [Вставьте соответствующее изображение здесь]
С целью сдерживания распространения дезинформации и манипуляций перед президентскими выборами 2024 года Midjourney, AI генератор изображений, известный созданием фейковых изображений, объявил, что запрещает изображения, связанные как с Дональдом Трампом, так и с Джо Байденом. Это решение принято после того, как эксперты и защитники выразили беспокойство по поводу использования технологии ИИ для влияния на избирателей.
Тесты, проведенные Associated Press, показали, что запросы на изображения «Трамп и Байден, пожимающие друг другу руки на пляже», вызывали предупреждение «Обнаружено запрещенное предложение». Генеральный директор Midjourney Дэвид Холт заявил, что хотя его не особенно интересует политическая речь, он также не хочет тратить все свое время на ее контроль. Он предвидит будущее, где злоумышленники смогут создавать еще более сложные дипфейки и чатботы, что представляет собой вызов для модерации.
Midjourney не единственный инструмент ИИ, принимающий меры для противодействия распространению проблемных изображений. Bing Image Generator от Microsoft ранее пытался запретить запросы, связанные с «близнецовыми башнями», чтобы предотвратить создание мемов, связанных с атаками 11 сентября.
- Индекс инноваций ENBLE искусственный интеллект вновь лидирует!
- 🚀 Microsoft Copilot Pro Разблокировка силы чат-ботов AI
- Позднее появление Apple на вечеринке Generative AI.
Более того, продвинутый генератор изображений OpenAI, DALL-E 3, внедрил более строгие политики использования и многоуровневую систему безопасности для ограничения создания насильственного, ненавистнического или взрослого контента. DALL-E 3 также отклоняет запросы на генерацию изображений реальных людей, включая политических кандидатов.
Эти действия подчеркивают растущее осознание отрасли потенциального злоупотребления технологией ИИ и необходимость принятия проактивных мер для борьбы с ее негативными последствиями. Ранее OpenAI обнаружила и прекратила учетные записи злоумышленников иностранных государственных органов, использующих ее генеративные технологии ИИ.
Содержание вопросов и ответов:
В: Являются ли генераторы изображений ИИ, такие как Midjourney, значительной угрозой во время выборов?
О: Генераторы изображений ИИ действительно могут представлять угрозу во время выборов. Обладая способностью создавать высокореалистичные фейковые изображения, злоумышленники могут потенциально использовать их для распространения дезинформации, манипулирования общественным мнением и влияния на исход выборов.
В: Как генераторы изображений ИИ обнаруживают и предотвращают создание проблемных изображений?
О: Генераторы изображений ИИ используют различные техники для обнаружения и предотвращения создания проблемных изображений. Среди них – фильтры ключевых слов, списки запретов, сигналы о злоупотреблениях и системы безопасности, которые ограничивают возможность генератора создавать насильственный, ненавистнический или взрослый контент.
В: Могут ли генераторы изображений ИИ полностью устранить создание фейковых изображений?
О: Хотя генераторы изображений ИИ могут предпринимать меры по борьбе с созданием фейковых изображений, сложно полностью устранить производство такого контента. Злоумышленники постоянно находят способы обойти ограничения и создавать убедительные дипфейки. Необходимы постоянные исследования и развитие для того, чтобы оставаться впереди этих эволюционирующих техник.
В: Каким образом физические лица и платформы могут защитить себя от влияния манипулированными изображениями во время выборов?
О: Для защиты себя от влияния манипулированными изображениями физические лица и платформы должны оставаться бдительными и критически оценивать подлинность изображений, с которыми они сталкиваются. Проверка фактов, полагание на доверенные источники и продвижение цифровой грамотности могут помочь бороться с распространением дезинформации.
Эти недавние действия Midjourney, Microsoft и OpenAI отражают развивающийся ответ отрасли на злоупотребление технологией ИИ. Устанавливая строгие руководящие принципы и принимая передовые системы обнаружения, эти компании стремятся защитить целостность выборов и минимизировать влияние фейковых изображений.
Поскольку технология ИИ продолжает развиваться, крайне важно как для профессионалов отрасли, так и для регуляторов активно решать ее этические аспекты и разрабатывать всеохватывающие решения. Только через объединенные усилия мы сможем использовать потенциал ИИ, защищаясь от его злоупотребления.
Ссылки: 1. Microsoft Upgrades Copilot AI with Better Suggested Prompts 2. Apple Releases Safari Technology Preview with Bug Fixes and Performance Improvements 3. Victims of Nonconsensual Deepfakes Arm Themselves with Copyright Law 4. Ray-Ban Meta Smart Glasses: New AI Powers Are Impressive and Worrying 5. AI’s Serve: Garbage In, Garbage Questions Out
“`
Нашли ли вы эту статью информативной? Поделитесь ею со своими друзьями, чтобы распространить информацию о принимаемых мерах по борьбе со спредингом фейковых изображений во время выборов!
Автор: Ваше Имя
