Темная сторона генерации изображений с помощью открытого исходного кода в области искусственного интеллекта
Открытые инструменты позволяют любому создавать искусство, сгенерированное искусственным интеллектом. Они также были использованы для производства неконсенсуальной глубокой подделки порнографии.
“`html
Проблемы с генерацией изображений на основе открытого исходного кода
Источник изображения: Реувен Коэн
Будь то хмурое высокочеткое лицо шимпанзе или психоделическая, розово-красная двойница самого себя, Реувен Коэн умеет привлекать внимание людей, используя изображения, созданные искусственным интеллектом. Но за захватывающими визуальными эффектами скрывается более темная сторона технологии, о которой многие не подозревают.
Технология генерации изображений на основе открытого исходного кода разблокировала волну свободного экспериментирования и творчества. Однако она также предоставила возможность создания и распространения явно нежелательных и несогласованных изображений, особенно нацеленных на женщин. Эта технология, способная быть как омерзительной, так и плохой, стала основой для порнографии глубокого фейка и способствует разработке скандальных и домогательных приложений.
Сообщество открытого исходного кода предприняло усилия, чтобы предотвратить эксплуатацию искусственного интеллекта, но контроль над безудержным характером программного обеспечения с открытым исходным кодом почти невозможен. Злоупотребления фальшивыми изображениями и порнографией без согласия стали расцветать, и это проблема, которую нельзя преуменьшить или оправдать.
- 💻 Nvidia намекает на блокбастер GPU B100 уже скоро! 💥
- Новый MacBook Air M1 от Apple революционный шаг в гонке за искусств...
- Распродажа Microsoft Surface не упустите эти потрясающие скидки! 😍💻
Генри Айдер, исследователь, специализирующийся на вредном использовании генеративного искусственного интеллекта, утверждает, что программное обеспечение для генерации изображений с открытым исходным кодом дало возможность создания и распространения явно нежелательных и несогласованных изображений. Широкий доступ к моделям с открытым исходным кодом и отсутствие ограничений в них затрудняют предотвращение их злоупотребления.
Хотя некоторые модели искусственного интеллекта специально предназначены для скандальных и домогательных целей, многие инструменты могут служить как легитимным, так и злонамеренным целям. Например, популярная программа для обмена лицами с открытым исходным кодом используется профессионалами в индустрии развлечений, но также является “инструментом по выбору для злоумышленников”, создающих несогласованные глубокие фейки.
Стартапы, такие как Stability AI, разработали генераторы изображений высокого разрешения с ограждениями, чтобы предотвратить создание явно нежелательных изображений и злонамеренное использование. Однако, даже когда установлены ограждения, размещение исходного кода в открытом доступе может обойти эти ограничения. Более маленькие модели искусственного интеллекта, известные как LoRA, дополнительно позволяют настраивать и стилизовать вывод изображений, включая сексуальные акты и похожести на знаменитостей.
Проблема усугубляется на форумах, таких как 4chan, известных своим нелицензированным контентом. Существуют страницы, посвященные несогласованным глубоким фейкам порнографии, на которых представлены публично доступные программы и модели искусственного интеллекта, специально разработанные для сексуальных изображений. Форумы для взрослых завалены изображениями, созданными искусственным интеллектом, несогласованными нюдами реальных женщин, от порноактрис до известных актрис, таких как Кейт Бланшетт.
Некоторые сообщества в сфере создания изображений с помощью искусственного интеллекта начинают противодействовать распространению порнографического и злонамеренного контента. Сами создатели беспокоятся о том, что их программное обеспечение может получить репутацию в области несексуальных изображений и призывают других сообщать о явно нежелательных изображениях и изображениях несовершеннолетних.
Для усложнения ситуации появились новые методы, такие как InstantID, которые делают создание глубоких фейков еще проще. Техника, разработанная исследователями из Пекинского университета и Xiaohongshu, позволяет заменять лица на изображениях всего одним примером, снижая требования к обработке и подготовке. Хотя исследователи выразили опасения относительно потенциала модели с образцами для оскорбительных или культурно несоответствующих изображений, другие пропагандируют ее как технологию, способствующую “несенсурированному копированию лиц на основе открытого исходного кода”.
Упрощенный процесс создания глубоких фейков с использованием таких методов вызывает серьезные опасения. Коэн отмечает, что теперь любой может создать фейковое изображение кого-то в компрометирующей позиции, делая это простым и доступным для всех. Потенциал для злоупотреблений тревожен.
Хотя некоторые создатели инструментов и программного обеспечения отговаривают от злонамеренного использования, они часто чувствуют себя бессильными в предотвращении его. Другие активно создают препятствия нежелательным сценариям использования, пропагандируя этичные инструменты для искусственного интеллекта, такие как “охрана” изображений для защиты от редактирования генеративным искусственным интеллектом и контроль доступа к загруженным моделям.
Технологические решения, такие как ограничение поставки, лицензирование программного обеспечения с открытым исходным кодом и контрактные обязательства для коммерческих платформ, могут не полностью устранить злоупотребления, но могут служить сдерживающими мерами. Инициативы на уровне основ, установление норм и стандартов сообщества также могут влиять на поведение и формировать то, что считается приемлемым.
Для борьбы с проблемой несогласованной порнографии с использованием искусственного интеллекта сотрудничество между стартапами в области искусственного интеллекта, разработчиками с открытым исходным кодом, предпринимателями, правительствами, женскими организациями, академиками и гражданским обществом крайне важно. Более согласованный подход может помочь предотвратить злоупотребления и сделать лиц ответственными. Речь идет о создании онлайн-сообщества, активно противодействующего распространению явно нежелательного и несогласованного контента.
Последствия злоупотребления на основе изображений часто разрушительны и в основном затрагивают женщин. Исследования показывают, что глубокие фейки в основном являются несогласованной порнографией, прежде всего нацеленной на женщин. Возможность случайных лиц навязывать себя и использовать других вызывает ужас, и это проблема, требующая внимания и действий.
Пока мы навигируем в постоянно меняющемся мире искусственного интеллекта и технологий, нам необходимо оставаться бдительными в отношении этических проблем и потенциала злоупотребления. Важно находить баланс между инновациями и ответственным использованием, чтобы создать безопасный мир для всех.
“““html
Вопросы и ответы
Q: Можно ли управлять свободным программным обеспечением для генерации изображений с открытым исходным кодом?
Ответ: Управление свободным программным обеспечением для генерации изображений с открытым исходным кодом представляет определенные трудности из-за его децентрализованной природы. Несмотря на предпринимаемые усилия для предотвращения злоупотреблений, свободный доступ к исходному коду делает практически невозможным полное контролирование того, как технология используется. Однако внедрение технических усовершенствований и установление общественных норм могут помочь смягчить некоторые проблемы.
Q: Существуют ли меры для предотвращения создания и распространения эксплицитных и неконсенсуальных изображений?
Ответ: Некоторые стартапы и онлайн-сообщества активно противодействуют злонамеренному использованию и создают инструменты для борьбы с нежелательными применениями генеративного искусственного интеллекта. Разрабатываются этические инструменты, такие как “защита изображения”, чтобы защитить изображения от редактирования генеративным искусственным интеллектом. Однако эффективность этих мер зависит от готовности пользователей соблюдать рекомендации и возможности обеспечить их выполнение.
Q: Как мы можем решить проблему неконсенсуальной порнографии с использованием искусственного интеллекта?
Ответ: Решение проблемы неконсенсуальной порнографии с использованием искусственного интеллекта требует сотрудничества различных заинтересованных сторон, включая стартапы по искусственному интеллекту, разработчиков с открытым исходным кодом, правительства, женские организации, академические круги и гражданское общество. Посредством стимулирования диалога и создания партнерств можно исследовать возможные сдерживающие меры, не препятствуя доступности моделей с открытым исходным кодом. Сотрудничество является ключом к созданию безопасного онлайн-сообщества.
Q: Каковы потенциальные последствия неконсенсуальной порнографии с использованием искусственного интеллекта?
Последствия неконсенсуальной порнографии с использованием искусственного интеллекта могут быть разрушительными, особенно для целевых лиц. Психологическое и эмоциональное воздействие может быть серьезным и привести к длительной травме и вреду. Важно признать вредные последствия и принять меры для предотвращения дальнейшего вреда.
🔗Ссылки: 1. Пожалуйста, перестаньте антропоморфизировать искусственный интеллект, рассматривая его как автономную жизненную форму 2. Быстрый доступ к недавно просмотренным файлам и папкам в macOS 3. Политика OpenAI получила тихое обновление, убрав запрет на военные приложения 4. Генератор изображений искусственного интеллекта Google наконец-то стал доступен для публики. Вот как его попробовать 5. Substack обязуется активно удалять нацистский контент и гарантировать последствия для TechCrunch 6. Baidu отрицает связи с сообщенной китайской военной подготовкой с чатботом GenAI 7. Децентрализованная социальная сеть Farcaster пытается достичь массового распространения с помощью техник веб 2.0 8. Председатель Samsung Ли оправдан по финансовым преступлениям в ходе слияния компаний 9. Разгадывание плана Reddit по “тренировке” моделей искусственного интеллекта 10. Законодатели пересматривают Закон о безопасности детей в интернете для учета обеспокоенности защитников прав ЛГБТQ
“`
