OpenAI работает над инструментом для обнаружения сгенерированных искусственным интеллектом изображений DALL-E 3.
OpenAI разрабатывает инструмент для выявления сгенерированных искусственным интеллектом изображений DALL-E 3.
OpenAI работает над инструментом для проверки изображений, созданных DALL-E 3, своим генератором изображений на основе искусственного интеллекта.
На мероприятии Tech Live The Wall Street Journal во вторник главный технический директор OpenAI Mira Murati сообщила, что компания разрабатывает технологию для определения, было ли изображение создано DALL-E 3. Инструмент является “почти на 99% надежным”, сказала Murati в интервью. Однако он все еще проходит внутренние испытания. Мура́ти не поделилась подробностями о выпуске такого инструмента, но на странице DALL-E 3 на сайте OpenAI было сказано, что в ближайшее время будут опубликованы дополнительные сведения об инструменте, который называется “происхожденческим классификатором”.
Развитие изображений, созданных искусственным интеллектом, вызывает беспокойство по поводу распространения дезинформации и дипфейков. Инструменты, такие как DALL-E 3 (доступны для пользователей ChatGPT Plus), Midjourney, Stable Diffusion, Adobe Firefly и генератор изображений на основе искусственного интеллекта Shutterstock, а также бесплатные чат-боты, такие как Bing Image Creator и SGE от Google, уже способны создавать убедительные фотореалистичные изображения или скоро смогут это делать. Компании, предлагающие такие инструменты, защищаются от негативных последствий, добавляя водяные знаки или блокируя пользователей от создания изображений с известными людьми или использования узнаваемой личной информации.
Уже сейчас дипфейки выглядят настолько реалистично, что их распространение может иметь реальные последствия. Фальшивое изображение горящего Пентагона в мае этого года вызвало мгновенный спад на фондовом рынке. В начале октября актер Том Хэнкс опубликовал в Instagram сообщение, в котором говорилось, что у него нет ничего общего с дипфейком, в котором он рекламирует страховку на зубы. То, что раньше считалось гипотетической проблемой, стало реальностью, и нам необходимы инструменты и меры безопасности, чтобы предотвратить превращение дипфейков в серьезную угрозу.
- Группы по криптовалютам Gemini, Genesis и DCG подали в суд на сумму...
- OpenAI’s DALL-E 3 теперь доступен для пользователей ChatGPT P...
- Пять глаз сталкиваются с Китаем из-за кражи интеллектуальной собств...
