Новый инструмент Google может обнаруживать изображения, созданные искусственным интеллектом, но все не так просто.
Google's new tool can detect AI-generated images, but it's not that simple.
Инструмент может обнаруживать изображения, созданные искусственным интеллектом, даже после редактирования, изменения цветов или добавления фильтров.
Изображения, созданные с помощью инструментов искусственного интеллекта, становятся все труднее отличить от тех, которые создают люди. Изображения, созданные искусственным интеллектом, могут распространять дезинформацию в огромных масштабах, что приводит к неразумному использованию ИИ. В этой связи Google представил новый инструмент SynthID, который может отличать изображения, созданные искусственным интеллектом, от созданных людьми.
Инструмент, созданный командой DeepMind, добавляет незаметный цифровой водяной знак к изображениям, созданным искусственным интеллектом – как подпись. Тот же инструмент позже может обнаружить этот водяной знак, чтобы указать, какие изображения были созданы ИИ, даже после модификаций, таких как добавление фильтров, сжатие, изменение цветов и других.
Также: Как Google и UCLA подталкивают ИИ выбирать следующее действие для лучшего ответа
SynthID объединяет две модели глубокого обучения в один инструмент. Одна из них визуально добавляет водяной знак к исходному контенту незаметным образом для глаза, а другая идентифицирует изображения с водяным знаком.
- OpenAI выпускает новое руководство для преподавателей по использова...
- «Tesla снизила цены на свои электромобили Model S и X»
- Meta не соблюдает свою собственную политику в отношении политическо...
В настоящее время SynthID не может обнаружить все изображения, созданные искусственным интеллектом, так как ограничивается теми, которые были созданы с помощью инструмента Imagen от Google для создания изображений на основе текста. Но это является признаком многообещающего будущего для ответственного использования искусственного интеллекта, особенно если другие компании применят SynthID в своих инструментах генерации ИИ.
Также: ИИ-суммаризация поиска Google теперь указывает вас на его онлайн-источники
Инструмент будет постепенно внедряться у клиентов Vertex AI, использующих Imagen, и доступен только на этой платформе. Однако Google DeepMind надеется скоро сделать его доступным и в других продуктах Google и для сторонних разработчиков.
