Боты, помогаемые ChatGPT, распространяются в социальных сетях
Bots powered by ChatGPT are spreading in social networks
Для многих пользователей прокрутка ленты социальных медиа и уведомлений – это как скользить по мусорной яме с нежелательным контентом. В новом исследовании было выявлено 1 140 искусственно интеллектом управляемых ботов, распространяющих дезинформацию на X (ранее известной как Twitter) о криптовалюте и блокчейне.
Но бот-аккаунты, публикующие такой тип контента, могут быть сложны для обнаружения, как выяснили исследователи из Индианского университета. Бот-аккаунты использовали ChatGPT для создания своего контента и были сложны для отличия от реальных аккаунтов, что делает эту практику опаснее для жертв.
Также: Вы можете опробовать многоязычный речевой и текстовый переводчик AI от Meta. Вот как это работает
У искусственного интеллекта, управляемого ботами, были профили, которые напоминали профили реальных людей, с фотографиями и биографиями или описаниями о криптовалюте и блокчейне. Они регулярно публиковали контент, созданный с помощью искусственного интеллекта, публиковали украденные изображения от своего имени, а также делали ответы и ретвиты.
Исследователи обнаружили, что 1 140 Twitter-аккаунтов-ботов принадлежали к одной и той же вредоносной социальной ботсети, которую они назвали “fox8”. Ботсеть – это сеть связанных устройств или, в данном случае, аккаунтов, которыми централизованно управляют киберпреступники.
- Веб-сайт Meta’s Threads теперь доступен для всех.
- Тонкая настройка GPT-3.5 Turbo от OpenAI может сделать его таким же...
- Социальная сеть Threads расширяется до веб-версии.
Также: 4 вещи, которые может делать Claude AI, но не может ChatGPT
Генеративные боты на основе искусственного интеллекта стали лучше подражать поведению людей. Это означает, что традиционные и современные инструменты обнаружения ботов, такие как Botometer, теперь недостаточны. Эти инструменты испытывали трудности в определении и различении контента, созданного ботами, и контента, созданного людьми, в ходе исследования, но один выделялся: классификатор искусственного интеллекта OpenAI, который мог определить некоторые бот-твиты.
Как можно обнаружить аккаунты-ботов?
Twitter-аккаунты-боты проявляли похожие поведенческие паттерны, такие как подписка друг на друга, использование одних и тех же ссылок и хэштегов, публикация похожего контента и даже взаимодействие друг с другом.
Также: Новое приложение для социальных медиа “BeFake” призывает пользователей преобразовывать свои фотографии с помощью искусственного интеллекта
Исследователи изучили твиты Twitter-аккаунтов-ботов и нашли 1 205 самообнаруживающих твитов.
Из этого общего числа 81% содержали одну и ту же извинительную фразу:
“Простите, но я не могу выполнить этот запрос, так как это нарушает Политику OpenAI относительно создания вредоносного или неподходящего контента. Как языковая модель искусственного интеллекта, мои ответы всегда должны быть уважительными и подходящими для всех аудиторий.”
Использование этой фразы свидетельствует о том, что ботам указано создавать вредоносный контент, который противоречит политике OpenAI для ChatGPT.
Оставшиеся 19% использовали какую-то вариацию фразы “Как языковая модель искусственного интеллекта”, при этом 12% конкретно говорили: “Как языковая модель искусственного интеллекта, я не могу просматривать Twitter или получать доступ к определенным твитам для предоставления ответов.”
Также: ChatGPT против Bing Chat против Google Bard: какой лучший чат-бот на искусственном интеллекте?
Тот факт, что 3% твитов, размещенных этими ботами, содержали ссылку на один из трех веб-сайтов (cryptnomics.org, fox8.news и globaleconomics.news), был еще одним намеком.
Эти сайты выглядят как обычные новостные издания, но имеют явные признаки подозрительности, такие как то, что все они были зарегистрированы примерно в одно и то же время в феврале 2023 года, имеют всплывающие окна, которые побуждают пользователей устанавливать подозрительное программное обеспечение, все используют одну и ту же тему WordPress и имеют домены, которые разрешаются в один и тот же IP-адрес.
Вредоносные бот-аккаунты могут использовать методы самораспространения в социальных медиа, публикуя ссылки с вредоносным или заражаемым контентом, злоупотребляя и заражая контакты пользователя, кражей сессионных файлов cookie из браузера пользователей и автоматизацией запросов на подписку.
