Сеть криптоботов, работающая на основе ChatGPT, была обнаружена на X

Криптоботная сеть на основе ChatGPT обнаружена на X

X, социальная платформа, принадлежащая Илону Маску и ранее известная как Twitter, имеет серьезную проблему с фейковыми аккаунтами. Распространение ботов в социальной сети было признано самим Маском, который назвал это основной причиной его первоначальной попытки отказаться от приобретения компании.

И новые исследования, проведенные Обсерваторией социальных медиа Индианского университета в Блумингтоне, представляют хорошую картину одной из таких сетей ботов, которая была задействована на X. Профессор Филиппо Менцер вместе со студентом Кай-Чен Янгом недавно опубликовали исследование, касающееся ботнета под названием Fox8, согласно ENBLE, которые первыми сообщили о данном исследовании.

Исследователи обнаружили сеть, состоящую как минимум из 1,140 фейковых аккаунтов Twitter только в прошлом мае, которые постоянно публиковали твиты, содержащие ссылки на ряд спамных безымянных онлайн-сайтов “новостей”, которые просто перепечатывали материалы, собранные с легитимных источников.

Абсолютное большинство публикаций, опубликованных этой сетью бот-аккаунтов, были связаны с криптовалютой и часто включали хэштеги, такие как #bitcoin, #crypto и #web3. Аккаунты также часто делали ретвиты или отвечали на популярных пользователей криптовалют в Twitter, таких как @WatcherGuru, @crypto и @ForbesCrypto.

Как бот-сети, состоящей из более чем тысячи аккаунтов, удавалось так много постить? Она использовала искусственный интеллект, в данном случае, конкретно ChatGPT, чтобы автоматизировать то, что публиковалось. Целью этих постов, созданных искусственным интеллектом, казалось быть спамить Twitter как можно большим количеством ссылок, связанных с криптовалютой, в надежде, что они будут замечены как можно большим количеством легитимных пользователей, которые, в свою очередь, кликнут на эти ссылки.

• 5 причин, по которым вы должны купить смартбраслет вместо умных часов
• Display Samsung ViewFinity S9 5K будет выпущен 28 августа, предвари...
• Приложение Apple Support теперь предлагает больше информации о ближ...

Согласно ENBLE, X аккаунты в конечном итоге были приостановлены X после публикации исследования в июле. Менцер говорит, что его исследовательская группа раньше информировала Twitter о таких ботнетах, но перестала делать это после приобретения компании Маском, так как они обнаружили, что компания “не очень отзывчива” в этом вопросе.

Хотя инструменты искусственного интеллекта, такие как ChatGPT, помогли владельцу ботнета создавать контент для тысяч аккаунтов, это также стало его конечной гибелью.

Согласно опубликованному исследованию, исследователи заметили определенную закономерность с этими аккаунтами: они публиковали твиты, начинающиеся со слов “как модель языка ИИ”. Пользователи ChatGPT будут знакомы с этой фразой, так как помощник ИИ часто добавляет ее к любому выводу, который, по его мнению, может иметь потенциальные проблемы из-за того, что он просто является моделью языка ИИ.

Исследователи указали, что, если бы не этот “небрежный” промах, ботнет, вероятно, мог бы продолжать существовать незамеченным.