WormGPT Что нужно знать о злокачественном кузене ChatGPT
WormGPT Как узнать все об опасном родственнике ChatGPT
Когда ChatGPT стал доступен для широкой публики в 2022 году, этот чат-бот на основе искусственного интеллекта завладел миром.
Программа разработана компанией OpenAI, компанией по искусственному интеллекту и исследованиям. ChatGPT является инструментом обработки естественного языка, способным отвечать на запросы и предоставлять информацию, полученную из наборов данных. Он стал ценным инструментом для сбора, анализа и написания информации на ходу для миллионов пользователей по всему миру.
Специальная функция
Лучшие практики кибербезопасности для защиты ваших цифровых активов
Признайтесь, ваши личные и деловые данные находятся под угрозой 24/7 — и защита этих цифровых активов при онлайн-покупках, банкинге и играх остается на первом месте. Итак, вот хорошая новость: возможностей, ориентированных на безопасность, больше, чем когда-либо. Последние справочники по кибербезопасности ENBLE предлагают практические советы по безопасности и продуктивности уже сегодня в постоянно изменяющейся угрозовой обстановке завтра.
Первая публичная доступная версия ChatGPT имела серьезное ограничение: он не мог получать доступ к Интернету. Однако платные абоненты теперь могут использовать плагины для браузера, чтобы позволить чат-боту получать доступ к веб-сайтам в реальном времени, и он будет предоставлять ссылки на источники, использованные для своих ответов.
В то время как некоторые эксперты считают, что эта технология может достичь уровня Интернета расстройства, другие отмечают, что ChatGPT проявляет “уверенную неточность”. Множество студентов было поймано при использовании этого инструмента для плагиата в курсовых работах. Если наборы данных не будут проверены, ChatGPT и другие большие модели языка (LLMs) могут стать неосознанными распространителями дезинформации и пропаганды.
- Доклад Apple продолжает исследовать возможности здоровья Vision Pro.
- Сделки Apple Watch Ultra 1 падает до самой выгодной цены в $629 ($1...
- «Новые ‘Страшно быстрые’ Mac’и могут выйти в сред...
Также: Лучшие чат-боты на основе искусственного интеллекта
Действительно, теперь, когда чат-бот может получать доступ к веб-сайтам, будет интересно посмотреть на долгосрочное влияние на правдоподобность его результатов и ответов.
Также существуют регуляторные проблемы, и американская Федеральная торговая комиссия (FTC) расследует обработку персональной информации компанией Open AI и данные, используемые для создания ее языковой модели.
Также: На сколько прогрессирует генеративный искусственный интеллект по сравнению с тем, что может ChatGPT. Все, что нужно знать о технологических достижениях
Однако помимо проблем защиты данных, всякий раз, когда появляется новая технологическая инновация, появляются и пути злоупотребления. Было лишь вопросом времени, когда чат-боты и большие модели языка стали использоваться в злонамеренных целях — и некоторые инструменты уже есть на рынке: WormGPT и FraudGPT.
Что такое WormGPT?
13 июля исследователи кибербезопасности компании SlashNext опубликовали пост в блоге, сообщив о существовании WormGPT — инструмента, продвигаемого к продаже на хакерском форуме.
Согласно сообщению пользователя форума, проект WormGPT нацелен на то, чтобы стать “альтернативой” ChatGPT для нелегальных целей, “одним из тех, которые позволяют вам делать всевозможные незаконные вещи и легко продавать их в Интернете в будущем”.
Также: Как найти и удалить программное обеспечение-шпион с вашего телефона
SlashNext получил доступ к инструменту, описываемому как модуль ИИ на основе языковой модели GPT-J. WormGPT, как утверждается, был обучен данными из источников, включающих информацию, связанную с вредоносным ПО, но конкретные наборы данных известны только автору WormGPT.
Возможно, WormGPT может генерировать вредоносный код или убедительные фишинговые электронные письма.
Для чего используется WormGPT?
WormGPT описывается как “похожий на ChatGPT, но без этических границ и ограничений”.
ChatGPT имеет набор правил, позволяющих попытаться предотвратить неправильное использование чатбота. Среди них отказ от выполнения задач, связанных с преступностью и вредоносным ПО. Однако пользователи постоянно находят способы обойти эти ограничения при правильных подсказках.
Также: Этика генеративного ИИ: как мы можем использовать эту мощную технологию
Исследователи смогли использовать WormGPT для “создания электронной почты, предназначенной для давления на не подозревающего менеджера по счетам, чтобы он заплатил фальшивый счет.” Команда была удивлена, насколько хорошо языковая модель справилась с задачей, назвав результат “поразительно убедительным и тактично хитрым.”
Хотя они не сказали, пробовали ли они услугу по созданию вредоносного ПО, можно предположить, что ИИ-бот мог бы это сделать, учитывая отсутствие ограничений ChatGPT.
Что ждет WormGPT в будущем?
По словам эксперта по безопасности Брайана Кребса, WormGPT является разработкой португальского разработчика, известного как “Last”, которому двадцать лет. Система использовалась примерно 200 клиентами, и из-за интереса со стороны СМИ к чатботу, Last, кажется, пытался изменить концепцию проекта.
Также: Кибербезопасность 101: как защитить свою конфиденциальность и быть в безопасности в Интернете
Last сказал, что хочет изменить беседу с злонамеренной на безцензурную, и для этого в WormGPT внедряются ограничения. Last сказал Кребсу:
“Все, что связано с убийствами, наркоторговлей, похищениями, детской порнографией, вирусными штаммами-вымогателями и финансовой преступностью. Мы работаем над блокировкой BEC тоже, на данный момент это все еще возможно, но большинство времени это будет неполноценно, потому что мы уже добавили некоторые ограничения. Наша цель – пометить WormGPT как безцензурный ИИ, а не черные шляпы.”
Однако на следующий день после публикации отчета в сообществе разработчиков Telegram для WormGPT был закрыт. Может быть, проект все еще продолжается или будет переименован, но время покажет. Разработчик сказал:
“В конце концов, WormGPT – это не что иное, как неограниченный ChatGPT. Каждый в Интернете может воспользоваться известной техникой джейлбрейка и достичь того же или лучшего результата с помощью джейлбрейкнутых версий ChatGPT.”
А что насчет FraudGPT?
Согласно исследованию Trustwave, замечательный злонамеренный LLM появился на рынке в июле 2023 года. Известный как FraudGPT, разработчик рекламирует услугу на Telegram и Dark Web как “неограниченную альтернативу для ChatGPT”.
Также: 9 главных угроз безопасности мобильных устройств и как их избежать
Разработчик утверждает, что FraudGPT отлично подходит для изучения хакерства, написания вредоносного ПО и вредоносного кода, создания фишингового контента и поиска уязвимостей.
Невозможно проверить заявления разработчика относительно чатбота, который предлагается на подписку.
Являются ли WormGPT и FraudGPT одними и теми же, что и ChatGPT?
Нет. ChatGPT разработан OpenAI, законной и уважаемой организацией.
WormGPT и FraudGPT не являются их творениями. Вместо этого они служат примером того, как киберпреступники могут черпать вдохновение из передовых интеллектуальных AI-чатботов для создания собственных вредоносных инструментов на основе языка истройств.
Увидим ли мы в будущем такие инструменты, как WormGPT и FraudGPT?
Даже в руках новичков и обычных мошенников, модели естественного языка могут превратить базовое и легко предотвратимое мошенничество с использованием рыбалки, а также мошенничество с фальсификацией электронной почты, в сложные операции, более вероятные к успеху. Не вызывает сомнений тот факт, что там, где можно заработать деньги, киберпреступники будут искать пути, и инструменты, подобные WormGPT, являются только началом нового ряда продуктов, предназначенных для торговли на подпольных рынках.
Кроме того: 6 навыков, которыми нужно обладать, чтобы стать инженером AI-запросов
Как установили исследователи, некоторые угрозы пытаются заработать на вредоносных интеллектуальных AI-чатботах, предлагая модели подписки. Цены варьируются от 100 долларов в месяц до тысяч долларов за частные настройки.
Мы также должны учесть, что исследователи продемонстрировали, как обойти преграды безопасности в ChatGPT, Bard и Claude. Даже если вредоносные интеллектуальные модели AI не распространяются дальше нескольких моделей на подпольном рынке, киберпреступники все же могут использовать законные сервисы для своих собственных целей.
Что говорят регуляторы о злоупотреблении AI-инструментами?
- Европол: В докладе 2023 года “Воздействие крупных интеллектуальных языковых моделей на правоохранительную деятельность” Европол заявил, что “будет важно следить за […] развитием, поскольку темные интеллектуальные LLM-модели (крупные языковые модели) с обучением, направленным на упрощение вредоносного вывода, могут стать ключевой бизнес-моделью преступности будущего. Это представляет новое испытание для правоохранительных органов, поскольку злоумышленникам стало легче, чем когда-либо раньше, совершать преступные действия без обязательных предварительных знаний”.
- Федеральная торговая комиссия: ФТК проводит расследование OpenAI, создателя ChatGPT, в отношении политики использования данных и неточностей.
- Национальное агентство по преступлениям Великобритании (NCA): NCA предупреждает о том, что ИИ может стать причиной взрыва рисков для молодежи и злоупотребления.
- Комиссия по информации Великобритании (ICO): ICO напомнило организациям, что их инструменты искусственного интеллекта все еще подчиняются существующему законодательству о защите данных.
Можно ли использовать ChatGPT в незаконных целях?
Нельзя без скрытых тактик, но с правильными подсказками многие модели естественного языка могут быть убеждены выполнять определенные действия и задачи.
Также: 6 простых правил кибербезопасности, которые можно применить уже сейчас
Например, ChatGPT может составлять профессиональные электронные письма, сопроводительные письма, резюме, заказы на покупку и многое другое. Это одно только может исключить некоторые наиболее распространенные признаки фишингового письма: ошибки в написании, проблемы с грамматикой и проблемы с вторичным языком. Это одно только может вызвать головную боль для компаний, пытающихся обнаружить и подготовить свой персонал к распознаванию подозрительных сообщений.
Исследователи SlashNext говорят: “киберпреступники могут использовать такую технологию для автоматизации создания высококачественных фальшивых электронных писем, персонализированных для получателя, тем самым увеличивая шансы на успех атаки.”
Так что, даже если LLM отклоняет очевидно незаконное предложение, всё равно есть способы, которыми киберпреступники могут воспользоваться этой технологией.
Также: 7 продвинутых советов по написанию подсказок для ChatGPT, которые вам нужно знать
Для пошаговых инструкций по использованию ChatGPT для законных целей ознакомьтесь с руководством ENBLE по ссылке как начать использовать ChatGPT.
Сколько стоит ChatGPT?
Базовая модель ChatGPT можно использовать бесплатно. Инструмент может отвечать на общие запросы, писать контент и код или генерировать подсказки от креативных историй до маркетинговых проектов.
Также: Как получить доступ, установить и использовать плагины AI ChatGPT-4 (и почему это стоит сделать)
Подписка ChatGPT Plus позволяет использовать чат.openai.com, иметь приоритет для запросов (сокращая время ожидания) и включает расширенные функции за $20 в месяц. Также доступна версия ChatGPT для предприятий.
