Илон Маск объявляет о Grok, «бунтарском» искусственном интеллекте без строгих ограничений.
Илон Маск анонсирует Grok - аргументированный искусственный интеллект без жестких ограничений.
На прошлой неделе Илон Маск прилетел в Великобританию, чтобы раздуть существенный риск, создаваемый искусственным интеллектом. Через несколько дней он объявил, что его последняя компания, xAI, разработала мощный ИИ – с меньшим количеством ограничений, чем у конкурентов.
Модель ИИ, названная Grok (это название означает «понимать» в технологических кругах), “предназначена для ответа на вопросы с юмором и имеет дух бунтаря, поэтому, пожалуйста, не используйте ее, если вам не нравится юмор!” – говорится в объявлении на сайте компании. “Он также будет отвечать на острые вопросы, которые отвергаются большинством других систем искусственного интеллекта.”
В объявлении не объясняется, что означают “острые” или “бунтарские”, но большинство коммерческих моделей ИИ будет отказываться от генерации сексуально откровенного, насильственного или незаконного контента, и они разработаны таким образом, чтобы избегать выражения предрассудков, подхваченных из обучающих данных. Без таких ограничений все больше беспокоит факт того, что модель ИИ может помочь террористам разработать бомбу или привести к созданию продуктов, дискриминирующих пользователей на основе таких характеристик, как раса, пол или возраст.
На сайте xAI не указаны контактные данные, и отправленные на общие адреса электронные письма возвращались назад. Отправленное на пресс-адрес компании X электронное письмо получило автоматический ответ: “Сейчас занят, пожалуйста, проверьте позже”.
В объявлении xAI говорится, что Grok основан на языковой модели Grok-1, имеющей 33 миллиарда параметров. Компания говорит, что разработала Grok за два месяца, что по стандартам индустрии является относительно коротким временем, и также утверждает, что одним из основных преимуществ является ее “реальное знание о мире через платформу X”, или платформу, ранее известную как Twitter, которую Маск приобрел за 44 миллиарда долларов в 2022 году.
- Интенсифицированное израильское наблюдение поставило Западный берег...
- Большие технологические компании отказались от доверия и безопаснос...
- OpenAI хочет, чтобы каждый создал свою собственную версию ChatGPT
Стелла Бидерман, исследователь ИИ в проекте EleutherAI, с открытым исходным кодом, говорит, что заявления, сделанные в объявлении xAI, кажутся правдоподобными. Бидерман предполагает, что Grok будет использовать так называемое “увеличение получения данных” для добавления актуальной информации из Х к своему выводу. Другие передовые языковые модели делают это, используя результаты поиска в Интернете и другую информацию.
Крупные языковые модели за последний год показали поразительные способности, что было особенно подчеркнуто великолепным чат-ботом OpenAI, ChatGPT.
Эти модели питаются огромными объемами текста из книг и Интернета, а затем генерируют текст в ответ на запрос. Обычно их также обучают люди, чтобы они были менее склонны к производству оскорбительного, грубого или опасного материала и чтобы они более вероятно отвечали на вопросы таким образом, что казались бы разумными и правильными, хотя они все равно могут допускать ошибки и предвзятость.
Языковые модели, разработанные OpenAI, Google и стартапами, такими как Anthropic, Cohere и Inflection AI, обычно отказываются, например, давать советы о том, как совершать преступления, и отказываются от непристойного материала.
Из объявления xAI не ясно, был ли Grok обучен быть более открытым для запросов, которые считаются неподходящими для других моделей, или он просто не получил такого же вида вторичного обучения.
xAI опубликовал результаты нескольких показательных тестов, разработанных для оценки возможностей крупных языковых моделей. Андрей Барбу, научный сотрудник Массачусетского технологического института, говорит, что результаты кажутся похожими на другие популярные модели.
xAI говорит, что Grok был протестирован небольшим числом пользователей, но теперь будет доступен более широкой группе людей, которые подадут заявку на доступ. Маск заявил в посте на X, что модель будет доступна всем подписчикам X Premium+. xAI не заявляла, что она будет публично выпускать какие-либо модели.
В объявлении xAI говорится, что компания работает над несколькими ключевыми задачами, связанными с развитием ИИ, включая создание моделей, которые могут оценивать надежность своего собственного вывода и просить о помощи при необходимости, и создание моделей, которые более устойчивы к “адверсальным атакам”, направленным на их плохое поведение. В объявлении говорится: “мы будем работать над разработкой надежных механизмов защиты против катастрофических форм злонамеренного использования”.
Маск был ранним инвестором в генеративный ИИ. Биллионер помог OpenAI начать свою деятельность, инвестировав между 50 и 100 миллионами долларов в компанию в 2015 году. В 2018 году он отозвал свою поддержку компании (которая тогда была некоммерческой) после неудачи в попытке захватить контроль над ней.
После того, как OpenAI перешла из некоммерческой организации в коммерческое предприятие и получила инвестиции от Microsoft, а также в результате огромного успеха ChatGPT, самый богатый человек в мире открыто критиковал OpenAI и обвинял его лингвистические модели в чрезмерной “просветленности”.
Затем Маск объявил в июле 2023 года, что собрал маленькую, но уважаемую команду исследователей ИИ для разработки “менее предвзятых” форм ИИ.
Некоторым исследователям ИИ уже удалось попробовать построить модели языка с более разнообразным спектром политических мнений. OpenAI также заявил, что будет работать над удалением политической предвзятости из своих моделей.
В год, прошедший с того момента, как Маск захватил X, платформа восстановила несколько спорных пользователей, включая тех из крайне-правых, в соответствии с заявленным владельцем противодействием модерации контента в социальных сетях. Несколько исследований показали, что дезинформация на платформе увеличилась после захвата Маском.
В анонсе Grok говорится: “Мы создаем инструменты искусственного интеллекта, которые максимально полезны всему человечеству. Мы считаем важным создавать инструменты ИИ, полезные людям разных сфер деятельности и политических взглядов. Мы также хотим дать возможность нашим пользователям использовать наши инструменты ИИ в соответствии с законодательством. Наша цель с Grok – исследовать и продемонстрировать такой подход публично”.
Еще один исследователь ИИ, знакомый с планами xAI, но не желающий разглашать свое имя из-за конфиденциальности обсуждений компании, сказал, что xAI также работает над инструментом кодирования, который будет использовать модель. Microsoft предлагает плагин для своей программы-редактора кода, Visual Studio Code, который работает на основе специализированной языковой модели, разработанной OpenAI. Обучение модели на компьютерном коде может улучшить ее производительность в других задачах.
ENBLE связался с несколькими известными исследователями ИИ, но не смог найти тех, кто уже имел доступ к Grok.
Барбу из MIT говорит, что сейчас, когда нарылись так много хороших лингвистических моделей, вопрос заключается в том, что Маск собирается делать с Grok и как он надеется на это заработать деньги. “Они собрали хорошую команду и кажется, они теперь готовы к чему-то”, говорит он. “Только не понятно к чему именно”.
