Что такое проект Q*? Расшифровка загадочного прорыва в искусственном интеллекте | ENBLE
Что представляет собой проект Q*? Декодирование таинственного прорыва в области искусственного интеллекта | ENBLE
Среди вихря спекуляций вокруг внезапного увольнения и возобновления работы генерального директора OpenAI Сэма Альтмана стоит один центральный вопрос в центре контроверзы. Почему Альтман был уволен правлением в первую очередь?
Мы, возможно, наконец, получили часть ответа, и это связано с обращением с загадочным проектом OpenAI, который имел внутреннее кодовое имя “Q*” – или Q Звезда. Информации ограничено, но вот все, что мы знаем о потенциально революционных разработках до сих пор.
Что такое проект Q*?
Прежде чем двигаться вперед, следует отметить, что все подробности о проекте Q* – включая его существование – исходят из одного доклада. Сообщили 22 ноября из Рейтерс, что ими была получена информация от “двух знакомых с ситуацией людей”. Согласно статье, проект Q* являлся новой моделью, которая преуспевала в математике, с чем существующие LLM (крупные языковые модели), такие как ChatGPT, имели проблемы. Он, по слухам, все еще находится на уровне решения математики начальной школы, но, как отправная точка, выглядит многообещающим.
Кажется достаточно безопасным, верно? Ну, не так быстро. Существование Q* якобы настолько напугало нескольких исследователей-сотрудников, что они написали письмо с тревогой правлению, утверждая, что это может “угрожать человечеству”.
Кроме этого, мало что известно о том, насколько большим проектом является Q*, какие у него цели и как долго он в разработке.
- Теперь отличное время подхватить сделку Черной Пятницы на лазерный ...
- Купите iPad 9 поколения по исторически низкой цене в Черную Пятницу
- 3 легких способа быстро улучшить производительность Fortnite | ENBLE
Разве Q* на самом деле стал причиной увольнения Сэма Альтмана?
С самого начала спекуляций вокруг увольнения Сэма Альтмана, одной из главных подозреваемых была его политика безопасности. Именно Альтман привел OpenAI к отказу от своей некоммерческой направленности и переходу к коммерциализации. Это началось с публичного запуска ChatGPT и последующего выхода ChatGPT Plus, оба из которых заложили основу для этой новой эры генеративного искусственного интеллекта, заставившие такие компании, как Google, тоже выйти на публику со своей технологией.
Этические и безопасностные проблемы, связанные с наличием этой технологии в открытом доступе, всегда присутствовали, несмотря на все возбуждение вокруг того, как она уже изменила мир. Большие опасения по поводу скорости развития технологии также были ясно документированы, особенно с переходом с GPT-3.5 на GPT-4. Некоторые считают, что технология развивается слишком быстро без достаточного регулирования и контроля, и, согласно докладу Рейтерс, “коммерциализация прогресса перед пониманием последствий” была указана как одна из причин первоначального увольнения Альтмана.
Хотя нам не известно, было ли имя Альтмана упомянуто в вышеупомянутом письме о Q*, это также приводится в качестве одной из причин решения правления уволить Альтмана, которое позже было отменено.
Стоит отметить, что всего за несколько дней до его увольнения Альтман упомянул на саммите искусственного интеллекта, что он был “на месте” несколько недель назад, когда был сделан важный “фронтир открытий”. По времени все сходится с тем, что это могло быть связано с прорывом в Q*, и если это так, то это подтверждает его прямое участие в проекте.
Собирая все вместе, кажется, что опасения в отношении коммерциализации были присутствуют с самого начала, и его отношение к Q* было просто последней каплей. Факт того, что правление было настолько обеспокоено быстрым развитием (и, возможно, отношением самого Альтмана к нему), что оно уволило своего генерального директора-звезду, поразителен.
Тот факт, что Альтман снова на посту, оставляет текущее состояние Q* и его будущее в вопроса.
Действительно ли это начало ИИ общего назначения?
ИИ Общего назначения (ИИОН), или artificial general intelligence (AGI), является направлением OpenAI с самого начала. Хотя термин имеет разное значение для разных людей, OpenAI всегда определяло AGI как «автономные системы, превосходящие людей в большинстве экономически ценных задач», как говорит доклад Reuters. В этом определении нет ничего о «самосознательных системах», что часто предполагают под термином AGI.
Тем не менее, на первый взгляд, прогресс в математике искусственного интеллекта может не показаться большим шагом в этом направлении. В конце концов, компьютеры помогают нам с математикой уже многие десятилетия. Но возможности, предоставленные Q*, не являются просто калькулятором. Владение математикой требует логики и рассуждений, подобных человеческим, и исследователи кажется считают это большим прорывом. В письменности и языке LLM может быть более гибким в своих ответах и реакциях, часто давая широкий спектр ответов на вопросы и задания. Но в математике все наоборот, часто есть только один правильный ответ на задачу. Доклад Reuters предполагает, что исследователи ИИ даже считают возможным его «применение в новых научных исследованиях».
Очевидно, Q* по-прежнему находится в начале разработки, но он действительно кажется самым значимым прорывом с момента GPT-4. Если верить хайпу вокруг него, его определенно следует рассматривать как важный шаг на пути к ИИОН, как его определяет OpenAI. В зависимости от вашей точки зрения, это либо повод для оптимистического волнения, либо существенного тревожного ощущения.
