Кто такая Мира Мурати, новая временная генеральный директор компании OpenAI?
Кто такая Мира Мурати, новая временная генеральный директор компании OpenAI?
До драматического ухода сооснователя и генерального директора OpenAI Сэма Альтмана в пятницу, Мира Мурати была его техническим директором, но вы также могли бы назвать ее министром правды. Помимо руководства командами, разрабатывающими инструменты, такие как ChatGPT и Dall-E, ее задачей было обеспечить, чтобы эти продукты не вводили людей в заблуждение, не проявляли предвзятость или не уничтожали человечность вообще.
Это интервью было проведено в июле 2023 года для обложки енбла о OpenAI. Оно было опубликовано сегодня после внезапного ухода Сэма Альтмана, чтобы предоставить представление о мыслях нового руководителя мощной компании ИИ.
Стивен Леви: Как вы попали в OpenAI?
Мира Мурати: У меня опыт работы в области инженерии, я работала в авиации, автомобильном производстве, виртуальной и дополненной реальности. Как в Tesla [где я сопровождала выпуск Model X], так и в компании по виртуальной реальности [Leap Motion] я занималась применением искусственного интеллекта в реальном мире. Я очень быстро поверила, что искусственный общий интеллект будет последней и самой важной технологией, которую мы создадим, и я хотела быть в центре этого. На тот момент Open AI была единственной организацией, которой было выгодно работать над возможностями технологии искусственного интеллекта, а также обеспечивать, чтобы все прошло хорошо. Когда я присоединилась в 2018 году, я начала работать над нашей стратегией суперкомпьютеров и управлять несколькими исследовательскими командами.
Какие события в вашем организационном деле запомнились вам особенно ярко?
- Детские потайные цеха обеспечивают энергией индустрию искусственног...
- «X угрожает судебным разбирательством из-за студента, дисциплиниров...
- Социальные медиа становятся площадкой для вербовки контрабандистов ...
Их так много, трудно вспомнить. Мы живем в будущем и каждый день видим что-то сумасшедшее. Но помню, как GPT-3 смог переводить. Я говорю на итальянском, албанском и английском. Я просто создавала пары промптов на английском и итальянском. И внезапно, хотя мы никогда не тренировали его на перевод на итальянский, он мог делать это довольно хорошо.
Вы были в OpenAI настолько рано, чтобы присутствовать, когда она перешла от чисто некоммерческой организации к реорганизации, при которой коммерческое предприятие находилось внутри структуры. Как вы к этому относились?
Это не было сделано на легкую руку. Чтобы действительно понять, как улучшить и сделать наши модели безопасными, их нужно развернуть в большом масштабе. Это стоит много денег. Для этого нужен бизнес-план, потому что щедрые некоммерческие спонсоры не дадут миллиардов, как инвесторы. Насколько мне известно, такая структура уникальна. Основной момент заключался в защите миссии некоммерческой организации.
Это может быть сложно, так как вы глубоко сотрудничаете с крупной технологической компанией. Вы чувствуете, что ваша миссия совпадает с миссией Microsoft?
В том смысле, что они верят, что это наша миссия.
Но это не их миссия.
Нет, это не их миссия. Но важно, чтобы инвестор действительно верил, что это наша миссия.
Когда вы присоединились в 2018 году, OpenAI была в основном исследовательской лабораторией. В то время как вы все еще занимаетесь исследованиями, вы теперь очень сильно ориентированы на продуктовую компанию. Изменилась ли культура компании?
Это действительно очень сильно изменило компанию. Мне кажется, что почти каждый год происходит своего рода парадигменный переход, когда мы вынуждены пересмотреть то, как мы делаем вещи. Это некая эволюция. Теперь каждому стало очевидно необходимость непрерывной адаптации в обществе, помощь в этой технологии, чтобы она приходила в мир ответственным образом, и помощь обществу в адаптации к этому изменению. Это не было очевидно пять лет назад, когда мы просто занимались нашими исследованиями. Но создание API для GPT-3, работа с клиентами и разработчиками помогла нам развить это понимание потенциала технологии изменить реальный мир, часто в отличных от наших предсказаний способах.
Вы были замешаны в создании Dall-E. Поскольку в результате работы модели получаются изображения, вам пришлось учесть разные вещи по сравнению с текстовой моделью, включая вопрос о владении изображениями, на которых модель основана. Какие у вас были опасения и насколько успешным был проект?
Очевидно, мы провели громадную имитацию. Я помню, что это было источником радости, юмора и веселья. Люди придумывали разные творческие и безумные предложения. Мы решили сделать его доступным в лабораториях в качестве простого способа взаимодействия с технологией и узнавания о ней. Также мы думали о политических последствиях и о том, как Dall-E может повлиять на продукты, социальные медиа и другие аспекты жизни. Мы также тесно сотрудничали с творческими людьми, чтобы получить их отзывы, потому что мы видим его внутри компании как инструмент, который действительно усиливает творчество, вместо того, чтобы заменять его. Изначально были ожидания, что ИИ сначала автоматизирует множество работ, а творчество была областью, где у нас, людей, был монополия. Но мы видим, что эти модели искусственного интеллекта действительно могут быть творческими. Когда вы видите, как художники играют с Dall-E, результаты действительно великолепны.
С тех пор, как OpenAI выпустила свои продукты, возникли вопросы о их немедленном влиянии на такие вещи, как авторское право, плагиат и рабочие места. Выставляя вещи типа GPT-4 на свободу, почти как будто вы заставляете общественность справляться с этими проблемами. Было это намеренно?
Определенно. Фактически очень важно выяснить, как представить это публично таким образом, чтобы это было безопасно и ответственно, и помогало людям интегрировать это в свой рабочий процесс. Это изменит целые отрасли; люди сравнивали это с электричеством или печатной машинкой. Таким образом, очень важно начать реально интегрировать его на каждом уровне общества и обдумывать такие вещи, как законы об авторском праве, конфиденциальность, управление и регулирование. Мы должны быть уверены, что люди действительно сами испытывают, на что способна эта технология, в отличие от того, чтобы читать о ней в каком-то пресс-релизе, особенно учитывая такой быстрый технологический прогресс. Бесполезно противиться ему. Я считаю важным принять его и понять, как сделать так, чтобы все было хорошо.
Вы убеждены, что это оптимальный путь для продвижения нас к AGI?
Я не нашел лучшего способа, чем итеративное внедрение, чтобы выяснить, как достичь этой непрерывной адаптации и обратной связи из реальной конечной точки в технологию, чтобы сделать ее более устойчивой к таким случаям использования. Очень важно сделать это сейчас, пока ставки еще невысокие. По мере приближения к AGI, вероятно, все снова изменится, и наша стратегия развертывания будет меняться по мере приближения к нему.
