Как остановить еще один сбой OpenAI

Как предотвратить дополнительные ошибки OpenAI.

OpenAI нуждается в операции на открытом сердце. Совет директоров и возобновленный генеральный директор Сэм Альтман, после временного увольнения, заявили на прошлой неделе, что они пытаются исправить необычную корпоративную структуру, позволившую четырем членам совета активизировать “почти смертельный опыт” для компании.

Стартап был создан в 2015 году как некоммерческая организация, но разрабатывает ИИ в дочерней компании, подконтрольной некоммерческому совету, задача которого – обеспечить, чтобы технология “широко способствовала” человечеству. Чтобы стабилизировать эту необычную структуру, OpenAI может поучиться у долго существующих компаний с аналогичной организацией, включая введение второго совета, чтобы помочь сбалансировать его миссию основания с его коммерческим погоней за прибылью для инвесторов.

Комментарий на эту историю отложил новый председатель совета директоров Брет Тейлор. Ветеран высшего руководства сказал ENBLE в заявлении, что совет сосредоточен на независимом обзоре недавнего кризиса и улучшении управления. “Мы стремимся к управленческой структуре, учитывающей все заинтересованных сторон,” – говорит Тейлор. “И мы активно работаем над разработкой расширенного совета, в состав которого будут входить разнообразные опытные специалисты, необходимые для внедрения важных изменений и эффективного наблюдения за организацией.”

Альтман сказал ENBLE на прошлой неделе, что совету потребуется время для обсуждения, исследования и проверки потенциальных изменений.

Если верить миссии OpenAI, ставки не могут быть выше. Компания стремится разработать технологию ИИ, которая делает машины способными на равне с или превосходящими людей, что может затронуть почти все профессии в мире. Даже если они не достигнут этой цели, то, как OpenAI управляет самим собой, может определить, кто процветает, а кто страдает от внедрения формирующих мир технологий ИИ, таких как ChatGPT. В то же время конкуренты, такие как Google и Amazon, не ограничены такими структурными ограничениями, как OpenAI.

• Все-в-одной док-станция USB-C от Satechi делает все за $150
• Как защитить свой бренд от экономического спада
• Genshin Impact возвращается в качестве самой прибыльной Gacha-игры ...

“Хочет ли он быть стартапом, который имеет некоторую этическую основу? Или же он хочет быть стойким публичным учреждением, строящим ИИ во благо человечества?” – спрашивает Марк Сюрман, президент Mozilla Foundation. “Они должны быть ясными сами с собой и ясными перед миром в том, чем они действительно хотят быть.”

Тысячи компаний по всему миру, включая OpenAI, розничную сеть Ikea, и производителя лекарств Novo Nordisk, разработчика Ozempic, структурированы так, как некоторые бизнес-профессоры называют “предприятий-оснований”, при которых некоммерческая организация контролирует компанию, которая полностью следует принципам капитализма. Некоторые миллиардеры используют такое устройство для снижения персональных налогов, другие проекты используют его для приоритетного достижения не-бизнес целей, что, по словам OpenAI, является их случаем.

Точная техническая реализация может варьироваться в широких пределах, но Mozilla является стабильным примером сочетания гуманитарной миссии с коммерческими предприятиями. Созданная в 2003 году, ее фонд имеет ряд коммерческих дочерних предприятий, включая Mozilla Corporation, разрабатывающую веб-браузер Firefox и получающую значительные платежи от Google за продвижение своего поисковика, и Mozilla.ai, стартап, стремящийся поощрять конкуренцию с открытым кодом для OpenAI.

В отличие от OpenAI, некоммерческая организация Mozilla не может уволить руководителей, отвечающих за коммерческую деятельность. У каждого коммерческого подразделения есть свой собственный совет, члены которого ежегодно выбираются некоммерческим советом фонда. “Это разные задачи, это разная смесь навыков,” – говорит Сюрман. “Если у вас есть разные функции, то имеет смысл иметь разделение властей.”

Разные правления, с отличающимися характерами и целями, также призваны дать коммерческим инициативам большую автономию. В некоммерческое правление Mozilla стремится привлечь людей, знающих филантропию, технологии с открытым исходным кодом, социальные проблемы и техническую политику, – говорит Сурман. В коммерческих правлениях предпочтение отдается опыту венчурного капитала, корпоративного маркетинга и инноваций.

Иногда различные правления Mozilla собираются для обсуждения крупных изменений в технологиях, например, возникновения генеративного искусственного интеллекта, что привело к созданию Mozilla.ai. Однако неприбыльное фондовое правление имеет окончательное полномочие, контролируя бюджеты и имея право увольнять членов коммерческого правления. Хотя это последнее право никогда не было использовано, временами возникали острые разногласия между лидерами Mozilla в отношении целей движения и рыночных целей, – говорит Брайан Белендорф, программист, который состоит в фондовом правлении с момента его создания и также является сооснователем Apache Software Foundation.

В 2015 году, после консультации с неприбыльным правлением, корпорация Mozilla закрыла проект по разработке открытой мобильной операционной системы, на которую было потрачено сотни миллионов долларов, но которая не смогла завоевать доверие производителей смартфонов. “Чтобы быть конкурентоспособным, нужно было создавать больше собственного программного обеспечения и заключать сделки, не связанные с общественными благами”, – говорит Белендорф. “Это было разочарование, но мы не видели пути осуществления миссии и Главные положения Mozilla”. Этот основополагающий документ обязывает проект сохранять открытость и доступность Интернета для всех.

Устранение недостатков в управлении OpenAI в некотором смысле более сложно, чем все, с чем когда-либо сталкивалась Mozilla, которая имеет внешних спонсоров, но не имеет инвесторов. OpenAI должна служить своей основной миссии – помощи человечеству, одновременно успокаивая инвесторов, которые после последнего кризиса требуют большего влияния на направление организации. Это особенно верно в отношении Microsoft, который обязался вложить в компанию 13 миллиардов долларов.

На прошлой неделе генеральный директор Microsoft Сатья Наделла заявил, что считает недопустимым получить уведомление о снятии Альтмана с должности только за несколько минут до официального объявления. “Без участия Microsoft невозможно представить OpenAI в качестве партнера по своей миссии”, – сказал Наделла на подкасте журналистки Кары Свишер. “В качестве партнера я думаю, что вас следует проконсультировать по крупным решениям”.

На прошлой неделе OpenAI объявила, что Microsoft получит место в своем правлении в качестве невзаимосвязанного наблюдателя. Это отсутствие прямого контроля может помочь избежать внимания со стороны американских антимонопольных регуляторов в связи с правилами об интерлокирующихся директорах, когда наличие перекрывающихся членов правления в крупных конкурентах рассматривается как угроза справедливой конкуренции. На прошлой неделе председатель правления OpenAI Тейлор написал, что комиссия “сформирует квалифицированное, разнообразное правление, в которое войдут выдающиеся личности, опыт которых охватывает весь спектр миссии OpenAI – от технологии до безопасности и политики”.

Подобное устройство, как в случае с Mozilla, при создании отдельного правления для коммерческой части OpenAI, может предоставить простой способ для Microsoft, других инвесторов и, возможно, даже сотрудников, чтобы иметь реальное влияние на верхнее руководство, не ослабляя при этом полномочий неприбыльного фонда.

Революция сотрудников и инвесторов, вызванная увольнением Альтмана, фактически стала репетицией того, как такое вторичное правление может служить защитой во время кризисов, – говорит Роналду Лемос, бывший член правления Mozilla Foundation. “Этот союз был решающим в установлении текущего переориентирования в организации”, – говорит Лемос, главный научный сотрудник Institute for Technology and Society в Рио-де-Жанейро.

Mozilla также осуществляет и другие контрольные механизмы над своей коммерческой ветвью. Фонд владеет торговыми марками “Mozilla” и в экстремальных случаях может аннулировать лицензии дочерних компаний на их использование. “Это то, что заставляет их быть честными”, – говорит Сурман, представитель фонда.

Лицензионные платежи, взимаемые дочерними компаниями Mozilla, помогают финансировать гранты и другую благотворительную работу фонда, чей бюджет на привлечение квалифицированных специалистов составляет 30 миллионов долларов ежегодно. Файлы налоговой отчетности показывают, что на сегодняшний день персонал OpenAI разделен между некоммерческими и коммерческими частями. Если у неприбыльного фонда будет свои исследовательские и политические команды, он сможет получить дополнительную защиту для самостоятельного контроля.

Главные структурные изменения – это не единственный способ укрепить управление OpenAI. Во время недавней драмы инвесторы и другие наблюдатели высказали опасения относительно квалификации директоров OpenAI для надзора за проектом и долговременного хранения вакансий в правлении на протяжении нескольких месяцев. OpenAI может установить конкретные правила для состава своего правления и планирования смены на посту директора, вероятно, в своих уставах, если этого еще не сделано. Эти правила могут определить критерии, по которым член рассматривается как независимый, и процесс выбора независимых директоров.

«Вероятно, наиболее важным было бы иметь управленчески компетентных членов в правлении», – говорит Питер Молк, профессор права Университета Флориды, занимающийся исследованием организационного дизайна. «OpenAI не является типичной некоммерческой организацией, такой как музей или местная библиотека. Она имеет огромное присутствие на рынке, заключает огромные контракты и конкурирует с крупными игроками».

Правление также может ввести или расширить политику, регулирующую коммуникацию или конфликты интересов директоров. Сэм Альтман лично инвестировал в десятки стартапов, включая некоторые, имеющие дела с OpenAI, и является ценным советником для предпринимателей. Блэйк Ресник, CEO компании Brinc, занимающейся производством дронов для общественной безопасности, говорит, что Альтман “был первым, кто вложился в Brinc, вывел меня из гаража родителей и продолжает оказывать поддержку”.

Альтман недавно попытался привлечь средства для нового предприятия, разрабатывающего компьютерные чипы для запуска программного обеспечения искусственного интеллекта, и связан с предприятием, разрабатывающим устройство с интегрированными генеративными инструментами искусственного интеллекта. В июле он заявил The Information, что, в целом, подписывается под подходом избегания прямых конфликтов с его работой в OpenAI и обнародования всего, и некоторые инвесторы, не связанные с OpenAI, говорят ENBLE, что его внешние занятия на первый взгляд не вызывают тревоги. OpenAI заявила в налоговых декларациях, что у нее есть политика конфликта интересов, требующая ежегодных раскрытий. Однако широкий круг обязанностей, связанный с Альтманом, может ограничить его внимание к делам правления; он, предположительно, сказал своими знакомыми во время борьбы за возвращение на пост CEO, что он должен был лучше управлять директорами OpenAI, прежде чем они его выгнали.

Даже простая политика общения могла бы помочь смягчить напряжение между Альтманом и его правлением или сделать недавний кризис менее серьезным.

Альтман столкнулся с бывшим директором OpenAI Хелен Тонер после того, как она опубликовала исследовательский анализ в прошлом месяце, в котором критиковала решения OpenAI по запуску продукта. Человек, близкий к правлению, говорит, что спор был “небольшой вещью, которая могла быть легко урегулирована” без политики. Но отсутствие подробностей в первом заявлении правления об увольнении Альтмана сделало неожиданный шаг, пожалуй, более разрушительным.

OpenAI была создана с обещанием быть более прозрачной и открытой, чем техногиганты, которые исторически доминировали в области искусственного интеллекта. Однако, в то время как Mozilla разместил свои уставы, налоговые декларации и другую финансовую информацию, считающуюся публичными записями, на веб-сайте, OpenAI не опубликовала аналогичные документы. Копии, полученные ENBLE через правительственные органы, также содержат явные ошибки.

Ежегодный отчет о налоге на франшизу OpenAI, представленный в этом году штату Делавэр, указывает на “Холдена Карнофску”, орфографически ошибочно написав фамилию его директора Карнофски, долгое время занимающегося филантропическими делами и который, по другим сообщениям, ушел в отставку в 2021 году. В отчете не упоминается сооснователь OpenAI Илья Сутскевер, который был в правлении с 2017 года до отставки после возвращения Альтмана на пост CEO в прошлом месяце. Отчеты за предыдущие годы также содержат явные неточности и иногда противоречат объявлениям OpenAI в декларациях налоговым органам США. Предприниматель Джон Лебер, который тщательно рассмотрел публичные документы OpenAI в прошлом месяце, называет несоответствие “озадачивающим”.

Лидеры OpenAI не были обвинены в нарушении закона, но сознательное сделание ложного заявления в документах является лжесвидетельством. Представитель Департамента государственной регистрации Делавэра, Рони Балтазар, говорит, что корпорация обязана законом «обновлять соответствующую информацию, включая состав своего правления», в годовых отчетах, но отказался комментировать дальше.

По мере приближения сезона подачи документов на 2024 год, первым шагом для OpenAI 2.0 могло бы быть упорядочение своих раскрытий, а следующим возможным шагом – формирование второго совета директоров.

Дополнительная информация от Уилла Найта.

• artificial intelligence
• ChatGPT
• OpenAI
• Silicon Valley
• Startups