Обширный новый указ Джо Байдена направлен на перевод правительства США в эру ChatGPT
Обширный новый указ Джо Байдена, направленный на перевод правительства США в эру ChatGPT
Джо Байден хочет, чтобы правительство США шире использовало искусственный интеллект и строже контролировало коммерческий ИИ. Это две важные темы огромного указа, который Байден подпишет сегодня и который ставит десятки задач федеральным агентствам на выполнение в течение следующего года по таким вопросам, как национальная безопасность, иммиграция и здравоохранение.
Указ предписывает компаниям, разрабатывающим мощные технологии ИИ, такие как ChatGPT от OpenAI, предоставлять отчетность. Байден будет использовать Закон о производстве оборонных товаров, закон, который может обязывать бизнесы предпринимать меры в интересах национальной безопасности, чтобы требовать от создателей больших моделей ИИ предоставлять ключевую информацию правительству, включая сведения о тренировке новых моделей и о мерах кибербезопасности.
В частности, это будет включать подробности так называемых упражнений “команды красных” с целью выявления уязвимостей в моделях ИИ, таких как уязвимости, которые могут использоваться для обхода контроля и предотвращения злонамеренного использования, например, для генерации вредоносного ПО. Цель состоит в отслеживании потенциальных угроз, которые может представлять ИИ-технология для национальной безопасности, общественного здоровья и экономики.
В указе также предусмотрено обязательство компаний, приобретающих, разрабатывающих или имеющих крупные вычислительные кластеры, существенные для тренировки самых мощных систем ИИ, предоставлять отчеты о своей деятельности федеральному правительству. Это правило направлено на помощь правительству в понимании, какие организации, включая те, которые конкурируют с США, обладают высокими возможностями в области ИИ.
Также в указе приказано Министерству энергетики оценить, как выводы ИИ могут способствовать биологическим или химическим атакам или кибератакам на критическую инфраструктуру. Неделю назад британское правительство в своем докладе указало на возможность использования передового ИИ для осуществления биологических и химических атак.
- Использование ChatGPT для бухгалтерии? Может, стоит подумать еще раз
- «Генеративный ИИ играет удивительную роль в дезинформации между Изр...
- Компании не инвестируют большие средства в искусственный интеллект....
Брюс Рид, заместитель начальника администрации Белого дома, председатель созданного недавно Совета ИИ Белого дома для обеспечения соблюдения указа, называет его “самым сильным комплексом мер, который когда-либо принималось каким-либо правительством в мире в области безопасности, надежности и доверия к ИИ.”
Среди мер в указе Байдена, направленных на укрепление ИИ в правительстве США, включено создание специального портала для обеспечения доступа специалистов и исследователей по ИИ в правительственные структуры на сайте AI.gov. Там же предлагается новая программа обучения для подготовки 500 исследователей по ИИ к 2025 году.
Дивьянш Каушик, старший научный сотрудник исследовательской группы “Федерация американских ученых”, который помогал разрабатывать части указа, считает эти меры одними из наиболее влиятельных. “Люди часто забывают, что талант – это самое большое препятствие в федеральном правительстве”, – говорит он.
Каушик также приветствует то, что указ Байдена требует изменений в иммиграционной политике для облегчения доступа специалистов в области ИИ в США. Например, план, позволяющий иммигрантам продлевать свои визы внутри США, может устранить необходимость для сотен тысяч студентов, изучающих СТЕМ-области, возвращаться в свои родные страны для проведения личных собеседований.
Каушик говорит, что, хотя в настоящее время США обладает большинством лучших ИИ-специалистов в мире, только 20 процентов из них получили степень бакалавра в США, что указывает на то, что многие из них являются иммигрантами. Он считает, что в интересах США сделать въезд ИИ-специалистов из-за рубежа более простым, чтобы конкурировать с другими странами, такими как Китай, Канада или Великобритания.
Новый указ Байдена также признает, что проекты ИИ могут быть вредными для граждан, если они не будут внедрены аккуратно, выделяя потенциал дискриминации или других непреднамеренных последствий в сфере жилья или здравоохранения. Указ предписывает Бюро управления и бюджета Белого дома разработать руководства и инструменты, которые помогут государственным служащим, закупающим услуги ИИ у частных компаний, принимать правильные решения.
Суреш Венкатасубраманиан, директор Центра по ответственности за технологии, переосмысление и переработку в Брауновском университете, считает, что эти правила могут оказать влияние. В государственном секторе “проведение закупок находится на первом месте в повестке дня каждого, потому что каждый понимает, что это путь к изменениям”, – говорит он. Он ранее помог Белому дому собрать “Декларацию прав ИИ” для федеральных агентств, выпущенную Байденом в прошлом году.
Однако Венкатасубраманиан говорит, что некоторые из самых важных случаев использования ИИ в правительстве США практически не затронуты новым указом президента. Директивы Байдена применяются к федеральным агентствам, но большая часть использования ИИ в сфере уголовного правосудия и полиции осуществляется местными правоохранительными органами и штатными органами власти. Ложноположительные результаты от технологий, работающих на базе ИИ, таких как выявление выстрелов ShotSpotter и распознавание лиц, уже привели к неправомерным арестам, а полицейские участки в настоящее время используют программное обеспечение прогнозирования преступности, которое не работает так, как заявлено.
Чтобы заставить штатные агентства также принять стандарты, установленные в указе президента, Венкатасубраманиан считает, что федеральные законодатели могут сделать выполнение этих стандартов условием предоставления финансирования для органов правопорядка штатов и местного самоуправления.
Это первый указ президента Байдена, полностью посвященный искусственному интеллекту, и он следует за двумя указами бывшего президента Трампа, в 2019 и 2020 годах. Пока что правительственные агентства имеют неоднозначный опыт выполнения таких указов.
Указ 2019 года был направлен на инвестиции в исследование и разработку ИИ. В декабре 2020 года был подписан исполнительный указ, а также в прошлом году был принят закон Advancing American AI Act, требующие от федеральных агентств ежегодного раскрытия инвентаря используемых алгоритмов. Но исследование Юридической школы Стэнфорда обнаружило непоследовательное выполнение указов, предупреждая о “разрыве в национальных возможностях” в области искусственного интеллекта. Если новый указ Байдена, самая амбициозная президентская директива по данной технологии на сегодняшний день, будет работать так, как задумано, это значительно увеличит эти возможности.
