США не смогли принять регуляцию искусственного интеллекта. Нью-Йорк берет на себя ответственность
США не смогли урегулировать вопросы, связанные с искусственным интеллектом. Нью-Йорк берет на себя ответственность.
Пока федеральное правительство США борется с регулированием искусственного интеллекта – или даже функционированием – Нью-Йорк вмешивается в образовавшуюся пустоту в управлении.
На прошлой неделе город представил первый в своем роде План действий по искусственному интеллекту, который мэр Эрик Адамс назвал уникальным для нации. Набор из примерно 40 инициатив по политике создан для защиты жителей от негативных последствий, таких как предвзятость или дискриминация со стороны искусственного интеллекта. В него входит разработка стандартов для приобретаемого городскими агентствами искусственного интеллекта, а также новые механизмы для оценки риска использования искусственного интеллекта городскими ведомствами.
Регулирование искусственного интеллекта в Нью-Йорке может расшириться еще больше. Член городского совета Дженнифер Гутьеррес, возглавляющая комитет по технологиям, представила сегодня законодательство, которое создаст Управление по целостности алгоритмических данных для надзора за искусственным интеллектом в Нью-Йорке.
Если будет учреждено, офис будет служить местом, куда граждане смогут обращаться с жалобами на автоматизированные системы принятия решений, используемые государственными агентствами, функционируя как омбудсмен для алгоритмов в пяти округах города. Он также будет оценивать системы искусственного интеллекта на предмет предвзятости и дискриминации перед их внедрением городом.
Несколько сенаторов США ранее в этом году предложили создать новое федеральное агентство для регулирования искусственного интеллекта, но Гутьеррес говорит, что ожидать действий из Вашингтона, округ Колумбия, бессмысленно. “У нас есть особая ответственность, потому что здесь проживает множество инноваций”, – говорит она. – “Для нас очень важно занять лидирующую позицию”.
- Искусственный интеллект становится более мощным, но также становитс...
- Твиттер / Х Илон Маск считает мелким шагом уклониться от проверки д...
- 23andMe, возможно, столкнулись с ещё одним нарушением – ваши данные...
Член городского совета Нью-Йорка Дженнифер Гутьеррес хочет создать офис для регулирования искусственного интеллекта.
Фотография: Уильям Алатристе
Гутьеррес поддерживает обязательное тестирование алгоритмов, используемых городским правительством, потому что, как она говорит, использование искусственного интеллекта начинает активно распространяться. Городские ведомства заинтересованы в использовании программного обеспечения искусственного интеллекта для административных задач, таких как определение риска того, что ребенок станет жертвой насилия, или оценка успеваемости студентов. Она также осторожна в отношении пристрастия мэра Эрика Адамса к технологиям, таким как роботы-собаки и искусственный интеллект для проведения робозвонков на незнакомых языках. Город Нью-Йорк имеет репутацию полигона для тестирования систем наблюдения, начиная от недавнего увеличения использования дронов до сомнительного использования распознавания лиц в жилищном секторе и стадионах, а также полицией.
Нью-Йорк опередил федеральное правительство в регулировании искусственного интеллекта еще до этой недели. В 2018 году была создана рабочая группа города, которая должна была оценить его использование этой технологии. Закон, требующий проверки алгоритмов, используемых предприятиями, на предмет предвзятости, вступил в силу в начале этого года. Но некоторые защитные меры были ослаблены. В январе 2022 года Адамс отменил подписанный его предшественником Биллом де Блазио инициативный указ, создающий должность ответственного за алгоритмы и стратегию, чтобы работать с городскими агентствами по внедрению искусственного интеллекта в справедливой манере. Отчет, представленный этим должностным лицом в 2020 году, указывал, что городские агентства используют 16 видов алгоритмов, которые имели потенциальное значительное влияние на права людей, но не проводили всестороннюю проверку каждой модели искусственного интеллекта, используемой Службой полиции города Нью-Йорк.
Гутьеррес говорит, что до сих пор она не имеет всеобъемлющего понимания алгоритмов, используемых городскими агентствами. Аудит, опубликованный в феврале, контролером штата Нью-Йорк, показал, что у города нет системного и полного подхода к управлению искусственным интеллектом. Это означает, что город не может “обеспечить прозрачность, точность и беспристрастность использования искусственного интеллекта и избежать неправильных последствий”.
Юлия Стоянович, исследователь искусственного интеллекта и директор Центра по ответственному использованию ИИ в Нью-Йоркском университете, помогла собрать этот отчет, и она говорит, что поддерживает предложенное Гутьерресом законодательство, при условии, что результирующее агентство будет работать как независимое внешнее орган. Это будет определено, если законопроект получит спонсорскую поддержку в городском совете и продвинется к утверждению.
Стоянович менее одобрительно относится к выбору города выпустить План действий по искусственному интеллекту на этой неделе в тот же день, когда город расширил использование чат-бота под названием MyCity, предназначенного для ответов на вопросы малого бизнеса о таких вещах, как требуемые разрешения и лицензии. Ей кажется проблемным то, что проект избежал применения положений Плана действий по ИИ, таких как привлечение общественного мнения. Пресс-секретарь Мэрии Джона Оллон говорит, что чат-бот был выпущен одновременно, чтобы запустить процесс оценки, предусмотренный в плане, который будет рассматривать текущие и будущие применения ИИ.
Нью-Йорк, возможно, был одним из первых, кто регулировал искусственный интеллект, но он не был последовательным, говорит Стоянович. “Особенно учитывая, что мы были первыми, кто начал, мне действительно больно видеть, что спустя пять или шесть лет после начала у нас нет ясного определения принципов управления ИИ в городском правительстве”, – говорит она.
В нескольких местах в США штаты, города и должностные лица пришли к регулированию ИИ с практикой предварительной оценки потенциального вреда перед его внедрением. Это отражено в подписанном в прошлом месяце распоряжении губернатора Калифорнии Гэвина Ньюсома и добровольном соглашении, заключенном Президентом Байденом с крупными компаниями по ИИ в июле. Общей точкой разногласий является вопрос, может ли такую оценку выполняться внутренними ресурсами или независимой стороной. Ожидается, что Белый дом в ближайшие недели выпустит распоряжение об управлении ИИ, сообщают источники, знакомые с этим вопросом. В то время, как Палата представителей продолжает бороться за выбор нового спикера на этой неделе, Конгресс, вероятно, намерен обсуждать или принимать законы об ИИ в ближайшее время.
