Гэри Генслер призывает США регулировать риски ИИ для финансовой стабильности
Гэри Генслер заявляет о необходимости американского регулирования рисков ИИ для обеспечения финансовой стабильности
Быстрое принятие искусственного интеллекта (ИИ) в финансовом секторе может представлять значительные риски для финансовой стабильности и привести к новому кризису в течение следующего десятилетия, предупредили высшие регуляторы.
В недавнем интервью с Financial Times председатель Комиссии по ценным бумагам и биржам США (SEC) Гари Генслер заявил, что концентрация власти в нескольких доминирующих платформах ИИ создает опасные системные риски, которые могут вызвать кризис уже к концу 2020-х годов.
По словам Генслера, кризис в финансовой системе, вызванный ИИ, “почти невозможно” избежать в течение десятилетия. Беспокоит регуляторов потенциал стадного поведения, если многие фирмы будут полагаться на одни и те же базовые модели и сборщики данных ИИ.
Например, ипотечные кредиторы могут использовать одну систему искусственного интеллекта от одной технологической компании для оценки кредитоспособности. Если эта модель имеет недостатки, это может привести к всплеску дефолтов и угрожать рынку недвижимости.
Я действительно думаю, что в будущем будет финансовый кризис […], и в докладах после действий люди скажут “Аха! Был один агрегатор данных или одна модель […], на которых мы полагались.” Может быть, это будет в ипотечном рынке. Может быть, в каком-то секторе рынка акций.
Генслер добавил, что “экономика сетей” ИИ делает этот сценарий вероятным. Чем больше компаний используют систему искусственного интеллекта, тем лучше становятся ее прогнозы с большим объемом данных. Это создает среду, где одна или две модели ИИ доминируют в отрасли.
Проблема регулирования “горизонтальных” рисков ИИ
Большая часть существующего финансового регулирования сосредоточена на отдельных компаниях и секторах, что создает проблемы для контроля рисков ИИ, затрагивающих различные рынки.
“Это, честно говоря, сложная задача […] Это сложный вопрос финансовой стабильности, потому что большинство нашего регулирования относится к отдельным институтам, отдельным банкам, отдельным денежным рынкам, отдельным брокерам; это просто природа нашей работы. А это касается горизонтального [вопроса], когда многие институты могут полагаться на одну и ту же базовую модель или агрегатор данных.”
SEC предложил требовать от брокер-дилеров и инвестиционных советников раскрывать потенциальные конфликты интересов в своей аналитике прогнозирования. Но Генслер заметил, что это “по-прежнему не решает эту горизонтальную проблему” взаимосвязанных зависимостей ИИ.
Сейчас американские регуляторы изучают вопросы координации между агентствами и новых рамок надзора для контроля системных рисков, связанных с ИИ, хотя прогресс идет медленно. Генслер поднял этот вопрос на международных органах, таких как Финансовый стабильностный совет.
Риски концентрации ИИ “как услуги”
Другая проблема – концентрация предложения ИИ среди крупных технологических компаний. Компании, такие как Google, Amazon и Microsoft, имеют надежную облачную инфраструктуру для размещения сложных моделей ИИ и продажи их “как услуги” финансовым учреждениям.
“Сколько провайдеров облачных услуг [которые обычно предлагают ИИ как услугу] у нас есть в этой стране?”
Эта концентрация создает единичные точки отказа. Если модель ИИ на серверах Amazon имеет проблемы, это может повлиять на множество банков, страховщиков и торговых фирм, полагающихся на нее.
Европа лидирует в управлении ИИ
Пока американские регуляторы все еще изучают риски ИИ, Европа принимает более решительные меры. В этом году ЕС собирается принять законодательство, которое устанавливает строгие требования в области прозрачности, защиты данных и снижения предвзятости в системах ИИ.
Председатель SEC имеет амбициозную регуляторную программу, которая касается вопросов, таких как раскрытие информации о климатических изменениях, надзор над криптовалютой и правила частного капитала – все они сталкиваются с юридическими препятствиями. Обеспечение стабильности ИИ может стать одним из самых сложных испытаний для американских регуляторов в грядущие годы.
Кредит изображения: Tara Winstead; Pexels; Спасибо!
