EU Принял Передовые Новые Правила по Регулированию Искусственного Интеллекта
ЕС принял передовые новые правила по регулированию искусственного интеллекта
Европейский союз сегодня достиг согласия по деталям AI-акта, обширного набора правил для тех, кто разрабатывает и использует искусственный интеллект. Это важный законодательный акт, который, как надеются законодатели, создаст образец для остального мира.
После многомесячных дебатов о том, как регулировать компании, такие как OpenAI, законодатели из трех ветвей власти ЕС – Парламента, Совета и Комиссии – провели в общей сложности более 36 часов и наконец разработали новое законодательство между средой и пятницей. Законодатели испытывали давление заключить сделку до начала предвыборной кампании европарламента в новом году.
“AI-акт ЕС – это глобальное первенство”, сказала президент Европейской комиссии, Урсула фон дер Ляйен, в своем твиттере. “[Это] уникальная правовая рамка для развития AI, в которую можно верить. Для безопасности и основных прав людей и бизнеса”.
Сам закон не является первым в мире; новые правила Китая для генеративного AI вступили в силу в августе. Но AI-акт ЕС – это самое обширное правило такого рода для этой технологии. Он включает запреты на использование биометрических систем, идентифицирующих людей по таким чувствительным характеристикам, как сексуальная ориентация и раса, а также на беспринципное скрапинга лиц из интернета. Законодатели также согласились с тем, что правоохранительным органам следует иметь возможность использовать биометрические системы идентификации в общественных местах для определенных преступлений.
Также были включены новые требования к прозрачности для всех общецелевых моделей AI, таких как GPT-4 от OpenAI, который обеспечивает функционирование ChatGPT, и более строгие правила для “очень мощных” моделей. “AI-акт устанавливает правила для крупных и мощных моделей AI, обеспечивая, чтобы они не представляли системные риски для Союза”, говорит Драгош Тудораче, член Европейского парламента и один из двух сораппортёров, возглавляющих переговоры.
- Партнёрство Microsoft и OpenAI расследует британское агентство по к...
- 20 рабочих мест под угрозой из-за искусственного интеллекта, соглас...
- Цена акций AMD прыгает, поскольку компания выпускает ИИ-чип для кон...
Компании, несоблюдающие правила, могут быть оштрафованы до 7 процентов их глобального оборота. Запреты на запрещенный AI вступят в силу через шесть месяцев, требования к прозрачности – через 12 месяцев, а полный набор правил – примерно через два года.
Также включены меры, которые должны облегчить защиту авторских прав от генеративного AI и требовать от общецелевых систем AI большей прозрачности в отношении их энергопотребления.
“Европа выступила в качестве пионера, понимая важность своей роли в качестве установщика глобального стандарта”, – сказал европейский комиссар Тьерри Бретон на пресс-конференции в пятницу вечером.
За два года, когда законодатели вели переговоры по согласованным сегодня правилам, технологии ИИ и основные озабоченности об этом существенно изменились. Когда в апреле 2021 года зарождался AI-акт, политики были обеспокоены непрозрачными алгоритмами, определяющими, кто получит работу, будет ли ему предоставлен статус беженца или получит ли он социальные пособия. К 2022 году появились примеры активного нанесения вреда людям AI. В голландском скандале решения, принимаемые алгоритмами, приводили к принудительному разделению семей, а студенты, обучающиеся удаленно, утверждали, что системы AI дискриминируют их на основе цвета их кожи.
Затем, в ноябре 2022 года, OpenAI выпустил ChatGPT, что существенно изменило дебаты. Прыжок в гибкости и популярности ИИ вызвал тревогу у некоторых экспертов по ИИ, которые проводили гиперболические аналогии между ИИ и ядерным оружием.
Эта дискуссия проявилась в переговорах по AI-акту в Брюсселе в форме дебатов о том, следует ли рассматривать производителей так называемых фундаментальных моделей, таких как модель за ChatGPT, как OpenAI и Google, как источник потенциальных проблем и соответствующе регулировать или следует ли новые правила сконцентрировать на компаниях, использующих эти фундаментальные модели для создания новых приложений, работающих на базе ИИ, таких как чат-боты или генераторы изображений.
Представители индустрии генеративного искусственного интеллекта Европы выразили осторожность относительно регулирования фундаментальных моделей, считая, что это может затормозить инновации среди стартапов с искусственным интеллектом в блоке. “Мы не можем регулировать двигатель, лишенный использования”, – заявил в прошлом месяце Артур Менш, генеральный директор французской компании по искусственному интеллекту Mistral. “Мы не регулируем язык программирования C, потому что его можно использовать для разработки вредоносного программного обеспечения. Вместо этого мы запрещаем вредоносное программное обеспечение”. Основная модель Mistral 7B будет освобождена от предписаний, согласованных сегодня, поскольку компания все еще находится в фазе исследования и разработки, – заявила на пресс-конференции Карме Артигас, государственный секретарь Испании по цифровизации и искусственному интеллекту.
Основным спорным вопросом во время финальных обсуждений, которые продолжались поздно ночью дважды на этой неделе, стало, должны ли правоохранительные органы иметь возможность использовать технологию распознавания лиц или другие виды биометрии для идентификации людей в режиме реального времени или задним числом. “Оба метода уничтожают анонимность в общественных местах”, – говорит Даниэль Лейфер, старший аналитик политики в группе по правам в сети Access Now. Технология распознавания лиц в реальном времени может идентифицировать человека, стоящего на вокзале прямо сейчас, используя видеопотоки с камер безопасности, объясняет он, в то время как “получение” или задне-числовое биометрическое идентификация может определить, что тот же самый человек также посещал вокзал, банк и супермаркет вчера, используя заранее сохраненные изображения или видео.
Лейфер сказал, что он разочарован “лазейками” для правоохранительных органов, которые, по-видимому, были встроены в окончательную версию закона, которая была принята сегодня.
Медленная реакция европейских регуляторов на появление эры социальных медиа нависла над обсуждениями. Прошло почти 20 лет между запуском Facebook и принятием Директивы о цифровых услугах – правил ЕС, разработанных для защиты прав человека в сети, вступивших в силу в этом году. За это время блоку пришлось иметь дело с проблемами, созданными американскими платформами, не сумев поддержать своих более маленьких европейских конкурентов. “Возможно, мы могли бы лучше предотвратить [проблемы] ранним регулированием”, – сказал Брандо Бенифей, один из двух главных переговорщиков Европейского Парламента, в интервью для ENBLE в июле. Технологии искусственного интеллекта развиваются быстрыми темпами. Но потребуется еще много лет, чтобы можно было сказать, насколько успешен Закон об искусственном интеллекте в сдерживании негативных последствий последнего экспорта из Силиконовой Долины.
