Внутри закрытой встречи Сената с миллиардерами технологического мира по искусственному интеллекту
Senate's closed meeting with billionaire tech leaders on artificial intelligence
Сенаторы США доказывают свою медлительность, когда речь идет о генеративных инструментах искусственного интеллекта, которые готовы перевернуть нашу жизнь. Но они скоро будут проверены – и все мы через них – если можно доверять их новым частным учителям.
Впервые в истории вчера более 60 сенаторов сидели как школьники – им не разрешалось говорить или поднимать руки – на частном брифинге, где около 20 глав исполнительных директоров из Силиконовой Долины, этикеты, ученые и защитники прав потребителей пророчили о потенциале ИИ изменить, исцелить или даже стереть жизнь, какую мы знали.
«Для нас важно иметь судью», – сказал Илон Маск, генеральный директор Tesla, SpaceX и X (ранее Twitter), толпе папарацци-пресс-корпуса, ожидающей на тротуаре возле брифинга. «Это может войти в историю как очень важное для будущего цивилизации».
Вес момента не ускользает от никого, особенно после того, как Маск предупредил сенаторов внутри комнаты о «гражданских рисках» генеративного ИИ.
Пока многие сенаторы борются с основами ИИ, у них всё ещё есть время повлиять на коллективное мышление Сената, прежде чем законодатели попытаются сделать то, чего им не удавалось сделать в последние годы: регулировать развивающуюся дисруптивную технологию.
- Лучшие аэрофритюрницы на 2023 год
- Лучшие аксессуары для Apple AirTag, которые вы можете купить
- Blackmagic Design представляет свою первую полнокадровую модель ...
В комнате брифинга было согласие на то, что необходима регуляторная сила федерального правительства. В один момент лидер большинства в Сенате Чак Шумер, демократ из Нью-Йорка, организовавший брифинг, спросил своих собранных гостей: «Нужно ли правительству играть роль в регулировании ИИ?»
«Каждый человек поднял руку, даже несмотря на разные точки зрения», – продолжил Шумер. – «Так что это дает нам здесь сообщение: мы должны попытаться действовать, несмотря на то, насколько труден этот процесс».
Поднятие разных рук ощущалось откровенным для многих.
«Я думаю, что все согласились с тем, что нам нужно лидерство правительства в этом вопросе», – сказал Сэм Альтман, генеральный директор OpenAI, создателя ChatGPT. – «Некоторые не согласны с тем, как это должно произойти, но все единодушно согласны, что это важно и срочно».
Однако дьявольские детали преследуют. Поскольку генеративный ИИ охватывает все, дискуссия о его регулировании может быстро расшириться, чтобы включить в себя все противоречивые вопросы, что было продемонстрировано на брифинге рядом с единством, по словам участников, которые говорили с ENBLE.
К удивлению многих, на сессии было множество конкретных моментов. Некоторые участники высказали свою необходимость в более высококвалифицированных работниках, в то время как Билл Гейтс сосредоточился на питании голодающих во всем мире. Некоторые представляют себе обширное новое агентство по ИИ, в то время как другие утверждают, что существующие организации, такие как Национальный институт стандартов и технологий (NIST), которые упоминались по имени, лучше всего подходят для регулирования в реальном времени (ну, во времени ИИ).
«Это было очень хорошее сочетание. Лучше, чем я ожидал», – говорит сенатор Синтия Ламмис, республиканец из Вайоминга, посетивший брифинг. – «Я ожидал, что это будет пустым разговором, но я узнала много. Я думаю, что это было чрезвычайно полезно, поэтому я очень рада, что я пошла. Очень рада».
Как и многие в комнате, Ламмис заинтересовалась, когда один из спикеров упомянул Секцию 230 Закона о приличии коммуникаций 1996 года – законодательный щит, защищающий технологические фирмы от ответственности за то, что пользователи публикуют на своих платформах социальных медиа.
«Один из спикеров сказал: “Сделайте пользователей и создателей технологии ответственными, а не защищенными от ответственности”», – говорит Ламмис, читая свои подробные записи, написанные от руки. – «Иными словами, он явно сказал: «Не создавайте Секцию 230 для ИИ». Ламмис добавляет, что спикер, предложивший это – она его не определила – “сидел рядом с [генеральным директором Meta Марком] Цукербергом, и он сказал это – на расстоянии одного или двух сидений, что я нашла увлекательным».
Кроме разнообразных мнений законодателей, среди экспертов, приглашенных выступить на частном брифинге, также были разногласия. Участники форума и другие технологические лидеры говорят о создании и расширении преимуществ ИИ, но многие латиноамериканцы до сих пор не имеют доступа к широкополосному интернету, говорит Янет Мургия, президент организации “UnidosUS” по защите гражданских прав латиноамериканцев. Эта реальность подчеркивает, как «существующие проблемы с инфраструктурой помешали нам быть на переднем плане ИИ», – говорит она.
Мургия хочет, чтобы законодатели думали о потребностях испанскоговорящего сообщества, чтобы приоритизировать профессиональную подготовку, бороться с угрозой увольнения и защищать от “наблюдения, которое уходит от ценностей нашей демократии”. В частности, она упомянула инструменты на основе ИИ, такие как отслеживание местоположения и распознавание лиц, указывая на отчет, опубликованный на этой неделе, который утверждает, что федеральные правоохранительные органы, использующие распознавание лиц, не имеют механизмов защиты частной жизни и гражданских прав людей.
Резонансное сообщение, которое она услышала от генеральных директоров технологических компаний, было желание лидерства США в политике и регулировании искусственного интеллекта. «Было ясно слышно, что США должны занять лидирующую позицию в политике и регулировании искусственного интеллекта», – говорит она.
Мургия была рада видеть женщин, таких как Майя Вайли из Конференции по гражданским и человеческим правам, и лидеров профсоюзов на форуме, представительство, которое она назвала впечатляющим и историческим. Но она хочет видеть людей из разных сегментов общества в комнате на следующем форуме, говоря: «У нас не может быть одного и того же небольшого круга людей, не разнообразных, принимающих эти решения».
В своих заявлениях во время вчерашнего брифинга президент Американской федерации учителей Ранди Уингартен подчеркнула, что дезинформационную кампанию можно осуществить всего за 400 долларов. Позже Тристан Харрис из Центра гуманной технологии рассказал о том, как за 800 долларов и несколько часов работы он удалил контроли безопасности языковой модели Llama 2 от Meta и сделал ее доступной для инструкций по созданию биологического оружия.
«Это как будто мы спорили о том, как мало стоит разрушить мир», – говорит Уингартен, указывая на комментарий Маска о том, что искусственный интеллект может означать конец цивилизации.
Уингартен отдает должное Шумеру за объединение людей в критический момент в истории, когда есть огромный потенциал искусственного интеллекта для блага человечества и огромный потенциал подрыва демократии и принятия решений человеком. Учителя и ученики заслуживают защиты от неравенства, кражи личности, дезинформации и других вредов, которые может причинить искусственный интеллект, говорит она, и значимое федеральное законодательство должно защищать конфиденциальность и стремиться разрешить проблемы, такие как угроза увольнения с работы.
«Мы хотим брать на себя ответственность за сопровождение инноваций и считаем, что это делает инновации устойчивыми, как коммерческий воздушный транспорт и пассажирские авиалинии. Инновации не могли бы быть устойчивыми без реальной заботы о безопасности», – говорит Уингартен.
Перед форумом Иниолува Деб Раджи, исследователь UC Berkeley, утверждал, что наиболее надежными экспертами по реальным вредам, причиняемым искусственным интеллектом, являются те, кто вне корпораций. Она сказала ENBLE, что благодарна, что она была в комнате, чтобы подтвердить свое мнение.
Несколько раз она слышала, как люди доводили, что причина того, что крупные компании по искусственному интеллекту и администрация Байдена согласились, что корпорации могут возглавить добровольные обязательства по оценке систем искусственного интеллекта перед внедрением, заключается в том, что эти компании сами разработали технологию и поэтому лучше ее понимают.
Она сказала, что, возможно, это так, но слушание людей, пострадавших от систем искусственного интеллекта и изучение, как они на них влияют, предлагает другую форму действительной и важной экспертизы, которая может информировать регулирование искусственного интеллекта и помогать разрабатывать стандарты. Она знает из опыта аудита систем искусственного интеллекта в течение многих лет, что эти системы не всегда работают очень хорошо и могут выходить из строя неожиданным образом и подвергать опасности жизни людей. Работа независимых аудиторов, она утверждала во время брифинга, открывает больше возможностей для исследования гражданским обществом.
«Я рада, что могла поднять некорпоративные вопросы, но мне хотелось бы иметь больше поддержки», – говорит Раджи.
Поднялись некоторые хорошо известные напряженности, такие как то, является ли открытый или закрытый искусственный интеллект лучшим, и важность того, чтобы обращать внимание на то, как существующие сегодня модели искусственного интеллекта наносят вред людям, а не только рассматривать существенные риски, которых еще нет. В то время как Маск, который подписал письмо в поддержку приостановки развития искусственного интеллекта в начале года, говорил о возможности искусственного интеллекта уничтожить цивилизацию, Раджи критиковала искусственный интеллект автопилота Tesla, который столкнулся с критикой после гибели пассажиров.
«Может быть, мне стоило бы больше интересоваться независимым богатством людей, сидящих на два шага от меня, но мне кажется, что это не было таким пугающим, потому что я знала, что они повторяют те же самые вопросы, которые я слышала от корпоративных представителей этих компаний на этих же самых темах, поэтому я представляла, что ожидать», – говорит она.
Несмотря на некоторые разногласия, Раджи говорит, что некоторые из самых сильных и удивительных моментов встречи произошли, когда образовался консенсус о необходимости правительственного регулирования искусственного интеллекта. Эти моменты показали, что может быть путь к двухпартийному законодательству. «Это было довольно образовательно для меня, и, вероятно, для сенаторов», – говорит она.
Все еще многие республиканцы неохотно относятся к новому регулированию, поэтому председатель Сенатского комитета по коммерции Мария Кантвелл, демократ из штата Вашингтон, была поражена тем, как генеральный директор Microsoft Сатья Наделла поставил задачу.
«‘Когда речь идет об искусственном интеллекте, мы не должны думать об автопилоте – нужно иметь пилотов. Так кто будет следить, знаете ли, за этой деятельностью и убедиться, что она выполняется правильно?» – говорит Кантвелл.
Хотя главам исполнительных директоров, лидерам профсоюзов и защитникам гражданских прав было предложено поднять руку, чтобы выразить консенсус, одним из недостатков запрета на выступления сенаторов, по мнению критиков с обеих сторон аллеи, было то, что законодатели не могли легко определить, где находятся их союзники в Сенате. А коалиции – это ключ к компромиссу.
“В комнате нет никакого чувства,” говорит сенатор Элизабет Уоррен, демократ из Массачусетса. “Закрытые сессии, на которых представители крупных технологических гигантов могут приходить и разговаривать с сенаторами, не отвечая на сложные вопросы, являются ужасным прецедентом для разработки любого законодательства.”
В то время как Уоррен сидела в первом ряду – достаточно близко, чтобы все видели горящий огонь в ее глазах, сосредоточенном на защите прав потребителей – другие критики бойкотировали это мероприятие, даже если они искали толпы журналистов, собравшихся в коридорах.
“Моим беспокойством является то, что законодательство Шумера не приведет ни к чему. Я не видел никаких признаков того, что он действительно собирается вынести на рассмотрение реальное законодательство. Это немного похоже на последние два года работы в области антимонопольного законодательства – он постоянно говорит об этом, но ничего не делает”, говорит сенатор Джош Хоули, республиканец из Миссури. “Частью всего этого является много показательной активности, которая скрывает тот факт, что ничего не продвигается. Весь тот факт, что это не является публичным, просто абсурдно.”
Абсурдно или нет, некоторые внутри были успокоены, в частности, потому что сенаторам напомнили, что искусственный интеллект – это не только наше будущее, но и был в нашей жизни уже десятилетиями – от социальных медиа до поисковых систем Google, от автономных автомобилей до видеоколокольчиков – и мир от этого не разрушился.
“Я узнал, что у нас все хорошо, и я не слишком обеспокоен этим”, говорит сенатор Роджер Маршалл, республиканец из Канзаса. “Я думаю, что искусственный интеллект существует уже десятилетия, основная часть из него – машинное обучение.”
Маршалл выделяется как исключение, хотя его либеральное мышление становится модным в рядах Республиканской партии, что, по мнению критиков, связано с лоббированием со стороны фирм, чьи лидеры были на вчерашнем брифинге.
“Хорошая новость в том, что Соединенные Штаты занимают лидирующую позицию в этом вопросе. Я думаю, что если мы останемся на передовых позициях, как с военными достижениями, так и с инвестициями в спутники, у нас все будет в порядке”, – говорит Маршалл. “Я очень уверен, что мы движемся в правильном направлении.”
Тем не менее, студенты-участники остались с обновленным чувством срочности, даже если для этого необходимо изучить технологию, которую немногие действительно понимают, включая тех, кто находится на сцене. Кажется, чем больше сенаторы узнают о всепроникающем масштабе генеративного искусственного интеллекта, тем больше они понимают, что нет предела новой регулятивной роли Сената.
“Мы готовы приступить к написанию законодательства? Абсолютно нет,” – говорит сенатор Майк Раундс, республиканец из Южной Дакоты, который помогал Шумеру вести бипартийные форумы по искусственному интеллекту, следующий из которых будет посвящен инновациям. “Мы не дотягиваем.”
В том, что когда-то считалось “самым величайшим делиберативным органом в мире”, даже время для принятия законодательства подлежит обсуждению. “Все кивают головами, говоря: ‘Да, это то, на что нам нужно реагировать’, так что теперь вопрос в том, ‘Сколько времени займет проведение переписи?'”, говорит сенатор Джон Хикенлупер, демократ из Колорадо. “Но в общих чертах, я думаю, что не стоит ожидать, что мы что-то сделаем в следующем году.”
