Джо Байден имеет тайное оружие против киллер-ИИ. Это бюрократы
Джо Байден обладает секретным оружием против киллер-ИИ. Это бюрократы
По мере приближения первого дня рождения ChatGPT, поступают подарки для этой мощной языковой модели, которая потрясла весь мир. От президента Джо Байдена поступает огромный «Указ о безопасном, надежном и надежном развитии и использовании искусственного интеллекта». А премьер-министр Великобритании Риши Сунак устроил вечеринку с темой вымирания человечества и заключил 28-странное соглашение (с учетом ЕС как единой страны), обещающее международное сотрудничество в ответственной разработке ИИ. С днем рождения!
Зарегистрироваться для получения текста
Прежде чем кто-то будет слишком взволнован, давайте вспомним, что с тех пор прошло более полувека со времени, когда надежные исследования прогнозировали катастрофические изменения климата. Сейчас, когда вода буквально натекает к нам под ноги, а жара делает целые участки цивилизации непригодными для жизни, мировой порядок едва ли сделал хоть какой-то шаг в направлении гигатонн выбросов углекислого газа от фоссильного топлива в атмосферу. Соединенные Штаты только что назначили сторонника отрицания климатических изменений на второе место в президентской линии преемственности. Удастся ли достичь прогресса в регулировании ИИ?
- 15 веселых игрушек для подарка детям в праздничный сезон
- Запускается проект искусственного интеллекта Илона Маска. Он утверж...
- Повысьте качество своего следующего марафона просмотра сериалов с B...
Есть некоторые основания так подумать. В отличие от проблемы климата, где мультивитрильная отрасль провела всеобщую кампанию, чтобы опровергнуть угрозы и противодействовать необходимым мерам по сокращению выбросов углерода, крупные игроки в области ИИ, кажется, умоляют о регулировании. Они, конечно, защищают свои собственные интересы, но по крайней мере они признают, что нужны правила. Кроме того, в отличие от случая с климатом, правительства в ранней стадии развития технологии серьезно относятся к угрозам ИИ. И план Байдена, и международное соглашение представляют собой похвальные серьезные усилия по регулированию ИИ до того, как он начнет контролировать нас.
Учитывая это, кажется почти мелочным позаботиться о самом содержании. Но я все равно это сделаю. Давайте начнем с указа Байдена. Я прочитал все 19 811 слов правительственного бюрократического языка, чтобы вам не пришлось. К концу меня клонило к принятию головных болей. Как президент собирается поощрять преимущества ИИ, в то время как приручает его темную сторону? Он освободит волну бюрократии. Документ цинично требует создания новых комитетов, рабочих групп, советов и задачных групп. Также постоянно звучит требование добавить надзор над ИИ в задачи текущих гражданских служащих и политических назначенцев.
Среди того, чего не хватает документу, является твердая правовая основа для всех регуляций и предписаний, которые могут вытекать из плана: указы президента часто отменяются судами или заменяются Конгрессом, который рассматривает свою собственную регулировку ИИ. (Впрочем, не держите дыхание, так как надвигается блокировка правительства.) И многие решения Байдена зависят от саморегулирования отрасли, находящейся под наблюдением, которая имела существенное влияние на инициативу.
Нельзя обвинять указ Байдена в отсутствии понимания всего спектра проблем. Практически каждый горячий вопрос ИИ в какой-то мере затронут, даже если только с целью обещания найти решения позже. (Вот как он решает сложный вопрос генеративного ИИ и авторских прав.) В целом, это поразительное обязательство мобилизовать правительственную бюрократию для решения каждого заботливого аспекта нового класса технологий, включая те, о которых большинство из нас никогда не задумывался. В параграфе за параграфом Белый дом заказывает сложные межведомственные исследования, каждое из которых предполагает глубокое взаимодействие с отраслью и консультации с экспертами. План Байдена поручает бюрократам производить сложные отчеты так же легко, как кто-то заказывает еду DoorDash.
Министерство внутренней безопасности США создаст Комитет по обеспечению безопасности и сохранности искусственного интеллекта; Министерство здравоохранения и социальных услуг организует рабочую группу по искусственному интеллекту; Директор Управления бюджета будет созывать межрегиональный совет для координации использования искусственного интеллекта. И так далее. Будет достаточно сложно убедиться, что включенные в группы посторонние лица не будет мучать конфликт интересов. (Людям, служащим в советах и комитетах, состоящих исключительно из правительственных людей, придется подождать, чтобы занять места в офисах AI-компаний в Вашингтоне.) Главной рабочей группой по искусственному интеллекту будет Совет по искусственному интеллекту Белого дома, включающий более 30 бюрократических деятелей, от Председателя Объединенного комитета начальников штабов до Директора Совета по вопросам политики по гендерным вопросам. Это будет настоящим разорванным платежом для Zoom!
Изучая указание, можно подумать, что в ближайший год половина исполнительной власти будет углублена в работу по искусственному интеллекту. До конца этого года все, начиная от Генерального прокурора до Министра сельского хозяйства, будут вынуждены набирать номер Сэма Алтмана на скоростном наборе, чтобы получить некоторую информацию. Я пересчитал сроки для различных отчетов и задач, которые Байден предписал. Два из них должны быть завершены в течение 30 дней, шесть – в течение 60 дней, пять – в течение 45 дней, 11 – в течение 90 дней, семь – в течение 120 дней, три – в течение 150 дней, 38 – в течение 180 дней, 11 – в течение 270 дней и еще 11 – в течение 365 дней. Чтобы не вас нагружать математикой, я подсчитал все эти задачи: 94. И есть также много других отчетов и задач, выполнение которых не требует сроков. Один из типичных примеров: Председатель Совета по экономическим вопросам должен подготовить и представить, как предполагается, диссертационный уровень отчета о “влиянии искусственного интеллекта на рынок труда”. Кажется, эту работу можно доверить GPT-4! Некоторые запросы сформулированы нечетко, например, “поощрение” Федеральной комиссии связи и Федеральной торговой комиссии рассмотреть список действий. Но выполнение каждого из них потребует утомительного выполнения, включая встречи, черновики, интервью, консультации с ведущими представителями отрасли и академиками, а также спасение на последних минутах.
Непонятно, смогут ли сотрудники правительства выполнить эти задачи. Силиконовая долина отчаянно ищет специалистов по искусственному интеллекту и ожесточенно конкурирует за их найм. Для выполнения некоторых высокотехнологичных задач, таких как проверка “фронтальных” LLM, даже более мощных, чем текущие потрясающие чатботы, потребуются программисты высшего уровня, знакомые с “командным решением”, исключением предвзятости из наборов данных и механикой “машин, расположенных физически в одном центре обработки данных, экспресс-соединенных сетевыми соединениями пропускной способностью 100 Гбит/с и имеющих теоретическую максимальную вычислительную мощность 1020 целых или точечных операций в секунду для обучения искусственного интеллекта”. Это большая просьба для правительства. В указе Байдена также говорится, что каждому крупному ведомству необходимо назначить районного агента по искусственному интеллекту в течение 60 дней, требование, подкрепленное Белым домом, который в течение трех лет не смог заполнить вакансию главного технологического сотрудника.
В указе также указывается, что на официальном веб-сайте AI.gov должна быть отведена некоторая часть страниц для набора персонала. На главной странице посетителей призывают “присоединиться к национальной вспышке талантов по искусственному интеллекту”. Но даже самые остроумные мемы могут испытывать трудности в привлечении недавних выпускников, обученных в области искусственного интеллекта, учитывая предложения о зарплатах во многих разрядах от Google или OpenAI. Один отличный идейный замысел в указе предлагает изменить иммиграционную политику для снятия текущих преград для талантливых исследователей по искусственному интеллекту, стремящихся работать в Соединенных Штатах. Но я подозреваю, что противники любых исключений, увеличивающих иммиграцию, то есть все республиканцы, могут возразить против этого. Может быть, подобно другим указам президента в области иммиграции, его решение будет оспариваться в суде. Дженнифер Палка, помогавшая создать службу Цифрового сервиса США, написала, что для удовлетворения внезапной потребности в экспертах по искусственному интеллекту правительство должно просто модернизировать свои застаревшие методы найма. Она пишет: “Искусственный интеллект собирается накрыть нас, как грузовик Мака. Нам нужна работающая государственная служба, и нам это нужно сейчас”. Маловероятно, что предлагаемая ею модернизация произойдет в срок, чтобы выполнить все эти задачи в 60, 90 или даже 270 дней.
В отличие от детального плана задач, являющегося указом Байдена, Блетчлийская Декларация Риши Сунака выглядит как выражение добрых намерений. Достижением является не указание на какие-либо меры, а подписание одним документом всех этих стран перед возвращением домой. Многие из отдельных подписантов, в частности ЕС и Китай, уже далеко продвинулись в своем пути к регулированию искусственного интеллекта, но как единое целое международное сообщество все еще находится на стадии старта. В документе, состоящем из менее чем 1 200 слов – короче этого эссе, отмечаются перспективы и риски искусственного интеллекта и предостерегают людей, создающих его, сделать это ответственно. Конечно же, Google, Microsoft и другие скажут вам, что они уже так делают. И отсутствие конкретики кажется противоречащим предпосылке декларации о срочности положения. “Существует потенциал для серьезного, даже катастрофического вреда” от моделей искусственного интеллекта, – говорится в документе, очевидно, имея в виду человеческое вымирание. Но также признаются проблемы, включая предвзятость, прозрачность, конфиденциальность и данные, и подписанты “подтверждают необходимость и срочность их решения”. Однако единственный срок в этом документе – это обещание снова встретиться в 2024 году. К тому времени администрация Байдена будет занята от
Борьба с ИИ в то время, когда мы пытаемся извлечь его преимущества, продолжается уже десятилетия. Я задумывался над этой диалектикой, когда писал предисловие к теперь уже знаменитому матчу между чемпионом по шахматам Гарри Каспаровым и компьютером Deep Blue от IBM в мае 1997 года. На обложке Newsweek была надпись: “Последний бой мозга”.
В этой эпохальной схватке между клеткой и электрическим контуром есть глубокая ирония. Deep Blue – это машина, но ее обучение состоит из программирования и шахматных уроков от увлеченных людей. Каспаров является героем человечества, но он сражается против компьютера, работающего на сложной программе. Подготовка с обеих сторон отражает отношения, которые мы все развиваем с кремниевыми зайцами, которые вторгаются в домены, которыми мы когда-то владели. Мы не конкурируем, мы сотрудничаем. Если бы компьютеры были отобраны у нас, самолеты остановились бы, машины заглохли, телефоны вышли бы из строя, кассовые аппараты затихли, печатные прессы приостановились, а рынок был бы разрушен. Кремний является нашим последним протезом; индустриализованный мир – это киборг-культура, и большая часть умной работы человечества выполняется, сколько-нибудь неуютно, с нашими цифровыми спутниками. Компьютеры и люди находятся в этом вместе. По крайней мере, пока что.
Вот почему мы с некоторым беспокойством подходим к исторической встрече на этой неделе. Условия партнерства подвержены изменениям. Мы, люди, можем быть хитрее, но они становятся все умнее с каждым квантовым скачком. И есть одно слово, которое мы не хотим слышать от наших кремниевых собратьев: “шах и мат”.
Габор спрашивает: “Какую долю новостей и информационных бюллетеней напишут ЛЛМы через год, и как это изменит новостную индустрию?”
Спасибо, Габор. Рад, что я выбрал этот вопрос у тебя до того, как T2/Pebble, к сожалению, закрылся.
Теперь к твоему ответу: Я не знаю, изменит ли ИИ драматически журналистическую сферу в течение года. У меня нет сомнений в том, что процентное соотношение статей, созданных ИИ, будет высоким, но большая часть того, что люди действительно читают, все еще будет создана людьми. Это потому, что на данный момент результаты ChatGPT и других систем не приближаются к тому, что может создать даже средний журналист. Когда издания пытаются использовать контент ИИ, он чаще всего получается низкого качества. И использование такого контента вызовет серьезное недовольство у настоящих журналистов, работающих в изданиях.
В среднесрочной перспективе, возможно, через три-пять лет, я думаю, что комбинация лучших ЛЛМов и более умных подходов к их использованию, вероятно, изменит это соотношение, особенно в отношении кликбейтных статей с заманчивыми заголовками. Мне не было бы удивительно, если генеративный ИИ станет более эффективным в том, чтобы заставлять людей нажимать на эти статьи на самых низкоуровневых ресурсах, даже более циничных копирайтеров и создателей заголовков. Но это не повлияет на издания более высокого качества. В настоящее время победителями в новостной индустрии кажется быть издания, в которых высококачественные репортажи и тексты привлекают подписчиков, в отличие от тех, которые просто стремятся к трафику.
Долгосрочный ответ более неопределенный. Я просто не знаю, насколько хорошо эти системы смогут создавать журналистику. Через десять или двадцать лет “Plaintext” может быть написан одним из этих передовых ИИ-писателей. Заметили бы люди? Боже, я надеюсь.
Вы можете задать вопросы на [email protected]. Укажите в строке темы: ЗАПРОС ЛЕВИ.
Встреча килоновы – столкновение двух нейтронных звезд. Если одно из таких событий произойдет в пределах 36 световых лет от Земли, все жизнь будет искоренена на тысячи лет. По крайней мере, нам не придется беспокоиться об ИИ.
Вот еще один обзор указа Байдена.
Отчет ENBLE из Лондона о саммите по безопасности ИИ в Великобритании
Режиссер фильмов «Дэдпул» и «Ночь в музее» высказывается о потоковой передаче контента и Тейлор Свифт.
В Багамах стало лучше – после ухода Сэма Бэнкмена-Фрида.
