Бум генеративного искусственного интеллекта может разжечь новую международную гонку вооружений
Бум ГИИ может вызвать новую гонку вооружений.
Правительства по всему миру спешат принять алгоритмы, которые внесли некую подобие интеллекта в ChatGPT, очевидно, очарованные огромными экономическими выгодами, ожидаемыми от этой технологии.
Два новых отчета, опубликованных на этой неделе, показывают, что государства также, вероятно, спешат адаптировать ту же технологию для создания оружия дезинформации, что может привести к тревожной гонке в области искусственного интеллекта между великими державами.
Исследователи RAND, некоммерческого исследовательского центра, который консультирует правительство США, указывают на доказательства того, что китайский военный исследователь, обладающий опытом информационных кампаний, публично обсуждает то, как генеративный искусственный интеллект может помочь в этой работе. В одной научной статье от января 2023 года предлагается использовать большие языковые модели, такие как настроенная версия BERT от Google, предшественник более мощных и способных языковых моделей, которые приводят в действие чатботы, такие как ChatGPT.
“Сейчас нет доказательств того, что это уже происходит”, – говорит Уильям Марчеллино, эксперт по искусственному интеллекту и старший поведенческий и социальный ученый в RAND, который внес свой вклад в отчет. – “Это скорее указание на то, что существует путь вперед”. Он и другие сотрудники RAND тревожатся о возможности получения нового масштаба и силы влияния на информационные кампании благодаря генеративному искусственному интеллекту. “Создание системы, позволяющей создавать миллионы фейковых аккаунтов, притворяющихся тайваньцами, американцами или немцами, которые продвигают государственный нарратив – я считаю, что это качественно и количественно отличается”, – говорит Марчеллино.
- Ford строит раллийную версию Mach-E
- Британское правительство отрицает изменение своего плана по сканиро...
- GoPro представляет свою последнюю экшн-камеру, Hero12 Black | ENBLE
Информационные кампании в сети, подобные той, которую провела Интернет-агентство исследований России для подрыва выборов в США в 2016 году, существуют уже много лет. Они в основном зависят от ручного труда – работы человека за клавиатурой. Но алгоритмы искусственного интеллекта, разработанные в последние годы, могут потенциально массово производить тексты, изображения и видео, предназначенные для обмана или убеждения, а также взаимодействовать с людьми на платформах социальных сетей. Недавний проект предлагает, что запуск такой кампании может обойтись всего в несколько сотен долларов.
Марчеллино и его соавторы отмечают, что многие страны, включая США, практически наверняка изучают возможности использования генеративного искусственного интеллекта для собственных информационных кампаний. И широкий доступ к инструментам генеративного искусственного интеллекта, включая множество открытых языковых моделей, которыми может воспользоваться и изменить любой желающий, снижает порог для тех, кто хочет запустить информационную кампанию. “Разнообразные актеры могут использовать генеративный искусственный интеллект для манипуляции в социальных сетях, включая технически подкованных негосударственных акторов”, – пишут они.
Второй отчет, опубликованный на этой неделе, другим технически ориентированным исследовательским центром, Special Competitive Studies Project, также предупреждает, что генеративный искусственный интеллект в скором времени может стать способом для государств показать свою силу друг перед другом. Он призывает правительство США вкладывать значительные средства в генеративный искусственный интеллект, потому что эта технология обещает улучшить множество отраслей и обеспечить “новые военные возможности, экономическое процветание и культурное влияние” для той нации, которая освоит его первой.
Как избежать кошмарного сценария переполненности интернета ИИ-ботами, программированными для информационной войны? Это требует общения между людьми.
Отчет SCSP рекомендует США “вести мировое взаимодействие для продвижения прозрачности, развития доверия и поощрения сотрудничества”. Исследователи RAND рекомендуют, чтобы дипломаты США и Китая обсудили генеративный искусственный интеллект и риски, связанные с этой технологией. “Нам может быть всем выгодно, чтобы интернет не был полностью загрязненным и неправдоподобным”, – говорит Марчеллино. Я думаю, что это то, с чем мы все можем согласиться.
