«Мы можем бесповоротно потерять контроль над автономным искусственным интеллектом», предупреждают ведущие ученые
«Нам грозит полная потеря контроля над автономным искусственным интеллектом», предостерегают выдающиеся ученые»
Появляется все больше открытых писем, предупреждающих об угрозах искусственного интеллекта – выдающиеся технологи и исследователи подают сигнал тревоги о неконтролируемом развитии, настоящих универсальных угрозах и отсутствии регулирования.
Теперь, всего за неделю до саммита AI в Лондоне, новое письмо призывает компании и правительства обеспечить безопасное и этическое использование искусственного интеллекта. В числе подписантов семеро академиков из Европы, трое лауреатов премии Тьюринга, и даже так называемые “отцы-основатели” искусственного интеллекта, Йошуа Бенджио и Джеффри Хинтон.
Как ни странно, в прошлом году Хинтон покинул Google, чтобы свободно говорить о надвигающихся опасностях искусственного интеллекта. Чтобы усилить дистопическую атмосферу, за месяц до этого Илон Маск предупредил, что искусственный интеллект может привести к “разрушению цивилизации”, и глава Google Сундар Пичаи признал, что эти опасности “не дают ему покоя”.
В письме, опубликованном во вторник, подписанты подчеркнули, что нехватка инвестиций в безопасность и снижение вреда может привести к прямо противоположным результатам.
Они отметили, что искусственный интеллект уже превзошел возможности человека в некоторых областях, предупреждая, что “могут возникнуть непредвиденные возможности и поведение” без явного программирования.
- Вот как получить Shark FlexStyle по самой низкой возможной цене
- «Как предзаказать AR-очки XREAL Air 2 и XREAL Air 2 Pro»
- Mощные новые процессоры Qualcomm превосходно справляются с генерати...
“Без достаточной осторожности мы можем непоправимо потерять контроль над автономными системами искусственного интеллекта, что сделает человеческое вмешательство бесполезным”, – гласит письмо. Это может привести к серии тревожных и нарастающих угроз, начиная от киберпреступности и социальной манипуляции до потери биосферы и… вымирания.
В связи с этим подписанты призывают компании выделять на исследования и разработку в области безопасности и этики искусственного интеллекта как минимум треть своего бюджета на НИОКР. Они также призывают правительства установить стандарты и регулирования и способствовать международному сотрудничеству, чтобы предотвратить бессознательное и неправильное использование.
Грядущий AI Act ЕС станет первым в мире специфическим законодательством об искусственном интеллекте, которое будет предпринимать попытки установить четкий набор правил развития этой технологии. Но несмотря на предупреждения, сектор бизнеса выражает другие опасения, опасаясь, что регулирование приведет к подавлению инноваций.
Действительно, сохранение равновесия между регулированием и прогрессом в области искусственного интеллекта представляет собой одну из самых больших проблем, с которыми сталкиваются сегодня правительства. Но сложность этой задачи не должна (и не должна) означать, что вопросы безопасности и управления являются второстепенными.
“Для того чтобы правильно управлять искусственным интеллектом и избежать катастрофы, нам нужно изменить наше направление. Есть ответственный путь, если мы обладаем этой мудростью”, – заключают академики.
