Компания по искусственному интеллекту на поле битвы заявляет, что она из тех хороших ребят.
The AI company claims they are one of the good guys on the battlefield.
На экране передо мной находится горный хребет. Со стороны верхнего правого угла приближается зловещая желтая точка. Я подозреваю, что это вражеский дрон, но это также может быть птица или гражданский самолет, поэтому я прошу дальнюю камеру сфокусироваться на ней. В течение нескольких секунд она возвращает снимок ширококрылого военного дрона. Входящая точка меняется с желтого на красный, что означает угрозу.
Это может показаться игрой, но это не так. Эта технология предназначена для использования реальными военными. И это первый раз, когда компания по разработке оборонной технологии Helsing AI показывает журналисту, как выглядит продаваемое ею программное обеспечение. Флагманская система Helsing абсорбирует огромные объемы данных, генерируемых сенсорами (электрооптическими, инфракрасными, гидролокационными) и системами оружия (истребители, дроны, вертолеты), используемыми в современной войне. Затем алгоритмы обрабатывают эту информацию и визуализируют ее в виде игрового симулятора, чтобы показать, как развиваются события в реальном времени на поле боя. То, что я вижу, – это симуляция того, что я увидел бы, если бы работал на военной службе, использующей систему Helsing.
Торстен Райль, 49 лет, – один из двух генеральных директоров компании. Имея опыт в игровой индустрии (ранее он основал студию разработки NaturalMotion), Райль заботится о пользовательском опыте и создании интуитивно понятной платформы для военных клиентов. Кроме того, есть со-генеральный директор Гундберт Шерф, 41 год, бывший советник министерства обороны Германии, который свободно говорит о том, как работают европейские вооруженные силы и что, по его мнению, им нужно сделать для модернизации. И, наконец, есть внутренний эксперт по искусственному интеллекту и главный продуктовый директор, Никлас Кёлер, 31 год, самый молодой из троих. Когда Кёлер начал применять машинное обучение для решения медицинских проблем, к нему стали обращаться представители оборонного сектора, что привело его к изменению направления. “Применение, например, для обнаружения дронов в методологическом плане не так сильно отличается от поиска рака на больших компьютерных томографических снимках”, – говорит он.
В современной войне каждая секунда имеет значение. И основатели Helsing утверждают, что их программное обеспечение может дать западным военным преимущество в информации. Их система, по их словам, поможет солдатам принимать более быстрые и осознанные решения и будет доступна на различных устройствах, чтобы солдаты в передовых окопах могли видеть ту же информацию, что и командиры в центрах управления. “Сейчас все это делается вручную: телефонные звонки, чтение, рисование на картах”, – говорит Кёлер. “Понимание, сколько систем существует, что они делают, какова их цель – это проблема искусственного интеллекта”.
Helsing – не первая компания, которая пытается создать операционную систему для войны. Военные стороны пропагандируют эту идею с 1990-х годов. Однако традиционным оборонным компаниям не удалось ее реализовать, что создало возможность для вмешательства технологических компаний. Компания Anduril из Калифорнии, основанная соучредителем Oculus Палмером Лакки, разработала программное обеспечение, объединяющее несколько военных систем. И Palantir, с штаб-квартирой в Колорадо, использует войну в Украине, чтобы раскрыть детали своего собственного военного искусственного интеллекта. Но Helsing – единственная видимая европейская стартап-компания, разрабатывающая такое программное обеспечение. Эксперты отмечают, что особенность компании заключается в том, как она моделирует электромагнитный спектр, невидимое пространство, где разные машины отправляют электронные сигналы для общения друг с другом.
- Гиганты искусственного интеллекта обещают разрешить внешнее исследо...
- Не спрашивайте глупых роботов, разрушит ли ИИ человечество
- Почти 50 лет в войнах с шифрованием, противники шифрования до сих п...
“Использование приложений искусственного интеллекта для анализа, какую часть электромагнитного спектра использовать, а какую – блокировать, является чрезвычайно мощной техникой”, – говорит Бен Дженсен, старший исследователь отдела будущей войны в Центре стратегических исследований и международных исследований.
То, что Helsing была готова показать мне свою технологию, вообще отражает, насколько изменились отношения к оборонной промышленности в Европе за два года ее существования. Когда основатель Spotify Даниэль Эк вложил 100 миллионов евро ($109 миллионов) в Helsing в 2021 году, в том же году, когда компания была запущена, многие пользователи Spotify выразили возмущение тем, что их абонентская плата используется для финансирования вооруженной промышленности. Но это было до полномасштабного вторжения России в Украину в феврале 2022 года, что привело к пересмотру общественного отношения к обороне.
Сегодня миллиарды долларов военной помощи поступают из европейских стран в Украину. Военные расходы на континенте выросли до “уровня Холодной войны” в 2022 году, зафиксировав самый резкий годовой рост за последние 30 лет, по данным Штокгольмского международного исследовательского института мира. Венчурный капитал следует за этим, и финансирование оборонных технологий Великобритании удвоилось с 2021 года до 2022 года – с 500 миллионов евро ($550 миллионов) до 1 миллиарда евро, – по данным PitchBook, предоставленным WIRED.
“С самого начала было легко отчаиваться”, – говорит Райль. Перед войной люди говорили ему, что ему будет трудно собрать деньги на оборонную технологию и что он определенно не сможет нанять нужных ему специалистов – лучшие инженеры не будут работать в обороне. “Все это оказалось совсем не так”, – говорит он.
В настоящее время у компании Helsing 220 сотрудников, работающих в четырех офисах: в Лондоне, Париже, Берлине и Мюнхене. Это не означает, что нанимать инженеров было легко. Кёлер описывает процесс собеседования, который больше напоминает дебаты о мотивах оборонной промышленности: “Большинство людей имеют некоторую предвзятость против данного сектора, особенно до событий на Украине”. Кёлер понимает это. Он сам раньше был скептически настроен, говорит он, и это отчасти связано с проживанием в Германии, где военная тематика ассоциируется с неприятными воспоминаниями о нацистском прошлом страны. “В Германии общественное мнение еще хуже, чем в Великобритании”. Отношение к оборонной промышленности в Европе изменилось, а в Германии оно претерпело трансформацию. Долгие годы страна сопротивлялась давлению со стороны США на увеличение расходов на оборону. Четыре месяца после российского вторжения германский парламент одобрил 100-миллиардный евро-ремонт военной сферы.
Германия – только одна из стран, с которой Helsing заключает военные контракты, вместе с Францией и Великобританией. И с момента российского вторжения в Украину, компания также подписала партнерские соглашения с некоторыми из самых крупных оборонных подрядчиков Европы, такими как Rheinmetall и Saab, чтобы интегрировать искусственный интеллект в существующие системы оружия. Рейл описывает Helsing как “довольно активно участвующую” в войне на Украине, хотя он отказывается делиться подробностями о том, чем именно компания занимается там, говоря только о том, что сотрудники регулярно туда и обратно путешествуют. Когда WIRED обратился к украинскому государственному чиновнику, который попросил не разглашать его имя, потому что он не имеет права выступать публично, чтобы подтвердить, что Helsing работает в Украине, он сказал, что ему было известно о планах компании “вступить” в страну.
Корпоративным девизом Helsing является “ИИ для служения демократиям”. Это должно иллюстрировать обещание компании никогда не продавать свои продукты автократическим правительствам, таким как Россия и Северная Корея, говорит Рэйл. Но что считается демократией? Когда я спрашиваю, продали бы основатели продукты Польше или Венгрии – странам ЕС, где правительства обезоруживают судей и подавляют права ЛГБТ-сообщества – я не получаю ответа.
Вместо этого этот девиз говорит меньше о том, что компания делает, и больше о причинах, по которым она это делает. Вакансии компании Helsing полны идеализма, требуя людей, убежденных в том, что “демократические ценности стоят того, чтобы их защищать”.
Три основателя компании Helsing говорят о вторжении России в Крым в 2014 году как о сигнале для всей Европы, что она должна быть готова реагировать на российскую агрессию. “Я все больше обеспокоен тем, что мы отстаем в ключевых технологиях в наших открытых обществах”, – говорит Рэйл. Это чувство возрастало, когда в 2018 году сотрудники Google выступили против сделки с Пентагоном, в рамках которой Google должен был помочь военным использовать искусственный интеллект для анализа видеоматериалов с дронов. Более 4 000 сотрудников подписали письмо, в котором говорится, что сотрудничество Google с военными службами является морально и этически неправильным и может иметь смертельные последствия. В ответ Google заявил, что не будет продлевать контракт.
“Я просто не понимал его логики”, – говорит Рэйл. “Если мы хотим жить в открытых и свободных обществах, быть теми, кем мы хотим быть и говорить то, что мы хотим сказать, нам нужно иметь возможность защищать их. Мы не можем принимать их как должное”. Он беспокоился о том, что если Big Tech со всеми своими ресурсами будет отговорено от работы с оборонной промышленностью, то Запад неизбежно отстанет. “Мне казалось, что если они этого не делают, если лучшие инженеры Google не готовы работать над этим, то кто готов?”
Обычно сложно сказать, работают ли оборонные продукты так, как говорят их создатели. Компании, включая Helsing, утверждают, что разглашение подробностей может подорвать эффективность их инструментов. Но во время нашего разговора основатели пытаются создать образ того, что делает их искусственный интеллект совместимым с демократическими режимами, в которые они хотят продавать свою продукцию. “Мы очень ценим конфиденциальность и свободу, и мы никогда не сделали бы что-то вроде распознавания лиц”, – говорит Шерф, утверждая, что компания хочет помочь военным распознавать объекты, а не людей. “Есть определенные вещи, которые не являются необходимыми для оборонной миссии”.
Однако автоматизация в смертельной отрасли, такой как оборона, все равно вызывает проблемы. Если все системы Helsing могут только повысить осведомленность на поле боя и помочь военным понять, где находятся цели, то это не вызывает проблем, говорит Херберт Лин, старший исследователь Центра международной безопасности и сотрудничества Стэнфордского университета. Но как только такая система внедрена, по его мнению, принимающие решения будут под давлением связать ее с автономным оружием. “Политики должны сопротивляться этой идее”, – говорит Лин, добавляя, что за ошибки должны нести ответственность люди, а не машины. Если искусственный интеллект “убьет трактор вместо грузовика или танка, это плохо. Кто будет нести ответственность за это?”
Риль настаивает на том, что Хельсинг не создает автономное оружие. “Мы делаем противоположное”, – говорит он. “Мы создаем системы искусственного интеллекта, которые помогают людям лучше понять ситуацию”.
Хотя операторы могут использовать платформу Хельсинга для сбивания дронов, в настоящее время это решение принимает человек, а не искусственный интеллект. Однако возникают вопросы о том, насколько автономность есть у людей, работающих близко с машинами. “Чем меньше пользователи понимают инструменты, с которыми они работают, тем они относятся к ним, как к магии”, – говорит Дженсен из Центра стратегических исследований и международных отношений, утверждая, что военные пользователи могут слишком много или слишком мало доверять искусственному интеллекту.
Хельсинг тестирует способы решения таких проблем. “Все говорят о человеке в петле”, – говорит Риль, относясь к термину, используемому для описания систем, которые гарантируют, что окончательное решение принимается людьми, а не машинами. Но Хельсинг старается обеспечить, чтобы эти люди не были просто “в петле”, но и участвовали – не отвлекались или не перегружались информацией, добавляет он. Компания делает это, говорит он, встраивая паузы в систему, чтобы оператор не просто реагировал на подсказки, как будто он на автопилоте. Вместо этого система Хельсинга создает момент для операторов, чтобы они обдумали предоставленную им информацию и спросили себя: Вы уверены, что хотите следовать рекомендациям искусственного интеллекта?
Успех Хельсинга до сих пор – измеряется его способностью заключать контракты и нанимать персонал – связан с изменением настроения в Европе. И на данный момент, вводимый компанией идеализм Силиконовой Долины в местный оборонный сектор, похоже, работает. Когда компания запускалась, говорит Риль, он был готов к тому, что многие не согласятся с тем, что он пытается делать. Но даже его удивило, насколько изменились отношения. “Маятник почти полностью переключился в другую сторону”, – говорит он.
ИСПРАВЛЕНИЕ 20.07 в 10:40 ET: Этот статья была обновлена, чтобы уточнить, что Торстен Риль и Гундберт Шерф теперь являются со-генеральными директорами.
