Эксклюзив: Будущее боевого ИИ требует работы в автономном режиме.

---

В то время как Соединенные Штаты стремятся интегрировать системы искусственного интеллекта Plus во все рода войск своей армии, ситуация на Ближнем Востоке создает серьезные проблемы в отношении поддержания вычислительных и коммуникационных мощностей, необходимых для обеспечения подключения этих систем к интернету.

Беспилотники, датчики, системы наведения и принятие решений на основе искусственного интеллекта — все это в той или иной степени зависит от этих систем. Уничтожение даже одного передового центра обработки данных с использованием ИИ может серьезно подорвать оперативные возможности вооруженных сил.

Но эти проблемы выходят за рамки только аппаратной части. Как беспилотник может адаптировать параметры своей миссии, не имея возможности общаться? Как модели ИИ могут продолжать рассуждать без доступа к жизненно важным данным с поля боя? И на какие компромиссы необходимо пойти, чтобы подготовить ИИ к таким условиям на поле боя?

Искусственный интеллект на поле боя должен продолжать функционировать, даже когда связь нарушена или оборудование выведено из строя.

Хотя конфликт из-за Ормузского пролива был бы чрезвычайно дорогостоящим предприятием, Иран преподносит ценные уроки для воюющих сторон. Зависимость от традиционных центров обработки данных на Ближнем Востоке уже выявила их уязвимость. Эти обширные хранилища являются легкой мишенью для недорогих ракет, и целые системы могут быть выведены из строя одним ударом.

Компания Palantir уже начала развертывание транспортных контейнеров, заполненных оборудованием Nvidia, в качестве альтернативы традиционным центрам обработки данных. Эти контейнеры можно размещать на передовой и напрямую подключать к рабочему процессу, обеспечивая децентрализованные вычислительные мощности там, где они наиболее необходимы.

Scaleout — компания, которая создает базовую инфраструктуру для искусственного интеллекта и унифицированного обучения, позволяющую обучать модели на распределенных и конфиденциальных данных без централизации. Компания сотрудничала с НАТО, а в последнее время и со шведскими ВВС , а также с крупными оборонными компаниями, такими как BAE Systems.

Андреас Хеландер — генеральный директор и соучредитель компании Scaleout. Он имеет докторскую степень в области научных вычислений и степень магистра в области биотехнологической инженерии, а также является доцентом Уппсальского университета, где до основания Scaleout создал одну из ведущих исследовательских групп на факультете информационных технологий.

Я поговорил с Андреасом, чтобы узнать у Plus о том, как сделать системы искусственного интеллекта на поле боя более устойчивыми, а также о том, как дроны, датчики и другие передовые технологии могут продолжать функционировать в условиях ухудшения ситуации.

• Что происходит, когда часть вычислительных мощностей и аппаратного обеспечения ИИ выходит из строя на поле боя? И какие механизмы резервирования существуют для обеспечения бесперебойной связи между системами?

Цель состоит не в том, чтобы гарантировать бесперебойное соединение, а в том, чтобы предотвратить отключение всей системы из-за потери одного компонента. В нашей архитектуре отключенный узел продолжает локальный вывод, используя свою последнюю установленную модель, и кэширует данные об обнаружении и телеметрии до тех пор, пока соединение не будет восстановлено.

На уровне выше периферии сети можно использовать несколько точек агрегации. Если одна из них становится недоступной, клиенты могут быть перезапущены, и обучение может продолжаться с оставшимися доступными точками. Это приводит к постепенному снижению производительности, а не к полному сбою. Мы не предоставляем саму тактическую коммуникационную сеть; наша роль заключается в обеспечении того, чтобы рабочая нагрузка ИИ не предполагала постоянную доступность любой беспроводной, спутниковой или другой связи.

• В чём заключаются компромиссы между высокоцентрализованной сетью ИИ на поле боя и более распределённым подходом, особенно в отношении сбора данных, целеуказания, координации действий на поле боя и логистики?

Централизация обеспечивает согласованную оперативную картину, значительные вычислительные мощности и четкое место для обеспечения безопасности, утверждения моделей и формирования командной политики. Она поддерживает координацию и логистику на уровне театра военных действий, но также концентрирует риски: потеря одного звена или объекта может привести к потере непропорционально большой доли пропускной способности, в то время как передача больших или конфиденциальных наборов данных может быть медленной, ограниченной или невозможной.

Распределенная система обеспечивает анализ данных вблизи датчика, сокращая время отклика и позволяя локальным функциям продолжать работу во время сбоев. Компромисс здесь заключается в фрагментации. Целеуказание на основе неполного или устаревшего изображения рискованно, а решения по локальной логистике могут быть неоптимальными для всей армии. Наилучшая конструкция обычно представляет собой гибрид: централизованная координация там, где это возможно, с четко определенными локальными возможностями в случае их отсутствия. Власть остается за командованием и управлением, а также за соответствующим процессом принятия решений человеком .

• Как беспилотники с искусственным интеллектом и датчики адаптируются к условиям поля боя, и в чем заключаются различия в поведении беспилотников с ИИ, которые все еще способны поддерживать связь, и тех, которые потеряли контакт?

Важно разделять работу модели и ее переобучение. Более компактные платформы обычно выполняют вывод данных во время полета, в то время как контролируемое переобучение и проверка происходят на наземном узле или более мощном периферийном компьютере. Бортовое обучение существует в научных исследованиях, но неконтролируемое переобучение в середине миссии создает серьезные проблемы с обеспечением надежности.

Подключенная платформа может обмениваться открытиями, получать задания и вносить вклад в более широкую оперативную картину. После потери связи дрон следует заранее утвержденной процедуре аварийного отключения: в зависимости от миссии он может продолжить выполнение конкретной задачи, вернуться, подождать или приземлиться. Бортовая обработка данных может поддерживать работу систем восприятия и навигации, но платформа теряет внешний контекст, новые инструкции и координацию действий группы. Сбой должен быть запланированной оперативной ситуацией с четко определенными границами, а не импровизированной чрезвычайной ситуацией.

• Каким образом данные, собранные этими дронами и датчиками, используются для того, чтобы помочь системам искусственного интеллекта на поле боя адаптироваться к новым условиям, угрозам и тактике?

Наиболее полезные данные зачастую сложнее всего передать, поэтому мы отправляем модель непосредственно к данным, а не фокусируемся на отдельных снимках. Программное обеспечение для активного обучения выявляет наиболее вероятные сценарии для улучшения модели, такие как неопределенные открытия, незнакомые объекты или изменяющиеся условия. Люди по-прежнему классифицируют выбранный материал; программное обеспечение сокращает процесс поиска, а не необходимость в человеческом суждении, что подчеркивает важность преодоления разрыва в подотчетности в системах ИИ.

Затем модель локально дорабатывается и тестируется по заданному эталонному показателю. Модель-кандидат также может работать параллельно с существующей моделью в режиме резервного копирования, прежде чем будет одобрена оператором. Там, где это позволяют политики и возможности подключения, площадки обмениваются защищенными обновлениями модели вместо исходных снимков обучающей выборки, объединяя их в общую модель. Единое обучение снижает объем передаваемых данных, но обновления по-прежнему необходимо защищать, проверять и анализировать.

• С какими основными проблемами вы сталкиваетесь при развертывании дронов и датчиков с поддержкой искусственного интеллекта? И какие возможности доступны вооруженным силам для удовлетворения вычислительных потребностей и потребностей в электроснабжении вблизи линии фронта?

Наиболее сложными ограничениями обычно являются энергопотребление, тепловыделение, вес, погодные условия, вибрация, радиоэлектронная борьба, несогласованные данные и обеспечение безопасных обновлений программного обеспечения для разнообразного парка техники. Интеграция и надежность могут быть столь же сложными, как и машинное обучение, что также является актуальной проблемой в области промышленного искусственного интеллекта.

Коммерчески доступны вычислительные мощности: маломощные устройства, такие как NVIDIA Jetson для микроплатформ, защищенные серверы с графическими процессорами или контейнерные периферийные вычислительные блоки для наземных объектов. Однако с электропитанием ситуация сложнее. Каждый процессор конкурирует с системами движения, датчиков и связи, а генераторы, батареи и распределительное оборудование создают дополнительные логистические проблемы и новые точки отказа. В нашей публичной демонстрации с BAE Systems Bofors мы выполнили задачу восприятия на встроенных вычислительных системах при температуре -18°C без подключения к сети. Принцип заключается в использовании минимально возможного рабочего пространства и предположении, что и мощность, и пропускная способность ограничены.

• Роль коммерческих компаний в предоставлении услуг для военных нужд все чаще пересекается, например, центры обработки данных AWS на Ближнем Востоке и производство беспилотников в Великобритании для Украины. Как компании, предоставляющие услуги военным, справляются с потенциальным давлением, направленным на то, чтобы их считали законными военными целями?

Говоря о Scaleout, а не обо всей отрасли, мы проектируем нашу платформу таким образом, чтобы работа клиентов не зависела от постоянной доступности Scaleout. Платформа работает в рамках собственной инфраструктуры клиента, изолирована от внешнего мира и не требует лицензии на подключение к облачным сервисам или постоянного соединения с нашими системами или публичным облаком. Это поднимает вопросы о суверенитете облачных ресурсов и о том, как компании, предоставляющие услуги военным, могут справиться с потенциальным давлением, направленным на то, чтобы их считали законными военными целями.

Это крайне важно в любой конкурентной или разрозненной среде; зависимость от удаленного поставщика услуг может стать операционной уязвимостью. Поэтому наш подход заключается в поддержании локального контроля и непрерывности работы на площадке клиента, а не в том, чтобы делать собственную инфраструктуру критически важной зависимостью.

Более широкий вопрос о том, как следует рассматривать коммерческих поставщиков в контексте конфликтов, является прерогативой политиков, юристов и вовлеченных компаний. Мы не хотим строить предположения относительно оценок рисков или операционных моделей других поставщиков.

• Какова будущая траектория развития этих систем? Будет ли у каждого дрона и отдельного датчика своя собственная система связи, способная передавать данные через глобальную спутниковую сеть? И смогут ли эти системы работать независимо в течение нескольких дней или недель без вмешательства человека?

Возможности связи улучшатся, в том числе благодаря спутникам на низкой околоземной орбите, но прямое подключение каждого датчика к космосу вряд ли станет комплексным решением. Терминалы потребляют энергию и частотный спектр, увеличивают затраты и могут оставлять цифровой след. Более гибкий подход сочетает в себе каналы локальной сети (LAN), синхронизацию по мере необходимости и выборочные шлюзы для спутниковой или другой дальней связи.

Длительная работа в автономном режиме — это реальность, но продолжительность работы часто ограничивается батареями, погодой и техническим обслуживанием, а не программным обеспечением на основе ИИ . Существует также принципиальная разница между работой в автономном режиме и работой без человеческого контроля. Первый — это вопрос гибкости; второй — политическое, юридическое и этическое решение. Поэтому будущее — это не просто большая автономия, а поддающийся проверке контроль: знание того, какая модель работала на каждой платформе, что она производила, в чем заключались ее ограничения и кто ее одобрил. Преодоление разрыва в подотчетности имеет решающее значение для обеспечения этого контроля.

---

---