Военный ИИ в целеуказании — как он работает и кто им управляет

Военный ИИ в целеуказании — это использование программ машинного обучения для поиска, классификации и приоритизации целей на шести этапах цепочки поражения, и в большинстве западных систем решение об открытии огня по-прежнему утверждает человек. Эта технология уже стала рутиной в анализе разведданных, где алгоритмы просматривают видео с дронов и спутниковые снимки гораздо быстрее людей, а более трудный вопрос политики — какую власть над последним этапом следует передавать программам.

Что такое целеуказание с помощью ИИ

Целеуказание — это процесс принятия решения о том, что поражать и как. Он начинается с обнаружения чего-то значимого, продолжается опознаванием и завершается разрешением оружию на поражение. ИИ может помогать на каждом этапе, но наиболее зрелые применения находятся в начале цепочки, где нужно разобрать огромные объёмы данных датчиков.

Один дрон может записать часы видео, а спутниковая группировка может снимать одну территорию несколько раз в день. Ни одна группа аналитиков не может просмотреть всё. Модели компьютерного зрения отмечают машины, пусковые установки или корабли и передают человеку короткий список, сжимая работу, которая раньше занимала часы, до минут.

Как работает целеуказание с помощью ИИ

Качество определяют обучающие данные. Модель учится распознавать танк, увидев тысячи размеченных изображений танков при разном освещении, погоде и камуфляже. Когда условия отходят от виденного, точность может упасть без предупреждения, поэтому операторы воспринимают результаты как рекомендации, которые нужно проверять.

Та же логика лежит в основе средств обнаружения, о которых мы писали в других материалах, например радара с АФАР, чьи потоки данных питают многие из этих моделей.

ИИ для поддержки решений и автономное оружие

Эти два понятия часто путают. Поддержка решений использует ИИ для консультирования человека, который остаётся ответственным за выбор. Автономное оружие выбирает цели и поражает их без дальнейшего участия человека после активации. Первое широко распространено. Второе встречается реже, но реальные примеры существуют, в том числе барражирующие боеприпасы, наводящиеся на сигнатуру цели в последние секунды, и системы ПВО, автоматически стреляющие по приближающимся ракетам.

На практике граница размыта. Оператор дрона, видящий на экране лишь рамку, построенную ИИ, может быстро одобрить решение, и критики называют это автоматизационным смещением. Защитники возражают, что оператор по-прежнему несёт ответственность и часто располагает лучшей информацией, чем человек без помощи. Наш материал о барражирующих боеприпасах освещает дроновую сторону этой дискуссии.

Кто создаёт военные системы целеуказания на основе ИИ

Компании, стоящие за этими инструментами, описаны в наших профилях Palantir и Helsing. Украина стала лабораторией: официальные лица описывают программы, помогающие обнаруживать и приоритизировать цели для дроновых и артиллерийских подразделений. Это заявления правительства, а реальную степень автоматизации со стороны оценить трудно.

Риски, правила и контроль человека

Основные риски знакомы. Модели могут ошибочно опознавать объекты, особенно гражданские или повреждённую технику. Ошибки могут распространяться со скоростью машины, когда одна система питает другую. Противники также могут подменять данные датчиков или отравлять данные. А более быстрые циклы принятия решений повышают риск эскалации, потому что остаётся меньше времени на суждение.

Что касается правил, директива США требует от командиров и операторов осуществлять соответствующий уровень человеческого суждения при применении силы, а десятки государств поддержали политическую декларацию об ответственном военном ИИ. В ООН обсуждение смертоносных автономных систем вооружений идёт годами без обязывающего договора, а Красный Крест призвал государства установить пределы. Разумные люди расходятся во мнениях, какого объёма контроля достаточно.

Часто задаваемые вопросы о военном ИИ в целеуказании

Что такое целеуказание с помощью ИИ в армии?

Программы, помогающие находить, опознавать и приоритизировать цели, как правило, анализируя изображения, видео и данные датчиков для операторов-людей.

Существует ли полностью автономное оружие?

Некоторые системы, такие как отдельные барражирующие боеприпасы и средства ПВО, действуют с ограниченной автономностью в узких ситуациях, но большинство западных вооружённых сил требуют одобрения человека для применения смертоносной силы.

Что такое Project Maven?

Инициатива Министерства обороны США, запущенная в 2017 году для применения ИИ в анализе снимков с дронов и спутников.

Регулируется ли военный ИИ?

Обязывающего глобального договора нет. Нынешние нормы задают национальные политики, такие как директива США, и необязывающие международные декларации.

Что такое автоматизационное смещение?

Склонность операторов-людей слишком охотно доверять автоматической рекомендации, даже когда она может быть неверной.