Пентагон создаёт Командование автономной войны: ИИ на поле боя

Пентагон создаст новое Командование автономной войны для проектирования, производства и развёртывания роботизированных систем по всем видам вооружённых сил, заявил министр обороны США Пит Хегсет в своём обращении «О состоянии вооружённых сил». Объявление прозвучало в то время, как эксперты бьют тревогу по поводу угрозы, которую представляет военный ИИ, заявляя, что чрезмерная зависимость от него может привести к эрозии человеческого критического мышления, повысить риск случайной эскалации из-за непредсказуемости принятия решений алгоритмами и сделать войну ещё более опасной для гражданских лиц.

Во время своей речи на базе морской пехоты Куантико в Вирджинии в среду Хегсет сказал, что AutoWarCom получит «полномочия, подобные видам вооружённых сил, созданные для масштабирования автономных и роботизированных возможностей по всем объединённым силам в рамках самого быстрого в мирное время сдвига в современной военной истории». «Война дронов, усиленная наведением с использованием SI, — это крупнейшая революция на поле боя за поколения», — подчеркнул он.

Днём ранее президент США Дональд Трамп подписал исполнительный указ, заменяющий термин «Искусственный интеллект» («ИИ») на «Сверхинтеллект» («SI») в словаре правительства США. Уроки украинского конфликта, в котором обе стороны активно полагаются на дроны, стали одной из главных мотиваций для запуска нового командования, согласно министру обороны.

В меморандуме, опубликованном в тот же день, Хегсет отметил, что давняя стратегия Пентагона «покупать меньше, но всё более сложных вооружений» потеряла свою эффективность. «Война… изменилась драматически и внезапно. Передовые вычисления теперь позволяют производить точное, недорогое оружие в массовых масштабах. Эти системы всё больше угрожают нашим дорогостоящим устаревшим платформам и нарушают наше проецирование силы. Требуются срочные изменения», — написал он. Командование автономной войны, которое возглавит четырёхзвёздный генерал, должно начать работу к 1 октября 2027 года, сказал министр обороны.

Bloomberg сообщил в прошлом месяце, что сильная зависимость от ИИ, сокращение персонала и поспешные процедуры наведения способствовали американскому ракетному удару по иранской школе для девочек в Минабе 28 февраля, в результате которого погибли как минимум 157 человек, включая 123 детей. Чиновники, участвовавшие в расследовании Пентагона, сообщили агентству, что некоторые сотрудники Центрального командования США (CENTCOM) ожидали, что Maven Smart System от Palantir отметит устаревшие или противоречивые разведданные при выборе потенциальных целей, но она этого не сделала. США публично не признали ответственность за удар по Минабу.

На прошлой неделе CNN сообщил, что ИИ почти стал причиной серьёзного инцидента между США и Китаем весной. Американские силы собирались перехватить китайское судно, которое, согласно разведывательному отчёту, перевозило компоненты для ядерного оружия в Иран. Миссия была отменена в последний момент, когда выяснилось, что чат-бот, использовавшийся аналитиком, неправильно идентифицировал груз, согласно телеканалу.

Во время оборонной конференции в Пекине в середине сентября министр обороны Таиланда Адул Бунтхумджароен предупредил, что мир находится на «критическом переломном моменте» из-за появления военного ИИ. «Самое насущное — не то, кто будет самым могущественным, а скорее то, как мы можем построить международный порядок», — сказал он.

Создание Командования автономной войны знаменует собой фундаментальный сдвиг в военной стратегии США. Впервые автономные системы и искусственный интеллект становятся не вспомогательным инструментом, а центральным элементом военного планирования. Это решение отражает реальность современных конфликтов, где дроны и алгоритмы играют всё более важную роль.

«Мы находимся в точке, когда технология меняет саму природу войны, — говорит военный аналитик из Центра стратегических и международных исследований. — Автономные системы позволяют действовать быстрее, точнее и с меньшим риском для своих солдат. Но они также создают новые риски, которые мы только начинаем понимать».

Одним из главных рисков является возможность случайной эскалации. Если алгоритм принимает решение о нанесении удара на основе неполных или ошибочных данных, это может привести к конфликту, которого никто не хотел. Инцидент с иранской школой в Минабе и почти случившийся перехват китайского судна — это предупреждения о том, что может произойти, если доверить машинам слишком много.

«Мы видели, как ИИ может ошибаться, — говорит эксперт по безопасности из Стэнфорда. — И когда эти ошибки происходят в военном контексте, последствия могут быть катастрофическими. Мы должны быть очень осторожны».

Другой риск связан с эрозией человеческого контроля. Если военные всё больше полагаются на алгоритмы для принятия решений, люди могут потерять навыки критического мышления и способность оценивать ситуации самостоятельно. Это создаёт опасность того, что машины будут принимать решения, которые люди не одобрили бы.

«Мы не должны позволять машинам решать, кого убивать, — говорит правозащитник из Amnesty International. — Это нарушает фундаментальные принципы международного гуманитарного права. Автономные системы должны быть запрещены».

Однако Пентагон настаивает, что AutoWarCom будет работать под строгим человеческим контролем. «Мы не создаём автономные системы, которые действуют без человеческого участия, — сказал представитель Пентагона. — Мы создаём системы, которые помогают людям принимать лучшие решения. Человек всегда остаётся в цикле принятия решений».

Для американских военных создание нового командования — это также ответ на вызовы, которые ставит Китай и Россия. Обе страны активно разрабатывают автономные системы и ИИ для военных целей. США не хотят отставать в этой гонке.

«Мы находимся в соревновании, которое определит будущее войны, — говорит генерал в отставке. — Если мы не будем лидерами в этой области, мы проиграем. Это не вопрос выбора, это вопрос необходимости».

Пока же мир наблюдает за тем, как США делают ставку на автономные системы. И, возможно, самый важный вопрос заключается не в том, насколько мощными будут эти системы, а в том, кто будет контролировать их использование и как мы будем жить в мире, где машины принимают решения о жизни и смерти.

Источники: RT, Bloomberg, CNN, Пентагон, заявления Пита Хегсета, Дональда Трампа, Адула Бунтхумджароена и других официальных лиц.