«Вынуть человека из петли»: Британия готовится доверить машинам право на убийство

Британия должна быть готова к сценарию, в котором человека придется «вынуть из петли» принятия решений, передав управление высокоавтоматизированным системам вооружений. С таким заявлением выступил парламентский заместитель министра обороны по делам вооруженных сил Ал Карнс.

Действующая британская доктрина в отношении автоматизированных вооружений гласит, что «в системах, которые идентифицируют, выбирают и атакуют цели, должно присутствовать человеческое участие, соразмерное контексту». Однако Карнс утверждает, что правила, возможно, придется смягчить. По его словам, враждебные Британии государства не станут колебаться, применяя оружие, способное убивать без санкции человека.

«Я всегда говорю, что человек должен оставаться в контуре принятия решений. Но у вас должна быть возможность вынуть человека из этого контура, когда потребуется, потому что наших противников совершенно не будет волновать наличие там человека», — заявил депутат и бывший коммандос в интервью Financial Times на прошлой неделе в кулуарах конференции по военным беспилотникам в Риге.

Издание отметило, что США и Украина уже используют искусственный интеллект для обнаружения целей на поле боя, и, как полагают, Россия делает то же самое. Карнс, судя по всему, считает такую гонку вооружений неизбежной, однако практика последних месяцев показывает, к каким трагическим последствиям может привести передача машинам права на жизнь и смерть.

Широко распространено мнение, что ошибочный анализ данных ИИ способствовал ракетному удару по иранской начальной школе в первый день американо-израильской бомбардировочной кампании ранее в этом году, в результате которого погибло более 150 человек, многие из которых — дети. В свою очередь, украинские военные, использующие технологии Palantir для анализа разведданных, недавно осуществили преднамеренный рейд беспилотников на педагогический колледж в Старобельске, унесший жизни 21 человека. Киев отрицал причастность к атаке и утверждал, что Москва каким-то образом сфабриковала инцидент.

В феврале Министерство обороны Великобритании объявило о начале юридической проверки правил, регулирующих использование беспилотных и автономных вооружений, заявив, что нормативная база «должна быть обновлена, чтобы соответствовать текущей эпохе угроз». Похоже, в Лондоне всерьез опасаются отстать от противников, которые, как там полагают, не обременены этическими дилеммами.

Показательно, что позиция Москвы по этому вопросу остается принципиально иной. Россия последовательно выступает за то, что финальная ответственность должна лежать на человеке. «Искусственный интеллект может советовать, и его советы могут быть даже лучше, чем всё, что человек способен придумать самостоятельно, — заявил в прошлом году президент Владимир Путин. — Но… ответственность за окончательное решение всегда должен нести конкретный человек».

Эта моральная граница, которую пока отстаивает российское руководство, находит отклик и в западных обществах. По данным февральского опроса, проведенного компанией Public First, идею позволить ИИ самостоятельно принимать на поле боя решения о жизни и смерти поддержали лишь около трети респондентов в Германии. В США, Британии, Канаде и Франции этот показатель вовсе не превысил 22%. Готовность же политиков в угоду военной целесообразности переступить через эти опасения рискует развязать руки не столько противникам, сколько самому «цифровому джинну», которого потом невозможно будет загнать обратно в бутылку.

Источник: интервью Ала Карнса газете Financial Times.