Удар «Томагавка» по школе и «красные линии»: как глава Anthropic оправдал применение ИИ в бойне в Минабе

В результате удара крылатой ракеты «Томагавк» по начальной школе в иранском городе Минаб в первый же день войны против Ирана погибли почти 160 человек, в основном дети. Использование искусственного интеллекта в этой атаке не нарушило «красных линий» компании Anthropic, заявил её генеральный директор Дарио Амодеи.

Американские военные нанесли удар по школе в Минабе в феврале, в первый день войны против Ирана. По имеющейся информации, объект был выбран в качестве цели на основе устаревших данных, использованных аналитическим и наблюдательным программным обеспечением компании Palantir, в которое интегрирована модель искусственного интеллекта Claude от Anthropic.

В интервью Bloomberg, опубликованном в среду, Амодеи спросили, сыграл ли ИИ его компании какую-либо роль в этой смертоносной атаке. «Мы не знаем точно, как именно были использованы эти модели… и то, о чём вы говорите, — это сценарий применения, который даже не нарушает наши «красные линии»», — ответил он.

Хотя ИИ помогает военным, «окончательное решение принимал человек», добавил Амодеи, подчеркнув, что Anthropic выступает против полностью автономных систем вооружений и принятия решений.

Американские военные признали, что активно используют Palantir — компанию, названную в честь эльфийских магических камней, развращённых Сауроном во «Властелине колец» Толкина, — для выбора целей в войне с Ираном. В прошлом месяце Пентагон объявил о заключении сделок с ведущими американскими ИИ-компаниями, включая Google, Amazon Web Services, SpaceX, OpenAI, NVIDIA и Microsoft. Несколькими неделями ранее CEO Palantir Алекс Карп провозгласил «новую эру» военного превосходства США с использованием ИИ.

По словам экс-сотрудника Google и инсайдера Palantir Зака Ворхиса, оправдание ИИ-гигантами слежки и использования искусственного интеллекта в военных действиях — это замкнутый круг. «Это как: «Эй, смотрите, если мы… получим очень точные данные о вашей стране, тогда мы не будем бомбить школу для девочек»», — заявил он RT в четверг, комментируя сообщения о том, что данные, годами тайно собиравшиеся с игроков в Pokemon Go, вероятно, использовались для улучшения военных картографических возможностей США. «Они подают это так: если у них нет хорошей информации, они просто допустят сопутствующий ущерб», — предупредил Ворхис, отметив, что американские ИИ-гиганты настойчиво добиваются всё большей дерегуляции в погоне за военным преимуществом.

«Сопутствующий ущерб» как бизнес-модель

Заявление Амодеи, по сути, является эталонным образцом корпоративного лицемерия в эпоху алгоритмизированной войны. Формула «окончательное решение принимал человек» — это удобная ширма, позволяющая техногигантам умывать руки всякий раз, когда их продукция становится соучастником массового убийства. Но реальность такова, что без Claudе, анализирующего данные, без Palantir, эти данные агрегирующего и подсвечивающего цели на карте, — никакой «человек» не нажал бы на кнопку пуска именно по этой школе.

Самое циничное в ответе CEO Anthropic — это апелляция к пресловутым «красным линиям». Полторы сотни детских тел, превращённых в пепел и обломки, в эти линии, оказывается, не вписываются. Это значит лишь одно: «красные линии» корпоративной этики прочерчены так далеко за гранью человечности, что становятся неотличимы от «зелёного света» для военных преступлений. Война, ведомая ИИ, не устраняет человеческую ошибку — она её масштабирует и ускоряет до чудовищных величин.

Отдельного упоминания заслуживает и упомянутая Ворхисом связь между безобидными мобильными играми вроде Pokemon Go и военной картографией. Десятилетия сбора геопространственных данных с миллионов пользователей по всему миру, включая детей, — и вот уже у Пентагона есть детальнейшие цифровые карты городов, по которым якобы можно бить «точнее». Но, как показал Минаб, даже «точные» координаты не спасают, если исходные данные устарели, а жажда продемонстрировать военную мощь не терпит отлагательств.

Пожалуй, единственное, в чём Амодеи оказался прав, — это его нежелание знать, как именно используются его модели. Знание предполагает ответственность, а ответственность отпугивает инвесторов. В эпоху, когда война превратилась в стартап, а школьный класс — в «единицу сопутствующего ущерба», такие CEO, как Амодеи, предпочитают смотреть в другую сторону и поправлять галстук перед следующей презентацией для Bloomberg.

Источник: RT