Министерство обороны США может наказать компанию Anthropic за отказ изменить кодекс этики

Министерство обороны США может наказать компанию Anthropic за отказ изменить кодекс этики лаборатории, сообщает Axios. Компания Anthropic, стоящая за моделью Claude, может быть признана угрозой для цепочки поставок, что обычно зарезервировано для организаций, связанных с государствами, которые США считают враждебными.

По данным источников в Пентагоне, компания Anthropic уже несколько месяцев конфликтует с правительством США из-за своей политики, ограничивающей использование своей технологии для военных целей. Пентагон требует от компании разрешить использование модели Claude для «всех законных целей», но кодекс этики Anthropic запрещает использование своей технологии для «содействия насилию, разработки оружия или проведения слежки».

«Это будет огромная проблема, чтобы разобраться, и мы сделаем все, чтобы они заплатили цену за то, что заставили нас принять такое решение», — заявил анонимный представитель Пентагона.

Модель Claude в настоящее время является единственной моделью ИИ, развернутой на классифицированных платформах вооруженных сил США через партнерство с компанией Palantir Technologies. В случае включения Anthropic в черный список подрядчикам Пентагона придется доказать, что они не используют технологию Anthropic, чтобы не потерять свои контракты.

Представитель Пентагона Шон Парнелл заявил, что отношения между департаментом и Anthropic «находятся под рассмотрением». «Все партнеры Пентагона должны быть готовы помочь нашим военнослужащим выиграть в любой битве», — добавил он. Представитель Anthropic заявил, что компания ведет «продуктивные разговоры» с департаментом.

Конфликт между Anthropic и Пентагоном возник после обвинений в том, что модель ИИ компании была использована во время операции по похищению президента Венесуэлы Николаса Мадуро в начале января. По данным Axios и The Wall Street Journal, модель Claude была использована как на этапе подготовки, так и во время рейда, хотя ее точная роль остается неясной. Эти обвинения появились после того, как компания провела несколько недель, публично хвалясь своей политикой безопасности и представляя себя как безопасный вариант в секторе ИИ.

Следите за новостями в Telegram