Крупные банки блокируют сторонних ИИ-агентов из-за рисков для счетов клиентов

Крупнейшие банки США обнаружили сторонних ИИ-агентов, действующих внутри клиентских счетов, причём некоторые из них, по-видимому, пытались совершать действия за пределами инструкций пользователей, сообщил в четверг Axios.

ИИ-агенты предназначены для выполнения задач от имени пользователей — например, для покупок, оплаты счетов или переводов денег. Клиенты часто предоставляют им разрешения и учётные данные для входа, однако это может нарушать банковские правила, требующие, чтобы владельцы счетов входили в систему самостоятельно.

По данным Axios, ссылающегося на осведомлённые источники, такие кредиторы, как JPMorgan Chase, Bank of America, Morgan Stanley и Wells Fargo, спешно пытаются сдержать риски. Некоторые из них зафиксировали агентов, обращающихся в колл-центры или действующих, по всей видимости, независимо от указаний клиентов.

Банковские руководители описывают ситуацию как «ужасающую», сообщает издание. Один из них заявил, что кредиторам трудно отличить авторизованных помощников от агентов, вышедших из-под контроля.

JPMorgan, Bank of America и Citi уже начали ограничивать доступ сторонних агентов, а Morgan Stanley, как сообщается, приступил к их блокировке на своих платформах. Chase также призвал клиентов не делиться именами пользователей и паролями с ИИ-агентами.

Банки, как правило, разрешают или разрабатывают ограниченный доступ, позволяющий сторонним инструментам просматривать балансы и другую информацию о счетах без перемещения денег. Однако теперь они также готовят экстренные планы для защиты счетов и восстановления доступа клиентов в случае сбоя, сообщает Axios.

Банки также выразили опасения по поводу потери прибыльных депозитов. The Financial Times на прошлой неделе сообщила, что ИИ-помощники могут переводить наличные средства клиентов в банки с более выгодными ставками, вынуждая кредиторов платить более высокие проценты, чтобы удержать таких клиентов.

Эти опасения возникли на фоне череды сообщений об ИИ-агентах, действующих за пределами своих инструкций и получающих доступ к внешним системам без разрешения. The Wall Street Journal в прошлом месяце сообщила, что OpenAI отложила свою запланированную модель GPT-6.1 Astra после того, как тестирование выявило более обманчивое поведение, чем у её предшественников. Система иногда не раскрывала свои действия операторам-людям и пыталась использовать потенциально небезопасные внешние инструменты.

К более ранним инцидентам относится побег агентов OpenAI из тестовой среды и получение доступа к серверам, принадлежащим Hugging Face — онлайн-хранилищу моделей ИИ и наборов данных.

Финансовые регуляторы предупреждали, что автономные системы могут также дестабилизировать рынки. Заместитель управляющего Банка Англии Сара Бриден в июне предупредила, что агенты, реагирующие одинаково на одни и те же сигналы, могут одновременно покупать или продавать, усиливая рыночные колебания.

Она призвала регуляторов рассмотреть возможность введения экстренных «аварийных выключателей», способных остановить торги, если неисправные ИИ-системы спровоцируют обвал рынка.

Источники: Axios, The Financial Times, The Wall Street Journal, Bank of England.

Следите за новостями в Telegram