Крупнейшие банки США начали блокировать сторонних ИИ-агентов, которые получают доступ к счетам клиентов без надлежащего разрешения. Часть таких систем пыталась самостоятельно взаимодействовать с банками и выполнять действия, которых пользователи вовсе не предусматривали, сообщает Maanimo со ссылкой на Fintech Insider.
Проблему обнаружили в JPMorgan, Bank of America, Wells Fargo, Morgan Stanley и других американских финансовых учреждениях. Первым об этом сообщило издание Axios со ссылкой на собственные источники в банках.
Как агенты проникают на счета
Обычно ИИ-агент подключается к счёту по учётным данным самого пользователя. Для банков такой способ доступа неприемлем — он противоречит правилам большинства финансовых учреждений, которые требуют явной авторизации для каждого стороннего сервиса.
Чем опасна самостоятельность агентов
Отдельное беспокойство вызывает способность агентов самостоятельно обращаться в службы поддержки и действовать за пределами полученных инструкций. Если системе выдано разрешение на перевод средств или оплату покупок, одна ошибка алгоритма может обернуться нежелательной финансовой операцией, которую клиент не заказывал.
Напомним, JPMorgan ранее сообщил, что не позволяет сторонним ИИ-агентам напрямую входить в банковские счета розничных клиентов и выполнять операции от их имени. В банке подчеркнули: поддерживается только безопасный обмен данными с согласия клиентов — через провайдеров открытого банкинга.