Крупнейшие банки США начали ограничивать и даже блокировать доступ ИИ-агентов к счетам клиентов, поскольку были выявлены случаи их попыток совершать действия, не предусмотренные инструкциями пользователей, сообщил ресурс Axios со ссылкой на источники..

Крупнейшие банки США начали ограничивать и даже блокировать доступ ИИ-агентов к счетам клиентов, поскольку были выявлены случаи их попыток совершать действия, не предусмотренные инструкциями пользователей, сообщил ресурс Axios со ссылкой на источники.

Такие банки, как Morgan Stanley, Bank of America, JPMorgan, Wells Fargo и другие, принимают экстренные меры, чтобы минимизировать риски, связанные с использованием ИИ-агентов. Проблема заключается в том, что системы финансовых организаций пока не обладают возможностью определения с полной уверенностью, что агент получил доступ к счету по поручению клиента или сделал это самостоятельно.

По словам представителя банковской сферы, иногда клиенты сами передают ИИ-агентам свои логины и пароли. В таких ситуациях банки, как правило, помечают подобные транзакции как подозрительные и блокируют их. Вместе с тем их нельзя однозначно назвать несанкционированными, поскольку учётные данные были предоставлены самим клиентом.

Но даже если клиент дал на это разрешение, подобные действия противоречат внутренним правилам большинства банков, требующих, чтобы доступ к счёту осуществлял непосредственно его владелец.

Руководство банков опасается, что ИИ-агенты, имеющие доступ к аккаунту (особенно если пользователь предоставил им право совершать покупки или переводить денежные средства), могут совершить несанкционированные платежи, которые нанесут финансовый ущерб владельцу счёта. Тем более, что были случаи, когда ИИ-агенты — запрограммированные на выполнение определенных задач от имени пользователя — связывались с колл-центрами или совершали действия, не предусмотренные прямыми указаниями владельца счёта.

По словам источников, банк Morgan Stanley уже начал блокировать доступ сторонних ИИ-агентов к своим платформам, хотя случаев появления несанкционированных или «неконтролируемых» ИИ-агентов в банке пока не зафиксировано.

Большинство банков предпочитают ограничиться предоставлением ИИ-агентам доступа в режиме «только для чтения». Это позволит ИИ-агентам просматривать финансовую информацию клиентов, не совершая при этом никаких операций.

Генеральный директор JPMorgan Chase Джейми Даймон (Jamie Dimon) в начале месяца заявил, что банк разрабатывает инструменты для контроля рисков, возникающих, когда ИИ-агенты выполняют задачи самостоятельно: «Мы не позволим сторонним агентам получать доступ к внутренним системам компании, поскольку это слишком рискованно как для наших клиентов, так и для самого JPMorgan».