Об этом сообщает Dilo со ссылкой на сообщение Axios.

С проблемой работают, в частности, Morgan Stanley, Bank of America, JPMorgan, Wells Fargo и другие крупные американские банки.

Один из распространенных сценариев – клиент сам позволяет ШИ-агенту или цифровому помощнику зайти в банковский аккаунт, передав ему свои учетные данные.

Однако такая практика противоречит правилам большинства банков, согласно которым пользователь должен входить в счет самостоятельно.

Банки не всегда понимают, кто управляет агентом

Наибольшее беспокойство банков вызывают ситуации, когда ИИ получает возможность не только пересматривать финансовые данные, но и совершать покупки или переводить средства.

По данным Axios, отдельные банки также фиксировали случаи, когда агенты связывались с колл-центрами или, на первый взгляд, совершали действия вне зависимости от конкретной команды пользователя.

При этом финучреждениям сложно определить, действительно ли активность агента санкционирована владельцем счета, речь идет о мошенничестве и несанкционированном доступе.

Morgan Stanley уже блокирует посторонних агентов

Morgan Stanley начал блокировать посторонним ШИ-агентам доступ к своим платформам.

Ограничения также используют JPMorgan, Bank of America и Citi.

В то же время, банки не планируют полностью отказываться от использования таких технологий. Один из компромиссных вариантов – предоставлять ШИ-агентам доступ только для чтения.

В таком случае агент сможет анализировать баланс и другую финансовую информацию клиента, но не сможет осуществлять операции со средствами.

В банковском секторе признают, что спрос клиентов на использование ИИ-помощников будет расти. Однако пока технология развивается быстрее, чем механизмы контроля над ней, банки считают полноценный доступ агентов к счетам слишком рискованным.

Напомним, ранее сообщалось, что ИИ меняет банковское мошенничество : злоумышленники используют генеративные модели для создания реалистических голосов, видео, сообщений и фальшивых профилей.