Мировые страховщики запускают покрытие убытков из-за ошибок чат-ботов на базе ИИ

Страховщики Lloyd's of London запустили продукт, покрывающий компаниям ущерб, вызванный неисправностью инструментов искусственного интеллекта, поскольку сектор стремится получить прибыль на фоне беспокойств по поводу риска дорогостоящих "галлюцинаций" и ошибок чат-ботов. Полисы, разработанные стартапом Armilla, поддерживаемым Y Combinator, будут покрывать стоимость судебных исков против компании, если на нее подает в суд клиент или другая третья сторона, которая понесла ущерб вследствие того, что инструмент ИИ работал хуже, чем ожидалось.

Страхование будет покрываться несколькими страховщиками Lloyd's, включая компенсацию убытков и юридических расходов. Компании массово внедряют ИИ для повышения эффективности, но некоторые инструменты, в частности чат-боты для обслуживания клиентов, уже допускали неудобные и дорогостоящие ошибки. Такие ошибки могут возникать, например, из-за недостатков, заставляющих языковые модели ИИ "галюцинировать" или придумывать вещи.

В январе Virgin Money принесла извинения после того, как ее чат-бот на базе ИИ обругал клиента за использование слова "virgin", в то время как курьерская группа DPD в прошлом году выключила часть своего чат-бота после того, как тот бранил клиентов и назвал собственную компанию "худшей службой доставки в мире". В прошлом году суд обязал Air Canada выполнить скидку, которую придумал ее чат-бот службы поддержки.

Armilla заявила, что ущерб от продажи билетов по более низкой цене был бы покрыт ее страховым полисом, если бы было установлено, что чат-бот Air Canada работал хуже, чем ожидалось. Генеральный директор Armilla Картик Рамакришнан сказал, что новый продукт может поощрить больше компаний внедрять ИИ, поскольку многие опасаются, что инструменты, такие как чат-боты, могут выйти из строя.

Некоторые страховщики уже включают убытки, связанные с ИИ, в общие полисы о технологических ошибках и упущениях, но обычно эти полисы имеют низкие лимиты выплат. Общий полис, покрывающий убытки до $5 млн, может иметь сублимит в $25 000 для обязательств, связанных с ИИ, сказал Прит Гилл, брокер компании Lockton, предлагающей продукты Armilla своим клиентам.

Языковые модели ИИ динамичны, то есть они "обучаются" со временем. Но ущерб, нанесенный ошибками вследствие этого процесса адаптации, обычно не покрывается типичными страховыми полисами на случай технологических ошибок и упущений, сказал Логан Пейн, брокер Lockton.