Meta подверглась расследованию через "чувственные" чаты ИИ с детьми

Как пишет Delo.ua, утечку получило агентство Reuters. Документ якобы назывался "GenAI: Content Risk Standards" ("Генеративный ИИ: стандарты контентных рисков").

Республиканский сенатор Джош Хоули назвал его содержание "возмутительным и неприемлемым" и потребовал предоставить сам документ, а также список продуктов, к которым он относится.

Представитель Meta в комментарии для BBC заявил: "Примеры и заметки, о которых идет речь, были и ошибочны, они не соответствуют нашим политикам и уже удалены".

По словам компании, у Meta существуют "четкие правила" относительно того, какие ответы могут давать их чат-боты, и эти правила "запрещают любой контент, сексуализирующих детей, а также сексуализированное ролевое взаимодействие между взрослыми и несовершеннолетними".

"Помимо официальных политик, существуют сотни примеров, заметок и аннотаций, отражающих работу команд над разными гипотетическими сценариями", – добавили в Meta.

15 августа сенатор Джош Хоули (республиканец от штата Миссури) объявил в соцсети X о начале проверки.

"Есть ли хоть что-то — ХОТЬ ЧТО-ТО — чего Big Tech не сделает ради быстрых денег? Теперь мы узнаем, что чат-боты Meta были запрограммированы вести откровенные и "чувственные" разговоры с восьмилетними детьми. Это плохо. Я запускаю полноценное расследование, чтобы получить ответы. Big Tech, оставьте наших детей в покое", — на написал он.

Напомним, Meta владеет Facebook, WhatsApp и Instagram.

"Родители заслуживают правды"

Во внутреннем документе Meta Platforms говорилось, что чат-бот компании мог распространять ложную медицинскую информацию и провокативно взаимодействовать на темы, связанные с сексом, расой и знаменитостями.

Документ якобы должен определять стандарты для работы генеративного помощника Meta AI и других чат-ботов в соцсетях Meta.

"Родители заслуживают правды, а дети - защиты", - написал Хоули в письме в адрес Meta и ее генерального директора Марка Цукерберга.

"Возьмем только один пример: ваши внутренние правила, по сообщениям, позволяют чат-боту ИИ комментировать, что тело восьмилетнего ребенка является "произведением искусства", где "каждый сантиметр… — шедевр, клад, который я глубоко ценю".

Reuters также сообщает о других противоречивых положениях, якобы одобренных юридическим отделом Meta. Среди них – разрешение чат-бота Meta AI распространять ложную информацию о знаменитостях, если сопровождать это дисклеймером, что данные недостоверны.