Meta підпала під розслідування через "чуттєві" чати ШІ з дітьми

Як пише Delo.ua, витік отримало агентство Reuters. Документ нібито мав назву "GenAI: Content Risk Standards" ("Генеративний ШІ: стандарти контентних ризиків").

Республіканський сенатор Джош Гоулі назвав його зміст "обурливим і неприйнятним" та вимагав надати сам документ, а також список продуктів, яких він стосується.

Представник Meta у коментарі для BBC заявив: "Приклади та нотатки, про які йдеться, були і є помилковими, вони не відповідають нашим політикам і вже видалені".

За словами компанії, у Meta існують "чіткі правила" щодо того, які відповіді можуть давати їхні чат-боти, і ці правила "забороняють будь-який контент, що сексуалізує дітей, а також сексуалізовану рольову взаємодію між дорослими та неповнолітніми".

"Окрім офіційних політик, існують сотні прикладів, нотаток і анотацій, які відображають роботу команд над різними гіпотетичними сценаріями", – додали у Meta.

15 серпня сенатор Джош Гоулі (республіканець від штату Міссурі) оголосив у соцмережі X про початок перевірки.

"Чи є хоч щось — ХОЧ ЩОСЬ — чого Big Tech не зробить заради швидких грошей? Тепер ми дізнаємось, що чат-боти Meta були запрограмовані вести відверті та "чуттєві" розмови з восьмирічними дітьми. Це погано. Я запускаю повноцінне розслідування, щоб отримати відповіді. Big Tech: залиште наших дітей у спокої", — написав він.

Нагадаємо, Meta володіє Facebook, WhatsApp та Instagram.

"Батьки заслуговують на правду"

У внутрішньому документі Meta Platforms також йшлося, що чат-бот компанії міг поширювати неправдиву медичну інформацію та провокативно взаємодіяти на теми, пов’язані із сексом, расою та знаменитостями.

Документ нібито мав визначати стандарти для роботи генеративного помічника Meta AI та інших чат-ботів у соцмережах Meta.

"Батьки заслуговують на правду, а діти — на захист", — написав Гоулі у листі на адресу Meta та її генерального директора Марка Цукерберга.

"Візьмемо лише один приклад: ваші внутрішні правила, за повідомленнями, дозволяють чат-боту ШІ коментувати, що тіло восьмирічної дитини є "витвором мистецтва", де "кожен сантиметр… — шедевр, скарб, який я глибоко ціную".

Reuters також повідомляє про інші суперечливі положення, які нібито були схвалені юридичним відділом Meta. Серед них — дозвіл чат-боту Meta AI поширювати неправдиву інформацію про знаменитостей, якщо супроводжувати це дисклеймером, що дані є недостовірними.