На OpenAI подали в суд через самогубство підлітка після тривалих бесід з ChatGPT: компанія обіцяє оновити чат-бот

Про це пише Delo.ua з посиланням на публікацію The Guardian.

Компанія OpenAI визнала, що її системи можуть "не відповідати очікуванням", і заявила, що встановить "посилені запобіжники навколо чутливого контенту та ризикованої поведінки" для користувачів до 18 років.

Каліфорнійська компанія зі штучного інтелекту вартістю $500 млрд також повідомила, що запровадить батьківський контроль, щоб дати батькам "можливості отримати більше інформації та впливати на те, як їхні підлітки використовують ChatGPT". Водночас деталей реалізації цих функцій поки що немає.

Адам із Каліфорнії наклав на себе руки у квітні після того, що адвокат його сім’ї назвав "місяцями заохочення від ChatGPT". Родина підлітка подала позов проти OpenAI та її генерального директора і співзасновника Сема Альтмана, стверджуючи, що тодішня версія ChatGPT, відома як 4o, була "випущена на ринок поспіхом… попри очевидні проблеми безпеки".

Підліток неодноразово обговорював із ChatGPT метод самогубства, зокрема й незадовго до того, як позбавив себе життя. Згідно з позовом, поданим до Верховного суду штату Каліфорнія, ChatGPT надавав йому поради, чи спрацює його метод. Більше того – запропонував допомогу у написанні передсмертної записки для батьків.

Представник OpenAI заявив, що компанія "глибоко засмучена смертю" Адама, висловив "найглибші співчуття його родині у цей важкий час" та повідомив, що позов наразі розглядається.

Мустафа Сулейман, генеральний директор підрозділу штучного інтелекту Microsoft, минулого тижня заявив, що його дедалі більше непокоїть "ризик психозу", який може становити ШІ для користувачів. Microsoft визначає це як "епізоди, схожі на манію, маревне мислення чи параною, які виникають або посилюються через занурені розмови з чат-ботами".

У своєму блозі OpenAI визнала, що "частини безпекового навчання моделі можуть знижуватися" під час довгих діалогів. За словами сторони позивача, Адам та ChatGPT обмінювалися до 650 повідомлень на день.

Адвокат родини, Джей Едельсон, написав у X: "Родина Рейнів стверджує, що смерті на кшталт Адамової були неминучими: вони планують надати присяжним докази, що власна команда з безпеки OpenAI виступала проти випуску 4o, а один із провідних дослідників компанії з безпеки, Ілля Суцкевер, через це пішов. У позові йдеться, що прагнення випередити конкурентів із новою моделлю підняло оцінку компанії з $86 млрд до $300 млрд".

OpenAI заявила, що "посилюватиме запобіжні механізми під час тривалих розмов".

"У міру того, як діалог стає дедалі довшим, частини безпекового навчання моделі можуть знижуватися, — зазначили в компанії. — Наприклад, ChatGPT може спочатку правильно дати номер телефону гарячої лінії з питань самогубства, коли користувач уперше висловлює намір, але після сотень повідомлень упродовж тривалого часу він може зрештою видати відповідь, що суперечить нашим запобіжникам".

OpenAI навела приклад: хтось може із захватом написати моделі, що здатен керувати автомобілем 24 години на добу, бо після двох безсонних ночей відчув себе "невразливим".

"Сьогодні ChatGPT може не розпізнати це як небезпеку або ж сприйняти як гру і — цікавлячись — непомітно підкріпити думку. Ми працюємо над оновленням GPT-5, яке допоможе ChatGPT знижувати напругу й повертати людину до реальності. У цьому прикладі він мав би пояснити, що позбавлення сну небезпечне, і порадити відпочити, перш ніж щось робити", — зазначила компанія.

Нагадаємо,  7 серпня OpenAI презентувала GPT‑5 – найновішу і найпотужнішу версію свого штучного інтелекту.