Після судових позовів: Google впроваджує в Gemini інструменти для підтримки психічного здоров'я

Про це повідомляє Delo.ua з посиланням на Bloomberg.

Оновлення спрямоване на запобігання кризовим ситуаціям та боротьбу з дезінформацією.

Нові заходи безпеки та "модулі допомоги"

Google впроваджує низку інтерфейсних та алгоритмічних змін, щоб зробити взаємодію з ШІ безпечнішою:

• Гарячі лінії допомоги: якщо розмова вказує на потенційну кризу (ризик самогубства чи самоушкодження), Gemini автоматично виводитиме інтерфейс із прямим посиланням на служби підтримки.
• Модуль "Допомога поруч": для чатів, що стосуються ментального здоров'я, додано спеціальний інформаційний блок та змінено дизайн відповідей, щоб не заохочувати деструктивну поведінку.
• Розмежування фактів і переконань: Google навчила Gemini не підтверджувати хибні переконання користувачів. Чатбот має м'яко відрізняти суб'єктивний досвід людини від об'єктивних фактів.
• Фінансова підтримка: компанія виділяє $30 мільйонів протягом наступних трьох років на підтримку глобальних служб допомоги в кризових ситуаціях.

Судовий контекст

Потреба в посиленні безпеки загострилася після трагічного випадку у Флориді. У березні родина 36-річного чоловіка подала до суду на Google, стверджуючи, що чотириденне спілкування з Gemini призвело до "коучингу самогубства". Хоча бот неодноразово направляв користувача на гарячу лінію, компанія визнала необхідність удосконалення запобіжних механізмів.

Нагадаємо, згідно з дослідженнями, 85% українців уже користуються штучним інтелектом, хоча лише 6% готові платити за преміумфункції. При цьому ChatGPT та Gemini залишаються найбільш впізнаваними платформами на вітчизняному ринку, значно випереджаючи конкурентів за кількістю активних користувачів.