После судебных тяжб: Google внедряет в Gemini инструменты для поддержания психического здоровья

Об этом сообщает Delo.ua со ссылкой на Bloomberg .

Обновление направлено на предотвращение кризисных ситуаций и борьбу с дезинформацией.

Новые меры безопасности и "модули помощи"

Google внедряет ряд интерфейсных и алгоритмических изменений, чтобы сделать взаимодействие с ИИ более безопасным:

• Горячие линии помощи: если разговор указывает на потенциальный кризис (риск самоубийства или самоповреждение), Gemini будет автоматически выводить интерфейс с прямой ссылкой на службы поддержки.
• Модуль "Помощь рядом": для чатов, касающихся ментального здоровья, добавлен специальный информационный блок и изменен дизайн ответов, чтобы не поощрять деструктивное поведение.
• Разграничение фактов и убеждений: Google научила Gemini не подтверждать ошибочные убеждения пользователей. Чатбот должно мягко отличать субъективный опыт человека от объективных фактов.
• Финансовая поддержка: компания выделяет $30 миллионов в течение следующих трех лет в поддержку глобальных служб помощи в кризисных ситуациях.

Судебный контекст

Потребность в ужесточении безопасности обострилась после трагического случая во Флориде. В марте семья 36-летнего мужчины подала в суд на Google, утверждая, что четырехдневное общение с Gemini привело к "коучингу самоубийства". Хотя бот неоднократно направлял пользователя на горячую линию, компания сочла необходимость усовершенствования предохранительных механизмов.

Напомним, согласно исследованиям, 85% украинцев уже пользуются искусственным интеллектом , хотя только 6% готовы платить за премиум функции. При этом ChatGPT и Gemini остаются наиболее узнаваемыми платформами на отечественном рынке, значительно опережая конкурентов по количеству активных пользователей.