Google открывает инструмент SynthID Text для маркировки текста, созданного ИИ

Об этом пишет The Drum.

Этот инструмент позволяет вставлять скрытые водяные знаки в текст, созданный ИИ, что может помочь отличить контент, написанный человеком, от сгенерированного моделями искусственного интеллекта.

SynthID Text позволяет маркировать тексты так, чтобы водяные знаки оставались надежными даже после редактирования или перефразирования контента. Для рекламодателей и издателей, деятельность которых зависит от доверия пользователей, эта технология может стать значимым инструментом противодействия дезинформации.

Как работает SynthID Text?

Эта технология, разработанная Google DeepMind, интегрирует водяные знаки в текст еще на этапе его генерации, что достигается модуляцией вероятности появления определенных слов.

Когда большая языковая модель (LLM) генерирует текст, она определяет следующее слово, оценивая вероятность различных вариантов, которые продолжат предложение естественно и логично. SynthID Text изменяет эти вероятности достаточно, чтобы вставить скрытый водяной знак, не ухудшая качество и содержание текста.

Технология также адаптирует расположение водяных знаков в тексте в зависимости от длины, что делает маркировку более устойчивой и ощутимой в больших фрагментах. Это позволяет разработчикам легче определять источник контента, созданного ИИ.

История создания и новые перспективы

SynthID Text был впервые представлен в августе 2023 для пользователей генератора изображений Google Imagen в рамках платформы Google Cloud Vertex. Сейчас Google делает инструмент доступным на платформах Hugging Face и Responsible GenAI Toolkit для более широкой аудитории разработчиков.

Инструмент уже интегрирован в модель Google Gemini. Кроме того, компания планирует, что технологию водяных знаков можно будет применять для других типов контента – таких как изображения, аудио и видео – в зависимости от отзывов разработчиков.

Несмотря на перспективы SynthID Text имеет свои ограничения. К примеру, эффективность водяных знаков может снижаться в коротких текстах или при переводах контента на другие языки. В то же время использование этой технологии в рекламных продуктах Google, основанных на контенте ИИ, поднимает вопрос о стандартах, применяемых компанией для собственных текстов.

Маркировка ши-контента – не новое дело

Добавим, практика маркировки контента, созданного искусственным интеллектом не нова и многие известные сервисы и платформы уже ввели ее. К примеру, корпорация Meta с мая начала обозначать контент, созданный искусственным интеллектом в своих социальных сетях Instagram, Facebook и Threads. Возле фото или видео, сделанных с помощью ИИ, будут специальные метки.

Также маркировку изображений и видео ввел TikTok. Платформа будет использовать цифровой водяной знак, известный как Content Credentials.