Google відкриває інструмент SynthID Text для маркування тексту, створеного ШІ

Відкрийте нові горизонти для вашого бізнесу: стратегії зростання від ПриватБанку, Atmosfera, ALVIVA GROUP, Bunny Academy та понад 90 лідерів галузі.

12 грудня на GET Business Festival дізнайтесь, як оптимізувати комунікації, впроваджувати ІТ-рішення та залучати інвестиції для зростання бізнесу.

Забронювати участь

Про це пише The Drum.

Цей інструмент дозволяє вставляти приховані водяні знаки в текст, створений ШІ, що може допомогти розрізнити контент, написаний людиною, від згенерованого моделями штучного інтелекту.

SynthID Text дозволяє маркувати тексти так, щоб водяні знаки залишалися надійними навіть після редагування або перефразування контенту. Для рекламодавців і видавців, чия діяльність залежить від довіри користувачів, ця технологія може стати значущим інструментом протидії дезінформації.

Як працює SynthID Text?

Ця технологія, розроблена Google DeepMind, інтегрує водяні знаки в текст ще на етапі його генерації, що досягається шляхом модуляції ймовірності появи певних слів.

Коли велика мовна модель (LLM) генерує текст, вона визначає наступне слово, оцінюючи ймовірність різних варіантів, які продовжать речення природно і логічно. SynthID Text змінює ці ймовірності достатньо, щоб вставити прихований водяний знак, не погіршуючи якість та зміст тексту.

Технологія також адаптує розташування водяних знаків у тексті залежно від його довжини, що робить маркування більш стійким та відчутним у більших фрагментах. Це дозволяє розробникам легше визначати джерело контенту, створеного ШІ.

Історія створення і нові перспективи

SynthID Text був уперше представлений у серпні 2023 року для користувачів генератора зображень Google Imagen у межах платформи Google Cloud Vertex. Зараз Google робить інструмент доступним на платформах Hugging Face і Responsible GenAI Toolkit для ширшої аудиторії розробників.

Інструмент уже інтегровано в моделі Google Gemini. Крім того, компанія планує, що технологію водяних знаків можна буде застосовувати для інших типів контенту — таких як зображення, аудіо та відео — в залежності від відгуків розробників.

Незважаючи на перспективи, SynthID Text має свої обмеження. Наприклад, ефективність водяних знаків може знижуватися у коротких текстах або при перекладах контенту на інші мови. Водночас використання цієї технології в рекламних продуктах Google, що базуються на контенті ШІ, піднімає питання про стандарти, які компанія застосовуватиме для власних текстів.

Маркування ші-контенту - не нова справа

Додамо, практика маркування контенту, який був створений штучним інтелектом не нова і багато відомих сервісів та платформ вже запровадили її.  До прикладу, корпорація Meta з травня почала позначати контент, створений штучним інтелектом в своїх соціальних мережах Instagram, Facebook і Threads. Біля фото чи відео, які зробили за допомогою ШІ, будуть спеціальні позначки.

Також маркування зображень і відео запровадив TikTok. Платформа використовуватиме цифровий водяний знак, відомий як Content Credentials.