- Категория
- Техно
- Дата публикации
- Переключить язык
- Читати українською
TikTok будет маркировать изображения и видео, созданные ИИ
TikTok планирует начать обозначать изображения и видео, сгенерированные с помощью искусственного интеллекта, сообщается в четверг, используя цифровой водяной знак, известный как Content Credentials.
Об этом пишет Reuters.
Исследователи выразили обеспокоенность тем, что контент, созданный искусственным интеллектом, может быть использован для вмешательства в выборы в США этой осенью, и TikTok уже был среди группы из 20 технологических компаний, подписавших в начале этого года соглашение, обязавшись бороться с этим.
Компания уже обозначает созданный искусственным интеллектом контент, созданный с помощью инструментов в приложении, но последний шаг предусматривает применение метки к видео и изображений, созданных за пределами службы.
"У нас также есть политики, которые запрещают реалистический искусственный интеллект без меток, поэтому, если на платформе появится реалистический искусственный интеллект (созданный контент), мы удалим его как нарушающий правила нашего сообщества", - рассказал Адам Пресер, руководитель отдела операций, доверия и безопасности компании TikTok.
Технологию учетных данных содержимого возглавляет Коалиция за происхождение и подлинность содержимого, группа, соучредителем которой являются Adobe, Microsoft другие, но она открыта для использования другими компаниями.
YouTube и цель платформы (Instagram и Facebook) также заявили, что планируют использовать учетные данные содержимого.
Издание пишет, что для того чтобы система работала как следует, и производитель генеративного инструмента искусственного интеллекта, и платформа, используемая для распространения содержимого, должны согласиться использовать отраслевой стандарт.
Например, когда человек использует инструмент Dall-E от OpenAI для создания изображения, OpenAI добавляет водяной знак к полученному изображению и добавляет данные в файл, которые впоследствии могут указать, было ли подделано.
Когда это изображение будет загружено в TikTok, оно будет автоматически отмечено как созданное ИИ.
Напомним, OpenAI запустил инструмент, который может обнаруживать изображения, созданные его генератором преобразования текста в изображение DALL-E 3 на фоне роста беспокойства по поводу влияния созданного искусственным интеллектом контента на глобальные выборы этого года.
Причиной этого стало то, что во время всеобщих выборов в Индии в апреле, появились поддельные видео двух болливудских актеров, критикующих премьер-министра Нарендру Моди.
Источник фото: ua.depositphotos.com