Цифровые "стражи порядка": как эффективно использовать модерацию для разных типов контента

На первый взгляд, модерация похожа на сито, через которое "просеиваются" посты пользователей, сообщения в чатах, фотографии и любой другой контент, который создается пользователями. Но стоит копнуть глубже, и станет очевидным, что модерация задает тон и стандарты формирования бренда и его клиентов в онлайн-среде.

Просто представьте, что в чате можно озвучивать "голые эмоции" с крепким словцом или поделиться любым файлом (например, вирусным), что в любой соцсети можно выложить порно-фото, а на странице вашей компании можно оставлять неограниченное количество фейковых (не настоящих) отзывов. Хаос! Такой интернет вряд ли смог бы долго прожить... Но он был бы именно таким без модерации пользовательского контента.

Слово "модерация" происходит от французского modération — умеренность, сдержанность. А сам процесс модерации заключается в регулярном мониторинге интернет ресурса относительно соблюдения правил публикации контента: картинок, текстов, видео, форумов, социальных страниц и т. д.

Прикладное значение модерации сводится к 3-м основным функциям:

— Защита целостности бренда.

На примере cancel culture movement можно легко убедиться, что разрушить бренд можно в течение нескольких десятков секунд.

— Повышение доверия.

Модерация делает критику конструктивной. Любой негативный отзыв не удаляется командой модераторов, а, наоборот, публикуется. И ему уделяется должное внимание.

— Поддержка разумного и здорового общения между клиентами и компанией.

Модерация форумов, социальных сетей, фильтрация ненормативной лексики — все это используется, чтобы клиенты общались позитивно и по теме.

Эксперты New Media Services в своей работе постоянно сталкиваются с разными кейсами и помогают защитить репутацию и бренд клиентов, внедряя разные методы модерации.

Основными методами модерации являются:

— Автоматизированная модерация

— Пре-модерация

— Пост-модерация

Стоит остановиться подробнее на каждом из методов.

Автоматизированная модерация (на базе искусственного интеллекта)

Искусственный интеллект (ИИ), использует систему фильтров, идентифицирует, отсеивает и удаляет вредоносный контент. Наряду с этим ИИ обладает уникальными свойствами, которые для ручной модерации требуют крупных временных и денежных вложений:

— Круглосуточная доступность

— Одновременная обработка больших потоков информации

— Системность (ни один пост не останется без внимание ИИ)

— Мониторинг в режиме реального времени

— Быстрая обучаемость и совершенствование навыков

Механика работы ИИ достаточно проста:

— Проверка контента относительно наличия нарушения и степени нарушения

— Замена вредоносного контента (его части) или полное удаление

— Составление списка удаленного (отредактированного) контента

При этом очевидно, что модель требует постоянной тренировки, чтобы минимизировать количество ошибок. Соответственно, на финальном этапе клиент мониторит результаты проверки ИИ. Если менеджер отмечает, что контент был удален ошибочно, ИИ это фиксирует и в будущем не повторяет подобную ошибку. С учетом большого количества пользователей и ресурсов, которые мониторятся, модель тренируется быстро, эффективно и непрерывно.

Но даже с учетом такого букета преимуществ ручной мониторинг не может быть полностью заменен автоматизированным. Особенно это касается модерации видео-контента и картинок (фотографий), где автоматизированная модель является только ассистентом человека или первым эшелоном проверки. ИИ удаляет только очень явные проявления вредоносного контента на картинках, а именно: оружие, изображение обнаженного тела, жестокость, алкоголь, лекарства, нецензурные жесты, свастика, фото известных личностей и т.д. Но стоит добавить маскировку — как ИИ не справится.

Пре-модерация

Контент проверяется командой модераторов ДО публикации на сайте. Цель пре-модерации — гарантировать, что любой пост не нарушает правила сайта (ресурса) и предотвратить появление вредоносного контента. Соответственно, количество модераторов напрямую зависит от активности пользователей на форуме.

Выгодами от использования пре-модерации являются:

— Эффективная защита бренда.

— Клиенты никогда не видят вредоносного контента.

К минусам смело относим существенные денежные затраты на оплату труда менеджеров, наличие человеческого фактора.

Значимость пре-модерации обусловлена тем, что только 15% родителей осведомлены о том, что именно просматривают их дети в Интернете, а также тем фактом, что 20% тинейджеров получают вредоносный контент сексуального характера.

Пост-модерация

Исходя из названия, легко догадаться, что модерация осуществляется ПОСЛЕ опубликования контента.  Таким образом обеспечивается полностью живое общение. Впрочем, нарушение правил общения, отслеживается модераторами и приводит к бану или удалению пользователя.

Как оптимизировать модерацию

Модерация, как и любое решение, требует системного подхода:

— Так, правила модерации должны пересматриваться с учетом маркетинговых целей и задач. В идеале — чтобы они позволяли пользователям действовать "на грани фола", но не нарушать правило.

— Оптимальным является объединение усилий Искусственного Интеллекта и человеческих ресурсов. Такой подход делает модерацию максимально эффективной.

— Передача задач по модерации на аутсорсинг позволяет существенно скостить затраты в сравнении с наймом собственного персонала.

Пользовательский контент является неотъемлемой частью современного онлайн-бизнеса. Потому что ему доверяют клиенты гораздо больше, чем рекламным слоганам. А значит он повышает конверсию и вовлеченность. А также косвенно сокращает затраты на прямую рекламу. Но без модерации посты, картинки и видео-файлы клиентов могут, наоборот, все разрушить. Поэтому качественная модерация контента является залогом его успеха.

Блог Анастасии Белоус о влиянии искусственного интеллекта на маркетинговые активности читайте 18 января на сайте Delo.ua.