Представьте на мгновение, что ваш сайт ежедневно получает миллиарды комментариев, фото и видео. Хотя поначалу вы можете быть в восторге от такого уровня вовлеченности вашего сообщества, большинство владельцев сайтов быстро устанут от управления огромным потоком пользовательского контента. Из-за большого количества представленных материалов защитить членов вашего сообщества и ваш бренд от потенциальных угроз будет намного сложнее. Для крупных социальных сетей этот сценарий представляет собой повседневную реальность. Вот более глубокий взгляд на то, как одна социальная сеть с 300 миллионами пользователей модерирует свой контент, чтобы управлять рисками, и некоторые важные выводы для вашего бизнеса, когда вы разрабатываете собственную стратегию модерации контента.
Модерация контента: почему это важно
В то время как многие многообещающие сайты социальных сетей умерли на корню после взрыва популярности Facebook, Tagged росла и процветала. Уникальная сеть, запущенная в 2004 году, ориентирована на социальные открытия и насчитывает более 300 миллионов зарегистрированных пользователей в 220 странах. Отмеченные участники могут участвовать в чате в реальном времени, играть в игры и отправлять личные сообщения другим. Ежемесячно через сеть устанавливается около 100 миллионов новых подключений.
По мере того, как Tagged начал масштабироваться, задача управления потоком пользовательского контента стала очень реальной. Члены сообщества загружали сотни тысяч фотографий каждый день. Команда социальной сети полагалась исключительно на стратегию постмодерации для фильтрации откровенных изображений, а это означало, что неприемлемые фотографии часто размещались на сайте в течение нескольких минут, прежде чем они были отмечены рецензентами. Число сообщений пользователей об откровенных изображениях росло, и Tagged столкнулась с необходимостью найти более эффективное решение для защиты своего интернет-сообщества.
Большинство предпринимателей придают большое значение созданию положительного и безопасного онлайн-опыта для своей аудитории. Сокращение воздействия вредоносного контента может помочь сохранить имидж вашего бренда и сделать ваших клиентов счастливыми.
Переход на встроенную модерацию контента
В конечном счете, команда Tagged решила применить более комплексный подход к модерации контента, что позволило бы упростить процесс фильтрации изображений, нарушающих условия обслуживания сайта. Вместо того, чтобы полагаться исключительно на постмодерацию рецензентами, Tagged обратилась за помощью к Image Analyzer, высокотехнологичному программному обеспечению для модерации контента, которое позволило бы им быстро и эффективно выявлять и удалять непристойные изображения. Цель Tagged при интеграции состояла в том, чтобы свести к минимуму доступ участников к откровенному контенту и снизить нагрузку на модераторов-людей на 50%. Вот три совета, которые вы можете извлечь из их тематического исследования:
Настройте свои решения в соответствии с потребностями вашего сообщества: Tagged работал с командой Image Analyzer, чтобы разработать индивидуальное решение, которое легко интегрировалось бы с существующей системой модерации контента и поддерживало ее. Потенциально опасные изображения определялись за считанные секунды и помещались в очередь на модерацию. Изображения, соответствующие условиям предоставления услуг Tagged, мгновенно размещались на сайте. В течение нескольких недель после внедрения в социальной сети значительно сократилось общее количество сообщений о непристойном содержании от ее пользователей. Очередь изображений, помеченных для модерации человеком, также была значительно короче.
Для компаний, разрабатывающих свои собственные интегрированные стратегии модерации контента, есть несколько выводов. Во-первых, важно найти решение, которое соответствует вашим общим принципам сообщества; нет двух сайтов с одинаковыми потребностями. Во-вторых, стратегически подумать о том, как программное обеспечение для модерации может помочь вашей команде и сделать ее более эффективной, вместо того, чтобы немедленно думать о замене всего человеческого модерирования (или сбрасывать со счетов программное обеспечение, потому что вы верите в силу человеческого модерирования).
Установите четкие цели модерации, чтобы улучшить взаимодействие с пользователем. Эффективная модерация контента необходима для удобства пользователей. В сегодняшнем мгновенном онлайн-опыте пользователи разочарованы долгим ожиданием публикации своего контента. Применив более комплексный подход к модерации контента, Tagged смогла достичь своих целей по модерации контента в очень короткие сроки. Реализация двухсторонней стратегии позволила сети оправдать ожидания пользователей в отношении простоты и скорости, а также защитить бизнес в некоторых основных направлениях.
Улучшите свою бизнес-модель: поддерживающее программное обеспечение для модерации контента также поможет вашему бизнесу работать более эффективно на двух уровнях. Они не только минимизировали риск подвергать активных членов сообщества и модераторов вредоносному контенту. Они также помогли значительно упростить процесс модерации контента, тем самым снизив нагрузку на своих сотрудников.
Для компаний, которые переживают рост и пытаются справиться с потоком пользовательского контента, иногда партнерство с внешним ресурсом может помочь облегчить бремя. Независимо от того, ставите ли вы перед собой конкретные цели, такие как Tagged, или просто хотите создать более эффективный процесс, подумайте о том, чтобы изучить варианты интегрированного программного обеспечения для модерации контента, чтобы найти лучшее решение для вашего бизнеса.