Эта история стара, как сами социальные сети. Социальные сайты начинают набирать обороты, и группам модераторов становится трудно управлять потоком пользовательского контента. Владельцы сайтов, у которых еще нет строгих политик, сталкиваются с выбором. Должны ли они изменить свои условия обслуживания, чтобы защитить свой бренд и свое сообщество от потенциально опасного контента, или оставить все как есть? Этот деликатный вопрос, напрямую связанный с вопросами конфиденциальности и цензуры в Интернете, активно обсуждался в недавних сообщениях СМИ.
В прошлом месяце несколько популярных сайтов социальных сетей попали в заголовки новостей из-за изменения своей политики в отношении контента для взрослых. В конце февраля Google объявил, что будет запрещать контент сексуального характера в Blogger. Получив негативную реакцию от нескольких давних членов сообщества по поводу изменения, которое потребовало бы от многих пользователей удалить прошлый контент, команда Google решила отменить запрет через несколько дней. Вместо этого их внимание переключилось на выявление и удаление коммерческих порнографических сайтов, размещенных на платформе Blogger.
Гигант социальных сетей Reddit также был в новостях из-за недавних изменений в политике. Популярный сайт с момента своего создания был ориентирован на пользователей и управлялся пользователями, но в прошлом году он подвергся критике, когда хакеры создали сабреддит для распространения просочившихся фотографий знаменитостей. В ответ на эту проблему, а также другие случаи нарушения конфиденциальности и порнографии команда Reddit вносит некоторые изменения. Они расправились с торговлей фотографиями, популярной практикой среди некоторых членов сообщества. Согласно новой политике Reddit, фотографии или видео сексуального характера, которые не были опубликованы без предварительного согласия субъектов, будут удалены с сайта.
Недавние проблемы не уникальны для Blogger и Reddit. Популярные социальные приложения SnapChat и WhatsApp также оказались в центре внимания из-за проблем, связанных с неприемлемым контентом. Секс-работники использовали SnapChat, чтобы обмениваться откровенными фотографиями в обмен на оплату, а WhatsApp был приостановлен судом в Бразилии после того, как компания не оказала помощь в предполагаемом деле о детской порнографии.
Придумать эффективное решение проблемы нежелательного пользовательского контента непросто. С одной стороны, владельцы сайтов хотят создать безопасное сообщество для всех пользователей, включая самых маленьких участников. Но с другой стороны, есть проблема онлайн-цензуры и скользкий путь классификации того, что уместно, а что нет. Где владельцы сайтов должны провести черту, когда дело доходит до управления контентом? Ответ остается неясным.
Но одно можно сказать наверняка. Модерация важна и необходима для процветания сайтов, которые полагаются на пользовательский контент. Хотя подходы различаются, почти во всех социальных сетях есть системы классификации контента. Пользователи Blogger саморегулируются, маркируя свой собственный контент как откровенно сексуальный, что автоматически открывает страницу с предупреждением для других, кто посещает их сайт. Reddit полагается на модераторов-добровольцев и систему отзывов сообщества для управления пользовательскими материалами. На других сайтах работает команда модераторов-людей, а некоторые используют комбинацию инструментов модерации человека и машины, таких как фильтры ненормативной лексики или программное обеспечение Image Analyzer, чтобы сократить расходы и ускорить просмотр контента.
По мере того, как социальные сети продолжают расти и развиваться, модерация контента останется актуальной проблемой. Владельцы сайтов будут вынуждены балансировать между эффективным управлением сообществом и цензурой.