Эми Уильямс готовила завтрак однажды утром, когда ее 12-летняя дочь Эмма расплакалась. Выяснилось, что Эмма, активная в популярной социальной сети, подвергалась травле в сети. Это произошло после того, как некоторые порнографические материалы попали в ленту друзей Эммы, прежде чем они были помечены как откровенные и вредные. Уильямс сделала единственное, что могла: перекрыла связь дочери с сайтом.
«Я знаю, она любит проводить время в социальных сетях», - говорит Уильямс. «Но как ее родитель, если я не могу доверить сети контроль над тем, что она видит, мне придется принять трудное решение».
К сожалению, Уильямс не одинок. Для родителей в эпоху цифровых технологий защита своих детей в Интернете является главной задачей. Согласно недавнему исследованию, проведенному компанией Knowthenet, занимающейся безопасностью в Интернете, 59% детей в возрасте до 10 лет присоединились к социальной сети. Хотя многие крупные сайты социальных сетей не позволяют пользователям младше 13 лет создавать профили, они подверглись критике за неэффективные системы проверки возраста. Все чаще семьи говорят со своими детьми о важности безопасности в Интернете, в то время как другие отслеживают использование детьми социальных сетей с помощью специальных программ.
К сожалению, обсуждение и мониторинг могут зайти так далеко, когда речь идет о защите детей в Интернете. Существует растущая тенденция среди сайтов социальных сетей, пытающихся найти лучший способ справиться с растущими проблемами, такими как киберзапугивание и неприемлемый контент.
Оскорбительные комментарии, фотографии и видео могут легко появиться в социальных сетях до того, как модераторы смогут их пометить и удалить. Это особенно верно для сайтов социальных сетей, которые не применяют активный подход к модерации.
Крис Прибе, основатель и генеральный директор CommunitySift, классификатора текстов и программного обеспечения для управления рисками для онлайн-сообществ, говорит, что владельцы веб-сайтов, у которых нет эффективных систем, подвергают риску как своих пользователей, так и свой бизнес.
«Сообщество может быстро стать токсичным, - говорит г-н Прибе. пользователи будут пытаться раздвинуть границы. Если границ нет, начинают действовать другие люди. Затем происходит то, что хорошие участники начинают уходить, и этот небольшой процент пользователей начинает брать контроль над сообществом. Это то, что совершенно можно избежать."
В результате социальные сети и сайты, создающие сообщества, вынуждены предпринимать все более решительные шаги по управлению пользовательским контентом. Но если вы менеджер сообщества или разработчик продукта, который пытается определить правильные шаги для решения этой проблемы, что вам следует делать? После интервью с несколькими экспертами в этой области были получены три совета.
1. Установите четкие стандарты сообщества и применяйте их
Поскольку почти две трети детей в возрасте до 10 лет сообщают, что они находятся в социальных сетях, для социальных сетей крайне важно иметь четкие условия обслуживания, которые строго соблюдаются. Как упоминает Крис Прибе, всегда найдется горстка членов сообщества, которые попытаются раздвинуть границы. Демонстрация того, что ваш бизнес серьезно относится к этим границам, может помочь снизить риск для участников вашего сайта и вашей компании. Заблаговременное установление руководящих принципов в консультации с юрисконсультом дает вам основу для удаления пользователей и принятия других мер, если взаимодействие принимает неожиданный оборот.
2. Используйте систему фильтрации
Одним из подходов к защите самых младших участников вашей социальной сети является использование системы фильтрации контента, который можно считать опасным. Различные сайты подходят к фильтрации по-разному. Например, одна социальная сеть может разработать систему рейтинга на основе возраста, которая фильтрует контент, отвечающий определенным установленным критериям. Другой может выбрать предварительную модерацию пользовательского контента, добавив его в очередь на проверку. Какой бы подход вы ни выбрали, система фильтрации может гарантировать, что оскорбительный контент никогда не попадет к вашим пользователям.
3. Соедините интегрированное контент-решение с модераторами-людьми
Еще один важный вывод, который следует из этого обсуждения, заключается в важности комплексного подхода к управлению пользовательским контентом. По мере того, как социальные сети начинают расти, огромное количество контента, создаваемого ежедневно, может стать неуправляемым для команды рецензентов. «Задача выявления порнографических медиа среди массы законного контента является сложной задачей», - говорит Криспин Пайкс, генеральный директор и основатель Image Analyzer, британского поставщика технологий сканирования изображений. С точки зрения объема и стоимости, наступает момент, когда имеет смысл использовать автоматизированное решение, чтобы дополнить вашу команду рецензентов. Выбор настраиваемой программы, которая может быть адаптирована к потребностям вашего бизнеса, может помочь снизить нагрузку на ваш персонал по проверке и сократить расходы для вашего бизнеса. Пайкс продолжает: «Большинство провайдеров используют группы ручной модерации для проверки каждого изображения, что является дорогостоящим решением, которое просто не масштабируется по мере увеличения объемов».
Сегодняшние родители сталкиваются с уникальными проблемами, когда дело доходит до защиты своих детей в Интернете. К сожалению, иногда недостаточно просто поговорить с детьми о безопасности в Интернете. Если сайты социальных сетей не имеют адекватных систем для защиты своих пользователей, члены сообщества могут подвергаться воздействию вредоносного контента. В результате такого разоблачения могут случиться трагедии.