Поскольку другие платформы социальных сетей изучают, как они могут использовать манипулируемые медиа для функций, включая дипфейки, Facebook объявил о первой итерации своей политики, направленной на прекращение распространения вводящих в заблуждение поддельных видео, в рамках своих более широких усилий по предотвращению - предотвратить потенциальный рост проблемных дипфейковых видео.
Facebook сообщает, что встречался с экспертами в этой области, чтобы сформулировать свою политику, включая людей с «техническим, политическим, медийным, юридическим, гражданским и академическим образованием».
Согласно Facebook:
В результате этих партнерских отношений и обсуждений мы ужесточаем нашу политику в отношении вводящих в заблуждение манипулируемых видео, которые были идентифицированы как дипфейки. В будущем мы будем удалять вводящие в заблуждение манипулируемые медиафайлы, если они соответствуют следующим критериям:
- Видео было отредактировано или синтезировано - без поправок на ясность или качество - способами, которые не очевидны обычному человеку и, вероятно, могут ввести кого-то в заблуждение, заставив думать, что субъект видео произнес слова, которых на самом деле не было. сказать. И:
- Это продукт искусственного интеллекта или машинного обучения, который объединяет, заменяет или накладывает контент на видео, делая его подлинным."
Facebook заявляет, что новая политика не распространяется на контент, который является пародией или сатирой, «или видео, которое было отредактировано исключительно для того, чтобы опустить или изменить порядок слов». Последнее может показаться несколько проблематичным, но этот тип редактирования уже включен в существующие правила Facebook, хотя Facebook также отмечает, что:
Видео, которые не соответствуют этим стандартам для удаления, по-прежнему могут быть проверены одной из наших независимых сторонних проверщиков фактов, в которую входят более 50 партнеров по всему миру, проверяющих факты на более чем 40 языках. Если проверка фактов оценивает фото или видео как ложное или частично ложное, мы значительно сокращаем его распространение в Ленте новостей и отклоняем его, если оно используется в качестве рекламы. И что очень важно, люди, которые увидят это, попытаются поделиться или уже поделились этим, увидят предупреждения, предупреждающие их о том, что это ложь».
Так почему бы Facebook просто не удалить их? как проблема.
Но Facebook говорит, что такой подход может быть нелогичным, потому что те же самые изображения/видео будут доступны в других местах в Интернете.
Этот подход имеет решающее значение для нашей стратегии, и мы услышали о нем, в частности, из наших бесед с экспертами. Если мы просто удалим все видео с манипулированием, помеченные специалистами по проверке фактов как ложные, видео по-прежнему будут доступны в других местах в Интернете или экосистема социальных сетей. Оставляя их открытыми и помечая как ложные, мы предоставляем людям важную информацию и контекст».
Итак, Facebook формулирует свое решение не удалять некоторый манипулируемый контент как гражданский долг, что похоже на его подход к политической рекламе, которую Facebook не будет подвергать проверке фактов, потому что:
"Люди должны иметь возможность сами видеть, о чем говорят политики. И если контент заслуживает освещения в печати, мы также не удалим его, даже если в противном случае он будет противоречить многим нашим стандартам".
Так что это помогает, служит общественным интересам - и Facebook никоим образом не выигрывает от размещения такого контента и последующего взаимодействия, которое он генерирует, на своей платформе, в отличие от его удаления, а затем, потенциально, просмотра пользователей. мигрировать в какую-нибудь другую социальную сеть, чтобы облегчить ту же дискуссию. Это не имеет никакого отношения к этому. Исключительно на благо общества.
Скептицизм в сторону, дипфейки явно являются проблемой для крупных сетей, приближающихся к 2020 году, поскольку Twitter, Google и Facebook запускают свои собственные независимые исследовательские проекты, чтобы определить лучшие способы обнаружения и удаления такого контента. Они делают это не просто так - при таком большом акценте на потенциальной опасности дипфейков для манипулятивного обмена сообщениями можно предположить, что платформы наблюдают повышенное внимание к этому типу деятельности со стороны злоумышленников, и они работают над тем, чтобы остановите его, прежде чем он вызовет проблемы.
Учитывая внимание к дезинформации с 2016 года и готовность некоторых верить в то, во что они хотят, вы можете себе представить, что дипфейки действительно могут быть основным оружием для политических активистов. И что еще хуже, во многих случаях, даже когда фальшивое видео было доказано, уже слишком поздно. Ущерб нанесен, гнев укоренился, мнение сформировано.
Например, это видео циркулирует по Facebook в течение нескольких лет, изображая беженца-мусульманина, разбивающего молотком христианскую статую в Италии.
За исключением того, что это не христианская статуя, он не беженец, и видео не было записано в Италии. Фактический инцидент произошел в 2017 году в Алжире - стране с преобладающим мусульманским населением - где статуя обнаженной женщины долгое время была предметом религиозных споров.
Это вводящее в заблуждение кадрирование видео неоднократно разоблачалось, и о нем сообщалось. Но она все равно время от времени всплывает, разжигая антимусульманские настроения, хотя подробности полностью фальшивые (и, как видите, эта версия была просмотрена более 1,1 миллиона раз).
Это видео не является дипфейком, но, как уже отмечалось, даже если люди могут пролистать комментарии и обнаружить, что это ложь, даже несмотря на то, что это разоблачается снова и снова, это в значительной степени не имеет значения. Цикл новостей в социальных сетях меняется быстро, и делиться ими легко. Большинство пользователей просматривают подобные вещи один раз, принимают их за чистую монету, передают дальше, а затем переходят к следующему.
Вы можете себе представить, что тот же подход будет применяться к дипфейкам - что произойдет, например, если кто-то опубликует дипфейк Джо Байдена, говорящий что-то осуждающее? Различные очевидно сфабрикованные видео Байдена уже просеивают сеть Facebook - дипфейк, скорее всего, наберет обороты очень быстро, вероятно, слишком быстро, чтобы с ним справиться. Мнения укрепились, ответы стали ощутимыми.
Тогда вы можете понять, почему все основные игроки так усердно работают, чтобы предотвратить следующий уровень манипуляций на передаче.
Как уже отмечалось, это также связано с тем, что TikTok, как сообщается, работает над новым инструментом, который превратит дипфейки в своего рода функцию.
TikTok заявляет, что не планирует выпускать эту функцию на рынки за пределами Китая, поскольку эта функция фактически тестируется в Douyin, китайской версии TikTok. Но, учитывая потенциальное требование приложения делиться своими данными с правительством Китая, это может быть еще более тревожным - в ходе этого процесса пользователям потребуется предоставить биометрическое сканирование лица, которое TikTok теоретически может хранить на своих серверах.
Правительство Китая имеет самую сложную сеть наблюдения за гражданами в мире, состоящую из более чем 170 миллионов камер видеонаблюдения, что эквивалентно одной на каждые 12 человек в стране. Все эти камеры оснащены расширенными возможностями распознавания лиц, и Китай уже использует их для идентификации уйгарских мусульман, людей, уклоняющихся от штрафов, и протестующих в Гонконге.
Представьте, если бы у него также была база данных пользователей TikTok, доступная благодаря этой функции? Вы можете возразить, что у большинства взрослых есть водительские права, и этого было бы достаточно, чтобы запустить систему независимо от того, но только около 369 миллионов китайцев зарегистрированы для вождения из 1,39 миллиарда граждан, в то время как пользователи TikTok могут зарегистрироваться из 13 лет. Это много ценных данных.
Помимо манипулятивных проблем, связанных с дипфейками, TikTok, возможно, также обнаружил новую проблему, с которой нужно бороться (примечание: TikTok заявил, что функциональность, которая не одобрена, будет доступна только для пожилых пользователей).
Подводя итог, можно сказать, что дипфейки могут стать серьезной проблемой по нескольким направлениям, поэтому Facebook сейчас приступает к работе, чтобы остановить следующую крупную тенденцию дезинформации.
Как недавно заметил Бен Смит, главный редактор BuzzFeed:
«Я думаю, что СМИ полностью готовы не повторять ошибок последнего [выборного] цикла… но я уверен, что мы исправим это каким-то новым способом, которого мы не ожидаем».
Могут ли дипфейки стать причиной того, что следующий избирательный цикл выйдет из равновесия?
Определенно, что стоит посмотреть в 2020 году.