Американские правозащитники опасаются использования нового антиэкстремистского алгоритма в целях цензуры

В США некоммерческая организация Counter Extremism Project создала алгоритм для автоматического удаления из соцсетей экстремистских материалов.

Профессор компьютерных наук Хани Фарид, сотрудничавший в 2008 году с Microsoft при создании программы PhotoDNA для борьбы с распространением порнографических изображений детей, применил для создания антиэкстремистского поискового алгоритма eGLYP ту же технологию «надежного хеширования» (robust hashing), когда программа распознаёт фотографию, даже если автор публикации изменил её размер или обработал в графическом редакторе. По словам Фарида, новый алгоритм является улучшенной версией PhotoDNA — он может узнавать и автоматически удалять из соцсетей при повторной загрузке все материалы, которые однажды были помечены как экстремистские, в том числе видеоролики и аудиодорожки. Похожим образом ContentID YouTube удаляет видео, нарушающие авторские права, когда их выкладывают повторно.

Генеральный директор Counter Extremism Project Марк Уоллес говорит, что программное обеспечение eGLYPH находится на завершающей стадии тестирования и компания уже ведёт переговоры с Facebook и Youtube. Тем временем правозащитники опасаются, что внедрение подобных алгоритмов приведет к ужесточению цензуры в соцсетях.

«Никто не утверждает, что нужно разрешить в сети видео с отрезанием головы, — говорит Джон Хорган, профессор психологии в Университете Штата Джорджия. — Тем не менее, остаётся много вопросов по поводу того, что именно является экстремистским контентом». В отличие от детской порнографии, которую несложно определить, экстремистская пропаганда является более абстрактным понятием, и законы, регулирующие ее распространение, в разных странах отличаются.

Сам Фарид признаёт возможность некорректной работы программы на начальном этапе, однако этот побочный эффект со временем будет устранён методом добавления проверенных изданий в «белый список».

Читайте также:

Шифрование end-to-end — путь к джихаду. Глава МВД Франции призвал ограничить функционал криптомессенджеров
🔓
Google и Apple поддержали Microsoft в борьбе за раскрытие данных о правительственных запросах
🔓
Кремль считает, что интернет в России свободнее, чем в США

_____

Присоединяйтесь к нам в Telegram!