Аудит Facebook: соцсеть проверили на язык вражды, справедливую модерацию и обеспечение приватности

Юристы отметили плюсы в работе компании, но раскритиковали её за модерацию контента, структуру подотчётности гражданских прав и нарушение приватности.  

На днях свет увидел отчёт по исследованию политики и деятельности компании Facebook в отношении гражданских прав Facebook’s Civil Rights Audit – Final Report. Аудит начался ещё в 2018 году по просьбе и при поддержке гражданского общества и некоторых членов Конгресса. Отчёт составили юрист в сфере гражданских прав Лора У. Мерфи и юридическая фирма Relman Colfax.

Авторы исследования отмечают, что это не анализ технической эффективности компании. В отчёте рассматриваются следующие темы: подотчётность Facebook обществу в области гражданских прав, информирование избирателей, модерация контента, таргетирование рекламы, искусственный интеллект и другие используемые технологии, разнообразие и инклюзивность команды. «Роскомсвобода» разобралась, какие выводы сделали юристы.

.

Структура подотчётности в области гражданских прав

.

Несмотря на то что Facebook уже заботится о внутренней системе защиты пользователей от дискриминации, аудиторы настоятельно призывают компанию развивать свою инфраструктуру гражданских прав на уровне, соизмеримом с масштабом и охватом компании.

Facebook взял на себя обязательство учредить специальную штатную должность по гражданским правам и запустил отдельный надзорный совет, который будет принимать независимые решения о модерации. Но, помимо этого, Facebook не спешит придумать ещё что-то для обеспечения защиты гражданских прав на своей платформе.

«Многие правозащитники впали в уныние, разочарование и гнев после многолетних просьб к компании сделать больше для продвижения равенства и борьбы с дискриминацией, а также обеспечения свободы выражения мнений», – написали аудиторы.

Отчет опубликован на фоне продолжающегося бойкота Facebook со стороны рекламодателей #StopHateForProfit (#НетНенавистиРадиВыгоды) – кампании против дезинформации и ненавистнических высказываний. 7 июля организаторы бойкота встретились с Марком Цукербергом и другими руководителями компании по этому вопросу, но они остались разочарованными очевидным нежеланием платформы изменять политику. Один из организаторов охарактеризовал эту встречу как «длинную по времени, но короткую по обязательствам».

.

Влияние на выборы

.

Facebook проводит политику невмешательства в выборы, чтобы исключить давление на избирателей. Аудиторы обратили внимание, что на удаление поста Трампа в марте, нарушающего эту политику, потребовалось 24 часа. Они рекомендуют сделать схему оценки постов более гибкой и быстрой.

В мае же Facebook и вовсе не удалил посты президента США Дональда Трампа, которые Twitter пометил как ложные и подстрекающие к насилию. Однако если к постам политиков относиться иначе чем, к постам остальных пользователей, это создаст «иерархию речи» и даст привилегии отдельным лицам, отметили аудиторы.

К слову, газета The Washington Post обнаружила, что решение оставить посты принял сам Цукерберг. После личного звонка Трампа, он вдруг обнаружил, что они не нарушают политику Facebook.

.

Модерация контента

.

Вместе с тем Facebook в целом удаляет ненавистнические высказывания и подстрекательства к насилию. Аудиторы положительно отозвались о пилотном проекте компании по увеличению точности определения таких постов, который показал хорошие результаты. Facebook обновил свои рекомендации модераторов, сделав критерии отбора таких постов чётче.

Аудиторы рекомендуют Facebook собрать данные и дополнительно изучить, как ненавистнические речи отражаются на конкретных группах населения, чтобы выделить дополнительные ресурсы на борьбу с ними. Facebook также следует предпринять более радикальные действия против алгоритмической предвзятости к евреям, мусульманам и другим целевым группам.

.

Приватность

.

Учитывая огромное количество данных, которыми располагает Facebook, и его охват, у правозащитников неоднократно возникали опасения по поводу конфиденциальности пользователей. Беспокойство усилилось после скандала с Cambridge Analytica в 2018 году, когда компания незаконно получила данные о 87 млн пользователей соцсети, чтобы настраивать таргетированную рекламу для избирательных кампаний. Пандемия COVID-19 и массовые протесты против расовой дискриминации и вовсе вознесли опасения на небывало высокий уровень, поскольку люди в своей деятельности всё больше полагаются на социальные сети и цифровые платформы.

Для защиты конфиденциальности компания приняла на себя ряд обязательств, таких как выявление, устранение рисков и их документирование в процессе разработки продуктов, проведение проверок, создание ответственного комитета, привлечение независимых оценщиков, отчётность и пр. Однако критики утверждают, что этих мер недостаточно, потому что руководство Facebook за все свои ошибки не получило никаких штрафов и методы сбора данных, которые привели к основным нарушениям конфиденциальности, остались прежними.

.

Искусственный интеллект

.

Аудиторы заявили о предвзятости искусственного интеллекта, поскольку его обучают люди, по своей природе склонные к субъективности. Они могут повлиять на то, увидит ли кто-то новость, найдёт ли работу, купит продукт; какой контент будет удалён с платформы, какие объявления, связанные с выборами, покажут.

Facebook вовсю использует алгоритмы на основе искусственного интеллекта. Аудиторы считают, что крайне важно, чтобы компания продолжала разрабатывать способы оценки точности используемых им моделей искусственного интеллекта в различных странах. Сейчас для избежания предвзятости Facebook создал руководящие принципы по этому вопросу и специальные технические инструменты.

.

Распознавание лиц

.

Facebook имеет несколько продуктов и функций, которые основаны на технологии распознавания лиц, например, «обзор фотографий». Компания утверждает, что не делится получаемой информацией с правоохранительными органами. Однако технология основа на алгоритмах, к которым возникают такие же вопросы о предвзятости, как и к алгоритмам ИИ, отмечают аудиторы.

.

Сквозное шифрование

.

Сквозное шифрование защищает конфиденциальность и безопасность пользователей, гарантируя, что их личные сообщения не могут быть доступны третьим лицам, будь то государственные структуры, хакеры, рекламодатели или частные компании. Однако критики сквозного шифрования беспокоятся, что технология может затруднить идентификацию лиц, чьи сообщения нарушают законы или политику соцсети, например, аферистов, насильников и др.

Facebook указал, что оставит сквозное шифрование, но наряду с этим решил инвестировать в передовые технологии, чтобы помочь людям оставаться в безопасности.

.

Рекламные инструменты

.

За последние несколько лет против Facebook было подано несколько исков о дискриминации. Истцы утверждали, что его рекламные инструменты позволяют рекламодателям выбирать, кто получает рекламу, и исключать людей  по признаку пола, расы, возраста и других характеристик. Компания сделала такой таргетинг недоступным. Теперь якобы рекламодатели могут работать только с аудиториями, выбранными на основе сходства в поведении и без учёта возраста, пола, почтового индекса или членства в группе соцсети.

.

Разнообразие и инклюзивность в команде

.

Прогресс требует разнообразия инклюзивности в рабочей среде для устранения неравенства и барьеров для сотрудников. Правозащитники уже поднимали вопрос по поводу относительной нехватки цветных людей, пожилых, инвалидов, женщин и др. групп на технических позициях и руководящих должностях.

Сейчас цель рекрутинговой политики и программ Facebook состоит в том, чтобы набирать и нанимать кандидатов из разных стран. Facebook добился значительного прогресса в некоторых областях благодаря своей политике, обучению и развитию сотрудников, стажировкам, созданию центра онлайн-ресурсов на разных языках, тренингам по инклюзии и прочим мерам, но может сделать больше, сделали вывод аудиторы.

18 июня этого года Facebook объявил, что количество цветных людей на руководящих постах в ближайшие годы увеличится на 30%. Целью Facebook в области инклюзии заключается в обеспечении того, чтобы сотрудники компании – особенно члены недопредставленных групп – чувствовали себя увиденными, услышанными и оцененными.

.

Краткий вывод

.

Можно сказать, что в целом аудиторы оценили политику Facebook как неплохую (за два года есть прогресс), но также они считают, что компании ещё есть к чему стремиться, она может сделать больше. Особенной критике подверглись вопросы обеспечения гражданских прав и модерации контента.

Проведённый аудит окажется полезен, если Facebook доработает свою политику по контенту. В противном случае, как сказал директор правозащитной организации  Color of Change Рашад Робинсон, это будет всё равно что «пойти к врачу, получить новый набор рекомендаций по диете, а затем ничего не делать и удивляться, почему здоровья не прибавляется».