Расследование BBC: Московские власти используют сразу четыре алгоритма распознавания лиц

В московской системе распознавания лиц используют сразу четыре технологии, включая ту, что работала в Беларуси во время подавления протестов 2020 года, выяснила «Би-би-си» (BBC).

Оказалось, что в Москве система распознования лиц работает не на основе одного алгоритма (всем известный NtechLab), а сразу четырех.

В том числе используется тот же алгоритм, что ищет лица врагов Лукашенко в Минске.

Работают не по отдельности, а вместе.https://t.co/Axalh3TIuX

— Andrey Zakharov (@skazal_on) August 25, 2022

В середине лета АО «Электронная Москва», подведомственное московской мэрии, опубликовало четыре контракта на услуги по «индексации данных» в «городском сегменте единой системы видеоаналитики». Контракты заключались с единственным поставщиком, без конкурса и публикации какой-либо документации, но известна общая сумма: около 800 млн рублей.

Потратить эти деньги предстоит в течение двух лет. «Если перевести с компьютерно-бюрократического языка на нормальный, то речь идет о техподдержке и обслуживании системы видеоаналитики, говорит разработчик одного из алгоритмов распознавания лиц, которую использует московская мэрия», – разъясняет автор исследования, журналист Андрей Захаров.

Благодаря этим контрактам удалось понять, какие именно технологии использует московская мэрия: каждый договор заключается на определенный алгоритм распознавания лиц, его название указано на сайте госзакупок.

Один из них, как и было известно ранее, был разработан NtechLab.  Остальные оказались тоже российскими: Tevian FaceSDK, VisionLabs Luna Platform и Kipod.

Изначально при запуске системы распознавания лиц в Москве было три алгоритма, а Kipod добавился позже. Источники BBC заявили, что технически использование сразу нескольких алгоритмов вполне возможно.

Руководитель «Роскомсвободы» Артем Козлюк считает, что:

«Задействуя сразу четыре алгоритма, мэрия могла стремиться повысить эффективность системы распознавания. Кроме того, тогда меньше зависимости от конкретного поставщика - если, например, какая-то компания попадет под санкции или откажется от сотрудничества из-за опасений, что таковые будут наложены».

Kipod — разработка российско-белорусской компании «Синезис». Он стал основной технологией распознавания лиц, которая была внедрена белорусскими властями в стране и помогала местными силовикам находить тех, кто участвовал в акциях протеста против Александра Лукашенко в Минске в 2020 году. В итоге «Синезис» и один из основателей компании Александр Шатров попали под санкции ЕС и США. «Синезис» подтверждает, что именно Kipod работает на станциях московского метрополитена. Помимо поиска по фотографии, она, по утверждению разработчиков, может найти человека по приметам — нужно указать его примерный возраст, пол, расу, носит ли он очки, бороду или усы.

Еще один алгоритм — VisionLabs Luna Platform. Он используется нескольким десятком российских банков, в частности, «Альфа-банком»: благодаря ей потенциального клиента проверяют в «чёрных списках» бюро кредитных историй еще до того, как он что-либо спросил и представил свои документы. Среди других пользователей алгоритма — Сбербанк, «Почта банк» и «Тинькофф».

Luna, как и Kipod, определяет такие параметры лица, как возраст, пол, расовая принадлежность и даже «эмоции», следует из инструкции для пользователей. Это официальный партнёр московской мэрии в проекте Face Pay. В рамках него пассажиры московской подземки могут закачать свое селфи в специальное мобильное приложение, привязать к своему профилю банковскую карту и проходить в метро по одному взгляду в камеру.

Четвертый алгоритм — FaceSDK от московской компании Tevian. Все четыре компании — резиденты «Сколково». В собственном описании к возможностям алгоритма компания отдельно оговаривает, что FaceSDK способен определять эмоции на лице людей — «злость, страх, грусть, радость, удивление».

«Какого-либо распределения видеопотоков между алгоритмами — нет. Видеопотоки с камер одновременно обрабатываются всеми четырьмя алгоритмами. Далее по специальной формуле высчитывается результат работы всех алгоритмов в совокупности», — заявили в департаменте информационных технологий Москвы.

В начале 2021 года АО «Электронная Москва» закупило специальную программу, которая позволяет оценивать алгоритмы распознавания в автоматическом режиме. Разработчик этой системы рейтингования — компания «Амтех», постоянный победитель IT-тендеров московской мэрии.

Из описания системы следует, что она оценивает алгоритмы по «скорости, точности и эффективности работы». Скорее всего, именно о ней и говорит источник «Би-би-си»: в техзадании на закупку системы было указано, что она должна уметь работать с FindFace, VisionLabs LUNA, Tevian FaceSDK и Kipod.

Именно на эти алгоритмы «Электронная Москва» теперь потратит почти 800 млн рублей в течение двух лет. К ним нужно добавить еще около 100 млн, которые «Электронная Москва» выделила на другие составляющие городской системы видеоаналитики, в том числе видеодетектор для поиска силуэтов людей в кадре.

В Tevian и «Синезисе» (алгоритм Kipod) не ответили на вопросы Би-би-си. В «ВижнЛабс» перенаправили за ответами в департамент информационных технологий (ДИТ).

У московской мэрии есть почти 190 разнообразных информационных систем, с помощью которых она собирает и анализирует информацию о гражданах, домах, автомобилях, торговых палатках, детских площадках и о всем прочем, из чего состоит жизнь города. Она анализирует поведение пользователей в сети городского Wi-Fi и на многочисленных сайтах мэрии. Уже несколько лет ведется работа над единой системой, которая умеет извлекать данные из всех ресурсов и платформ московского правительства. Причем работает она по принципу машинного обучения, то есть сама учится решать поставленную задачу.

Систему, которая аккумулировала бы данные из разных источников, власти пытались создать и на федеральном уровне, указано в отчёте проекта «Сетевые свободы» о технологиях слежки за гражданами. Речь идёт о системе «ИБД-Ф 2.0», разработкой которой занималось МВД. Она должна была заменить устаревшую «ИБД-Ф», объединяющую полицейские базы всех регионов России. Новую систему планировалось подключить к базам других государственных ведомств — вплоть до информации о поездках на общественном транспорте и биометрических данных. Госконтракт заключили в 2020 году, но расторгли в связи с «неисполнением условий».

У МВД остались другие системы: например, у ГУ МВД по Москве есть «Учетно-заградительная система — М», которая позволяет проводить сквозной поиск по массивам других баз и формировать контрольные списки граждан, представляющих оперативный интерес. А помогает найти их городская система видеонаблюдения, подключенная к системе распознавания лиц.

По подсчетам «ОВД-Инфо», только за 12 июня в московском метро с помощью системы распознавания лиц задержали 35 человек, которые ранее принимали участи в протестах. Как отмечают правозащитники, силовики говорили активистам, что на них стояла ориентировка «День России». Среди задержанных оказались корреспондент Sota Петр Иванов, Ольга Бажанова, на которую в марте составляли протокол по статье о нарушении правил проведения акции, научная журналистка Ася Казанцева, а также активисты и участники предыдущих протестов. Система распознавания внедряется также и в Санкт-Петербурге, который тоже является одним из наиболее активных в плане протестного движения городов, поэтому журналисты и правозащитники ожидают повторения истории, подобной московской.

«Роскомсвобода» постоянно следит за событиями, связанными с задержаниями людей с применением данных следящих систем.

В ноябре 2020 года мы рассказали об истории Сергея Межуева, которого система распознавания лиц в московском метро приняла за другого человека, объявленного в розыск.

В январе 2021 года полицией был задержан историк Камиль Галеев после того, как он принял участие в московском митинге. Задержали его спустя неделю, вычислив с помощью такой системы.

Жилищный активист, известный специалист по творчеству Владимира Набокова Михаил Шульман также был задержан на основании результатов системы распознавания в день акции протеста в конце января прошлого года.

Московский муниципальный депутат района Черёмушки Юлия Щербакова в июле прошлого года рассказала нам, как по необоснованным результатам системы распознавания её ложно обвинили в участии в митинге, силой увезли в ОВД, не пустили к ней юриста и в тот же день судили.

От систем распознавания в своё время пострадали также мундеп Донского района Москвы Владимир Залищак, депутат Мосгордумы Елена Шувалова, уже после начала так называемой «спецоперации» в этом году задержали программиста Павла, который активно выражал свой протест в VK. А политик Леонид Гозман рассказал нам, что его по камерам задерживали три раза.

В августе текущего года дептранс Москвы отрапортовал об обнаружении с помощью вышеупомянутых систем 221 человека, большинство из которых — люди в розыске, но входят ли в это число задержанные оппозиционеры, неизвестно.

Летом 2020 года «Роскомсвобода» в ходе собственного расследования выяснила, что системы распознавания лиц — неиссякаемый источник данных для злоумышленников. Наша волонтёрка Анна Кузнецова смогла заказать «пробив» по камерам своего лица за достаточно небольшую сумму. Потом предоставивших данные сотрудников московской полиции привлекли к ответственности, но проблема утечек вряд ли решена, как и не устранён один из главных недостатков — неподконтрольность применения таких систем обществу.

Мы по-прежнему настаиваем на введении запрета на использование систем распознавания лиц, пока не будут разработаны механизмы регулирования использования полученных данных, удовлетворяющие российское общество.