Военком Москвы заявил, что уклонистов будут искать с помощью системы «умных камер». А ее можно обмануть? Спойлер: вы можете попробовать. Но если вам грозит опасность, надежнее просто переехать
Мы рассказываем честно не только про войну. Скачайте приложение.
18 апреля военный комиссар Москвы полковник Максим Локтев заявил, что система «умных камер», распознающих лица, используется в числе прочего для поиска призывников. По словам Локтева, основная причина, по которой призывники не идут в военкомат, — это проживание не по месту регистрации, из-за этого им не удается вручить повестку. Но с помощью систем видеонаблюдения оповестить человека о явке в военкомат якобы не составит труда. «Медуза» рассказывает, как работают подобные системы, можно ли обмануть их с помощью масок и грима и в чем сложность использования «умных камер» для массового поиска тысяч людей.
Этот текст был впервые опубликован в августе 2019 года и приурочен к протестам в Гонконге. Нынешняя версия вышла 18 апреля 2023 года — с существенными изменениями и сокращениями.
Как вообще работает распознавание лиц?
Технология распознавания человека по лицу состоит из двух отдельных и очень разных по сложности этапов: детекции и собственно распознавания. На первом из них компьютерный алгоритм анализирует видеоряд и пытается найти на изображении область, где находится лицо. В принципе, сделать это можно и вручную — если есть снимок конкретного подозреваемого, которого требуется «пробить по базе». Однако в большинстве случаев системы распознавания работают со сплошным видеопотоком, поэтому для поиска лица в кадре используются простые автоматические алгоритмы.
Главный из них — созданный еще в 2001 году метод Виолы — Джонса, который сейчас встроен в каждый смартфон и во многие фотоаппараты. Алгоритм обращает внимание на соотношение ярких и темных участков на картинке и ищет в ней такие области, где взаимное расположение участков похоже на лицо. Это очень простой метод — его простота, с одной стороны, делает алгоритм очень быстрым и экономным к вычислительным ресурсам, но с другой — позволяет легко обманывать автоматику и уходить от детекции. Сделать это можно с помощью макияжа (который изменяет положение на лице ярких и темных пятен), глубокого капюшона, надвинутой на глаза шапки и прочих простых средств.
Получится обмануть Виолу — Джонса или нет, легко проверить самому: достаточно попробовать сделать селфи на телефоне или загрузить снимок в социальную сеть — автоматически детектированное лицо обычно выделяется рамкой. Однако, даже если детекция не сработает, важно помнить, что ваше лицо может быть вырезано из кадра вручную. И тогда оно все равно отправится на следующий этап — распознавание.
Как оно устроено технически?
После детекции области лица изображение сперва конвертируется из цветного в серое (матрицу яркости), затем определяется расположение глаз, обрезается по контуру лица (фактически особенности контура не играют никакой роли для опознания, поэтому в систему подгружаются стандартные «овалы»). Наконец, это уже достаточно схематическое изображение превращается в числовой вектор — последовательность, содержащую максимум несколько сотен параметров, которые отличают лицо одного человека от другого.
Преобразование изображения лица в числовой вектор — самый сложный этап технологии. Его обычно поручают сверточным нейросетям, задача которых — нивелировать различия в освещенности, ракурсе, мимике и прочих особенностях конкретной фотографии и свести изображение человека к набору признаков, максимально похожих для разных снимков одного человека и максимально различающихся для разных людей.
После того как набор признаков найден, задача распознавания становится тривиальной: полученные значения сравниваются с другими векторами, хранящимися в базе данных, и среди них находится самый близкий. Если близость превышает некоторый заранее заданный порог, система сигнализирует о совпадении, а затем выдает пользователю идентификатор и привязанный к нему файл с личным делом.
А мои фотографии обязательно должны быть в базе военкомата?
Не обязательно именно там.
Чтобы система могла обнаружить человека, в базе данных действительно уже должны быть загружены его фотографии и созданы специфические для них векторы признаков. Чем больше таких фотографий, тем точнее полученный вектор — и тем проще системе вас распознать.
Лучшие источники для их поиска — соцсети, базы МВД, ФСБ, ФМС или компаний. Огромными базами фотографий лиц владеют букмекерские конторы (для регистрации требуется сделать селфи с паспортом в руках); банки, предлагающие услугу «платить лицом»; сервисы для подбора причесок и макияжа; приложения вроде Msqrd или FaceApp.
Благодаря новым поправкам к федеральным законам, связанным с системой призыва, передавать в военкомат данные о призывниках обязаны самые разные службы, в том числе любые медицинские организации, МФЦ, органы власти, суды и университеты.
В проекте «Сетевые свободы» уверены, что страхи, связанные с распознаванием лиц призывников, могут быть преувеличены. Правозащитники пишут, что сейчас нет никаких оснований полагать, что власти могут систематически и массово выявлять десятки тысяч людей, нужных военкомам, в масштабах страны:
Для того чтобы система распознавания лиц работала на поиск призывников, у властей должна быть база их биометрических данных. До 2023 года весь воинский учет велся в бумажном виде, что подтверждается планами и указами о создании цифровых реестров. Минобороны для ее применения потребуется совместить свои уже оцифрованные базы военнообязанных (которые должны быть созданы к апрелю 2024 года) с обновленными фотографиями лиц с полицейскими базами (фото на паспорта).
Если даже для рассылки цифровых повесток нужно отдельное постановление правительства, то использование биометрии в целях воинского учета потребует как минимум внесения поправок в несколько федеральных законов (что не проблема) и отладки межведомственного взаимодействия (что сложнее).
Тем не менее, несмотря на сложность массового использования биометрии в целях воинского учета, отдельных людей без проблем можно отыскать с помощью камер — и об этом не стоит забывать.
Я ведь могу попробовать обмануть систему?
Да, но не факт, что вам это удастся. Методы противодействия идентификации условно можно поделить на две группы: первые не позволяют алгоритмам детектировать лицо на видео, вторые не дают его правильно распознать.
Балаклавы, маски для лица и очки
Важно отметить, что обычные марлевые повязки для рта и носа точно не помогут, поскольку ключевая информация для алгоритмов связана с областью глаз, надбровных дуг, бровей и верхней части переносицы. Не выручат и стандартные темные очки. При ношении этих аксессуаров по отдельности системы успешно определяют личность. Однако их совмещение и использование капюшона позволяет в некоторых случаях избежать автоматической детекции и идентификации — по крайней мере с помощью современных промышленных систем.
Некоторые участники массовых акций в разных странах используют видео- и фотоматериалы с протестных акций, чтобы деанонимизировать полицейских, превышающих полномочия. В ответ на это силовики сами стали массово использовать балаклавы, использование которых простыми гражданами на митингах запрещено. Кажется, что это — гарантированный способ сохранить свою анонимность. Но так ли это на самом деле — сложный технический вопрос, подробнее о котором мы расскажем ниже.
Макияж и украшения
Использование грима, париков, очков, яркого макияжа — это способы, которые в области компьютерного зрения называются disguised face identification.
В отличие от «обычного» распознавания, в этом случае пока нет хорошо отработанных, высокоточных и готовых к внедрению промышленных систем. Разные команды инженеров тестируют различные подходы, и порой они дают очень разные результаты.
Современный уровень качества детекции промышленными системами позволяет оценить, например, отчет российской компании «Видеомакс», в котором специалисты протестировали пакет аналитических программ для распознавания лиц «Face-Интеллект» (разработка компании Axxon, подразделения британской ITV-Group). Выяснилось, что никакие накладные усы, бороды, темные и прозрачные очки не смогли обмануть алгоритмы. А вот ношение объемного парика снижало точность опознания почти вдвое. Совместное же использование парика с длинными волосами, головного убора, наклеивание пластырей и имитация синяков на лице позволяли системе идентифицировать пользователя с точностью лишь в 51%.
Как ни странно, самый впечатляющий результат достигнут при использовании патриотического грима: нанесение на лицо цветов российского триколора под углом 45 градусов и использование кепки с надписью «Россия» напрочь исключали даже обнаружение лица на кадре. Система просто ничего не видела.
Еще немного о макияже
В том же 2017 году, когда тестировался «Face-Интеллект», на тот момент директор по распространению технологий «Яндекса» Григорий Бакунов придумал гораздо более сложный метод противодействия идентификации. Он учел принципы работы нейросетей при опознании специфических особенностей лиц и предложил наносить макияж в виде нескольких, на первый взгляд, хаотически расположенных линий и точек. Его метод не только помогал избегать идентификации, но и позволял подсунуть системе другое лицо. Определенные схемы макияжа обманывали алгоритм, и он считал, что это лицо совсем другого человека. Сервис на основе придуманной технологии Бакунов и его коллеги тогда решили не делать — ссылаясь на то, что «слишком уж велик шанс использовать его не для добра, а вовсе с другими целями».
По словам самого Бакунова, у метода две слабости. Во-первых, такой макияж довольно трудно подобрать и правильно нанести. А во-вторых, он выглядит настолько странно и нелепо, что может привлечь излишнее внимание.
Схожий с макияжем подход удалось пару лет назад придумать польским дизайнерам из компании Nova. Они разработали так называемые украшения для лица, позволяющие сбить с толку системы идентификации. Самое популярное их изделие состоит из подобия оправы для очков, к нижним дугам которой прикреплены два закрывающих скулы медных круга, а над переносицей поперек лба возвышается медный рог. Этот эстетичный аксессуар практически не закрывает лицо для человека, но блокирует систему распознавания лиц — по крайней мере ту, которую использовал Facebook на момент тестирования дизайнерами.
Методы, которые вряд ли будут доступны простым людям: многоликая одежда и катафоты
Одним из самых перспективных подходов к противодействию идентификации личности по лицу может стать использование специальных высокотехнологичных очков. Некоторые выглядят довольно эстетично и не привлекают лишнего внимания. Человек в них не вызовет подозрений у полиции, их можно носить на митингах и пикетах. А вот эффективность таких очков в ряде случаев очень высока, особенно против камер наблюдения с инфракрасной подсветкой области обзора.
Так, инженеры из японского Национального института информатики (National Institute of Informatics) еще в 2015 году испытали очки, в которые был встроен набор инфракрасных светодиодов, невидимых для человеческого глаза, но способных засветить область вокруг глаз и носа для объективов светочувствительных видеорегистраторов. Этот простой трюк лишил систему возможности даже просто обнаружить лицо в кадре.
Схожий подход использует инженер и дизайнер Скотт Урбан. В разработанных им очках Reflectacles Ghost и Phantom в оправу помещено множество катафотов. Они отражают инфракрасные лучи, испускаемые многими моделями камер наблюдения (особенно предназначенных для ночного режима), и превращают лицо в большое ярко светящееся пятно. В другой модели очков от Reflectacles (IRPair) применяется обратный принцип: в них встроены особые фильтры, не позволяющие инфракрасному излучению достичь лица и подсветить его для камеры. Кроме того, они предотвращают сканирование радужки глаз и трехмерное картирование лица.
Еще один необычный способ — от дизайнеров
Это так называемый умный текстиль HyperFace, сделанный для проекта Hyphen-Labs NeuroSpeculative AfroFeminism. Задача одежды HyperFace — перегрузить алгоритм идентификации и тем самым воспрепятствовать его работе. Для этого на ткань наносится особый узор, имитирующий множество схематичных лиц. При этом каждый из паттернов нацелен на противодействие одному конкретному алгоритму, например заложенному по умолчанию в библиотеку OpenCV методу Виолы — Джонса или HoG/SVM (Histogram of Oriented Gradients/Support Vector Machines).
Строго говоря, использование «многоликой одежды» — это эксплуатация старой психологической проблемы фигуры и фона. Лицо выделяется на фоне остального пейзажа как фигура, однако если весь пейзаж состоит из лиц, то выделить и опознать одно из них уже невозможно. Все становится фоном — и алгоритм перестает работать.
А насколько эффективны доступные методы — вроде грима и балаклав?
Прежде чем говорить об эффективности, надо внести ясность с понятием так называемой точности распознавания, вокруг которой обычно идет разговор при обсуждении алгоритмов.
К сожалению, сама по себе «точность», то есть суммарное число ложноположительных и ложноотрицательных срабатываний системы, деленное на число ее испытаний, почти ничего не говорит о том, справится ли данный алгоритм с конкретной задачей. Для этого нужно как минимум знать объем выборки людей, среди которых требуется найти обладателя лица на снимке (а еще лучше понимать цену ошибки и представлять площадь под ROC-кривой).
Проще говоря, если речь идет о наблюдении за миллионами людей в сплошном потоке — например, о системах видеонаблюдения в метро или на массовой акции, — то доля ложных срабатываний в таких системах должна быть очень низкой (а «точность» — высокой) — иначе общая стоимость реагирования на каждое срабатывание будет слишком высокой. Если же число людей, среди которых система проводит поиск, можно каким-то образом значительно снизить (например, искать не среди всех граждан, а среди представителей известной профессии, пола, возраста и так далее), то и требования к точности будут принципиально более низкими.
Одна из главных площадок для тестирования самых современных систем распознавания лиц — это конкурсы вроде Disguised Faces in the Wild. Здесь и в других подобных конкурсах командам разработчиков предлагается решить задачу идентификации человека среди изображений лиц, неузнаваемо измененных гримом, масками, профессиональным киномакияжем и так далее. Специального дата-сета, например, в балаклавах в этом конкурсе нет, но для большей сложности среди неправильных ответов есть даже изображения пародистов — то есть системе предлагается угадать лицо, например, Леди Гаги среди изображающих ее актеров.
Последние результаты конкурсов по идентификации скрытых лиц говорят о следующих цифрах. При заданном уровне ложных срабатываний в 1% самые лучшие алгоритмы дают верный ответ более чем в 90% случаев. Если же уровень ложных срабатываний снизить на порядок, результат оказывается лишь на 10% хуже.
Этого, конечно, недостаточно для того, чтобы уже сегодня можно было внедрять системы распознавания скрытых лиц в метро. Но если стоит задача поиска в гораздо меньшей выборке, точности современных методов распознавания даже лиц под гримом или маской будет, по-видимому, вполне достаточно для обнаружения потенциальных кандидатов на деанонимизацию. И хотя сейчас готового сервиса на основе этих алгоритмов нет, он может появиться очень скоро.
Так что же делать?
- Самый простой способ избежать идентификации по камерам — временно не выходить из дома или переехать в другой регион. Как пишут «Сетевые свободы», в Москве построена одна из крупнейших в мире систем видеонаблюдения, включающая более 220 тысяч уличных, подъездных и ведомственных камер высокого разрешения, подключенных к системе распознавания лиц. Подобные системы активно устанавливаются в Санкт-Петербурге, а ранее планировалось развивать их по всей стране в рамках программы «Безопасный город». Но пока в других регионах нет настолько развитых систем, как в двух крупнейших городах.
- Если вы не можете уехать и вынуждены, например, спускаться в метро — можно попробовать использовать описанные в статье методы. Не факт, что они сработают, но наверняка снизят риски. Однако не стоит забывать, что необычный макияж или балаклава не только могут помочь обмануть систему распознавания лиц, но и, вполне вероятно, привлекут внимание полицейских.
- Не забывайте, что страх перед массовым использованием системы для поиска уклонистов все-таки может быть сильно преувеличенным. Для этого МВД и Минобороны нужно провести сложную работу, которая поможет наладить взаимодействие между военкоматами (до 2023 года использовавшими бумажный документооборот) и другими организациями. При этом поиск отдельных людей — вполне посильная для полиции задача.
«Медуза»