Распознавание лиц: феноменальная технология или проклятие эпохи?

29 декабря власти Нью-Йорка объявили мораторий на использование технологии распознавания лиц в школах и вузах как минимум до июля 2022 года.

Причина запрета - специалисты в области кибербезопасности бьют тревогу, считая, что биометрические инструменты используются для сбора персональных данных и выслеживания людей. Это не паранойя? Попробуем разобраться.

Анти-толерантность: почему технологии нетерпимы к национальным меньшинствам

По информации Washington Post, в Китае тестируют новую технологию face recognition. Производители - продюсер программного обеспечения Megvii и бренд Huawei. Цель разработок - продать технологию правительству, которое планирует использовать инструмент для этнической борьбы.

За последние пару лет в прессе то и дело появлялись сообщения о том, что Китай проявляет крайнюю нетерпимость к мусульманскому этносу уйгурам. Представителей этой национальности практически принудительно заставляют посещать занятия по китайскому языку. При этом, уроки проходят в лагере закрытого типа, который сравнивают с концлагерем. Уйгуры, которым удалось выбраться оттуда, говорят о том, что в лагерях проходят девять кругов ада. Есть данные о применении пыток, требованиях надзирателей взять на себя вину за преступления, которые уйгуры не совершали. Самый лучший исход - попасть в обучающий сектор лагеря, где уйгурам усиленно "прививают любовь" к китайской культуре. Само правительство Китая обвинения отрицает, несмотря на публикации журналистов, которым удавалось проникнуть за железный занавес и посмотреть, что происходит в лагере.

Теперь ситуация становится хуже. Власти планируют установить инструмент распознавания лиц в местах большого скопления людей. Как только среди китайцев появится уйгур, сработает сигнализация. Это уведомление: "Среди нас - чужой". Какими будут действия коренных жителей Китая вследствие применения технологии, можно только предполагать. Но, согласитесь, предпосылки весьма тревожны.

Информационное агентство Cnet сообщает:

Китайское правительство пользуется видеонаблюдением, в том числе и распознаванием лиц, различными способами, чтобы преследовать мусульман-уйгуров. Правительственные действия против уйгуров описаны американскими представителями законодательной власти как самое большое массовое уничтожение национального меньшинства в мире на сегодняшний день. По нашим подсчётам, от преследования китайского правительство пострадал 1 миллион человек. Китайские технические компании способствуют этому: распознавание лиц, камеры видеонаблюдения, распознавание голоса используются, чтобы отслеживать и идентифицировать мусульман-уйгуров в стране. В октябре 2019 года Министерство торговли США внесло в чёрный список восемь китайских компаний за нарушение прав представителей национальных меньшинств.

Повод для страха: двойные стандарты face recognition

Технология распознавания лиц, или face recognition, - инструмент мультифакторной аутентификации. Изначально face recognition появляется в смартфонах как метод бесконтактной разблокировки экрана. Распознавание лиц представляет собой защитную технологию: если ваш телефон возьмёт человек, не являющийся владельцем гаджета, он не сможет посмотреть данные, хранящиеся в электронном устройстве. Но на этом его функционал не заканчивается.

На сегодняшний день инструменты распознавания лиц полюбились полиции (особенно в США), где face recognition позволяет найти пропавшего, выяснить личность потерявшего память, быстро обнаружить преступника.

С одной стороны, это очень удобно. В прошлом году полиция Лос-Анджелеса раскрыла серьёзное преступление, установив программу распознавания лиц на стадионе во время футбольного матча. Технология сделала сотни тысяч снимков и верно указала на преступника, скрывавшегося от правосудия, но, очевидно, надеевшегося остаться незамеченным в многолюдном месте.

Другой пример: в Сиднейском аэропорту технология распознавания лиц обеспечивала бесконтактную идентификацию туристов, что особенно важно в период пандемии. Власти Сиднея также утверждают, что им удалось обеспечить безопасность в аэропорту именно благодаря инструментам face recognition.

Правительства ведущих стран мира утверждают: если вы не планируете преступление и являетесь законнопослушным гражданином, вам бояться нечего. Но во время выступления на онлайн-конференции Westminster eForum директор юридической компании Big Brother Watch Силки Карло заявила:

- Использование систем распознавания лиц - самый таинственный аспект в работе полиции в Великобритании. Собранная нами статистика демонстрирует не очень хорошие результаты. С 2016 по 2019 годы мы тестировали инструменты распознавания лиц, и в 93% случаев они показывали неверный результат. Мы должны понимать, что это 93% невинных людей, которые могут быть неверно определены полицией как виновные в совершении преступлений.

В январе прошлого года представители сорока общественных организаций в США направили в местное правительство петицию, требуя "прекратить слежку в публичных местах". Петицию подписали такие организации, как Electronic Frontier Foundation, Color of Change, Fight for the Future и Consumer Federation of America. Петицию инициировали после того, как журналисты New York Times провели расследование политического характера и выяснили, что 600 правительственных организаций в США используют систему распознавания лиц. При поддержке компании Clearview AI собрана база данных, содержащая более трёх миллионов фотографий. Кажется, на многих жителей собрано досье, и неприятен уже сам факт нарушения личных границ.

Петиция привлекла внимание общественности к проблеме вторжения в личное пространство гражданина. Сейчас, когда цифровыми становятся не только дома, но и целые города, технологии можно использовать для реализации своих целей - расправиться с конкурентом, обнаружить человека, который хочет остаться инкогнито, наказать противника. Технологии, которые изначально создавались, чтобы защитить нашу безопасность, теперь её нарушают.

К концу прошлого года, после того, как были установлены факты нарушения человеческих прав, инструменты face recognition запретили в Сан-Франциско, Сомервилле и Массачусетсе. Кроме того, Комиссия Европейского Союза потребовала запретить составление баз данных а-ля фото-досье, если организация, вовлеченная в подобную деятельность, не занимается расследованием преступлений.

Тем не менее, приложения face recognition довольно популярны среди представителей самых разных профессий. Например, западные менеджеры по управлению персоналом используют программу IdVerify с функцией Know Your Employee ("узнай своего сотрудника"). Когда кандидат проходит собеседование, система распознавания лиц выбирает фотографии в Интернете, наводит справки (например, о судимости или истории болезни) и помогает сформировать впечатление о соискателе работы. С одной стороны, система распознавания лиц не позволит скрыть никаких фактов из биографии. С другой стороны, это грубое вторжение в личную жизнь человека. Тем более, могут быть обнародованы такие ситуации, которые не повлияют на качество выполняемой работы, но репутацию могут испортить.

Что касается использования системы распознавания лиц в аэропортах, здесь также не все просто. Гарольд Ли, вице-президент компании Express VPN и создатель безопасной виртуальной приватной сети, рассказывает:

- Ради удобства авиалинии и власти разных стран собирают огромные массивы биометрической информации о туристах. Когда вы предоставляете биометрические данные системе с низким уровнем точности и недостаточной законодательной оправданностью, можно говорит о возможности слежки за пользователями и вторжением в личное пространство. Также персональные данные туристов могут быть украдены хазакерами. Опасность заключается в том, что система распознавания лиц не содержит возможности "изменить пароль". Как только биометрическая информация попадает в руки к киберпреступникам, вы не можете исправить последствия утечки данных. В конце концов, как мы можем доверять свои биометрические сведения правительственным организациям, которые даже не могут защитить информацию своих сотрудников?"

Эксперт намекает на историю двухлетней давности, когда Министерство внутренней безопасности США столкнулись с утечкой информации 240 тысяч сотрудников в результате организованного киберпреступления.

Тенденции-2021

Несмотря на то, что общественные организации и неравнодушные граждане бьют тревогу, системы распознавания лиц пользуются невероятной популярностью.

Так, в 2020 году в Китае установили 626 миллионов камер видеонаблюдения. Китайское правительство заявило о том, что планирует продолжать устанавливать подобные инструменты и к 2030 году стать международным лидером в сфере использования искусственного интеллекта.

Медленно, но уверенно Индия перегоняет китайских изобретателей. Самая масштабная база фото-данных состоит из 1,27 млрд снимков местных жителей. Эта база была передана полиции и будет использоваться в качестве подспорья для face recognition начиная с нынешнего года.

Судебная система Бразилии с 2021 года одобряет проведение заседаний, на которых каждое дело будет рассматриваться с учётом сведений, собранных системой распознавания лиц. Кстати, бразильская база данных включает в себя фотографии 140 млн местных жителей.

Габон, Камерун и Буркина-Фасо не слишком обеспокоены обеспечением комфорта граждан. С этого года технология распознавания лиц позволит правительству узнать, за кого во время выборов голосует электорат.

Конечно, во многих случаях система распознавания лиц выполняет свое прямое назначение - контроль за общественным порядком, поэтому мы не можем говорить о face recognition в негативном ключе. Так, в Токио собираются провести Олимпийские игры в сентябре 2021 года. Планируется пользоваться методами распознавания лиц, чтобы обеспечить безопасность во время соревнований.

Заключение

Однозначно, каждая технология имеет как преимущества, так и недостатки. В случае с системами распознавания лиц, есть две угрозы - сбор персональных данных жителей официальными кругами (что само по себе является нарушением прав человека) и хакерская атака, где биометрическая информация становится собственностью киберпреступников.

Организации, внедряющие системы face recognition, должны позаботиться об инфраструктуре программного обеспечения, платформ и приложений, обеспечить безопасность алгоритмов искусственного интеллекта, защитить конфиденциальность информации. Несомненно, состояние индустриального Интернета вещей необходимо постоянно мониторить на предмет наличия уязвимых мест. В то же время, нужно уделять должное внимание безопасности алгоритмов и систем машинного обучения, а не только концентрироваться на безопасности аппаратного, программного или беспроводного обеспечения.

Анастасия Шкуро