‘Обуздать целое общество’: рост технологии биометрических данных

В школьной столовой в Гейтсхеде (Англия) камеры сканируют лица детей, автоматически принимая оплату после идентификации с помощью системы распознавания лиц. На расстоянии более 200 миль в Северном Лондоне персонал дома престарелых недавно принял участие в исследовании, в котором использовались данные о лице для проверки статуса вакцины Covid-19. А в магазинах по всей стране персонал предупреждается о потенциальных магазинных ворах с помощью интеллектуальной системы видеонаблюдения, которая подключается к базе данных лиц, считающихся подозрительными.

В каждом случае биометрические данные используются для экономии времени и денег. Но растущее использование наших тел для разблокировки общественных и частных сфер вызывает вопросы, начиная от конфиденциальности и заканчивая безопасностью данных и расовыми предрассудками.

CRB Cunninghams, американская компания, чья технология распознавания лиц используется в обеденных залах, заявила, что ее системы ускоряют процесс оплаты и могут снизить риск распространения Covid-19 через контакт с поверхностями. Система была впервые опробована в школе Kingsmeadow в Гейтсхеде в прошлом году, и десятки школ подписались на ее внедрение.

Однако энтузиазм по поводу этой системы может ослабнуть после того, как совет Северного Айршира приостановил использование этой технологии в девяти школах. Решение об отказе было принято после того, как родители и эксперты по этике данных выразили обеспокоенность тем, что компромисс между удобством и конфиденциальностью, возможно, не был полностью продуман.

«Речь идет об экономии времени», — сказала профессор Сандра Вахтер, эксперт по этике данных из Оксфордского института Интернета. «Стоит ли это того, чтобы иметь где-то базу данных с детскими лицами?»

Стефани Хэйр, автор книги «Этика технологий», считает использование биометрических данных детей «непропорциональным» способом ускорить очереди на обед. «Вы нормализуете понимание детьми своего тела как чего-то, что они используют для совершения сделок», — сказала она. «Так вы приучаете все общество к использованию системы распознавания лиц».

Эксперты обеспокоены тем, что системы биометрических данных не только несовершенны в некоторых случаях, но и все больше входят в нашу жизнь незаметно, с ограниченным знанием или пониманием общественности.

Существуют поучительные примеры того, как такая технология может быть тревожно авторитарной в своем использовании, и Китай предлагает некоторые из наиболее экстремальных прецедентов. После серии краж туалетной бумаги из общественных туалетов в парке Пекина, пользователей попросили пройти сканирование лица, прежде чем выдать бумагу, а в Шэньчжэне пешеходов, которые переходили дорогу на красный свет, переносили на рекламный щит.

В США в 2020 году обнаружили, что малоизвестная компания Clearview AI использовала социальные сети, такие как Facebook, для сбора данных о лицах пользователей, собрав более 3 млрд. фотографий, которые могли быть переданы полиции.

Некоторые из технологий, которые планируется внедрить в Великобритании, на первый взгляд кажутся более доброкачественными. Компания Eurostar тестирует возможность использования данных о лице при посадке в свои поезда на пересечении канала, используя технологию, разработанную американской компанией Entrust.

В Манчестере мэр города Энди Бернхэм провел переговоры с компанией FinGo — стартапом, чья технология анализирует уникальный рисунок вен на пальцах людей.

Рассматриваются такие варианты применения, как оплата проезда в автобусах, получение доступа в университеты и предоставление рецептурных лекарств, а городской лицензионный орган одобрил использование этой технологии в гостиничных заведениях.

FinGo утверждает, что хранит закодированную версию рисунка вен пальцев, которую не могут переделать воры, а различные сегменты данных хранятся в разных местах для повышения безопасности.

Ранее в этом году в трех домах престарелых в Северном Лондоне, находящихся под управлением компании Springdene, лондонская компания iProov, занимающаяся проверкой лиц, протестировала системы, позволяющие персоналу подтверждать свой статус Covid по лицу.

По словам iProov, в настоящее время эта технология нигде не используется, но компания является одной из нескольких фирм, чьи системы встроены в приложение NHS и используются, когда пользователи хотят получить доступ к таким услугам, как статус Covid или запись на прием к врачу общей практики, используя свое лицо.

Такие приложения вызвали сомнения среди экспертов в области технологий и групп гражданских свобод по поводу того, как долго хранятся данные пользователей, насколько эти данные безопасны и даже могут ли иностранные правоохранительные органы требовать их просмотра.

Анкур Банерджи, директор по технологиям компании Cheqd, специализирующейся на цифровой идентификации, отмечает, что биометрические технологии зависят от нашего доверия к людям, которые их используют. В Москве пользователи знаменитой системы городского метрополитена теперь могут расплачиваться лицом, причем эта система, по крайней мере, пока, является добровольной.

«Это удобно для 99% людей, но если кто-то придет на антиправительственный протест, вдруг у них появится возможность отследить, кто вошел и вышел, в отличие от карты типа Oyster, которая может быть не зарегистрирована», — говорит Банерджи.

Некоторые технологии, которые уже широко используются в Великобритании, вызвали беспокойство по поводу гражданских свобод. Лондонская компания FaceWatch продает системы безопасности, которые предупреждают сотрудников магазина о присутствии «интересующего их субъекта» — обычно это человек, который ведет себя антисоциально или ранее был пойман на краже в магазине. Эта система начиналась как система обнаружения карманников в винном баре Gordon’s в центре Лондона, владельцем которого является основатель FaceWatch Саймон Гордон.

Камеры сканируют лицо каждого входящего в здание и сравнивают его с базой данных людей, отмеченных для особого контроля.

Однако Вахтер обеспокоен перспективой того, что такая технология получит широкое распространение. «Исследования показали, что программное обеспечение для распознавания лиц менее точно работает с цветными людьми и женщинами». Она также указывает на возможность того, что существующие человеческие предубеждения могут быть жестко встроены в якобы нейтральную технологию. «Как вы можете доверять тому, что они точно попали в список наблюдения? Существует предвзятость в избирательной работе полиции и в судебной системе».

Во многих случаях также неясно, перед кем такие системы подотчетны и как люди могут оспорить вынесенные ими решения. «Что если меня несправедливо обвинили, или алгоритм неправильно сопоставил меня с кем-то другим?» спрашивает Банерджи. «Это частное правосудие, где у вас нет возможности исправить ситуацию».

Компания FaceWatch заявила, что не передает хранящиеся у нее данные о лицах полиции, хотя она может получить к ним доступ, если поступит сообщение о правонарушении. Компания заявила, что сводит к минимуму риск неправильной идентификации, обеспечивая расположение камер при хорошем освещении для повышения точности, а все пограничные случаи передаются на ручную проверку. По словам компании, люди, находящиеся в списке наблюдения, могут оспорить решение.

Компания FaceWatch добавила, что хранит данные о лицах до двух лет и что они зашифрованы и защищены системой безопасности «банковского класса».

Но Вахтер отмечает, что системы безопасности, охраняющие наши биометрические данные, являются самыми современными только до того дня, когда они будут взломаны.

Идея утечки данных — это не вопрос «если», а вопрос «когда», — говорит она. «Добро пожаловать в Интернет: все можно взломать».

По ее словам, мы должны с осторожностью относиться к внедрению технологий только потому, что они обещают облегчить нашу жизнь. «Идея заключается в том, что как только что-то разработано, этому есть место в обществе», — сказала она. «Но иногда цена, которую мы платим, слишком высока».

Оригинал

Добавить комментарий

Ваш адрес email не будет опубликован.