Системы распознавания лиц на нынешнем этапе развития могут допускать ошибки, приводящие к ложным обвинениям невиновных людей, об этом предупредили эксперты. В России из-за подобных ошибок молодых людей, освобожденных от службы в армии, принимали за уклонистов, а для жителя США несовершенство технологий и вовсе обернулось арестом и сексуальным насилием за решеткой. Подробности о том, к чему приводят ошибки систем распознавания лиц и можно ли защититься от подобных инцидентов, читайте в материале «Известий».
Без вины виноватый
В середине января 61-летний житель США Гарви Юджин Мерфи – младший подал иск на $10 млн против крупного американского ритейлера Macy's и компании Essilor Luxottica, которая владеет сетью магазинов солнцезащитных очков Sunglass Hut. Основанием для иска стала ошибка системы распознавания лиц, которая спутала Мерфи-младшего с подозреваемым в вооруженном ограблении киоска Sunglass Hut, установленного в магазине Macy's.
Вооруженный налет был совершен в 2022 году: тогда добычей подозреваемого и его подельника стали солнцезащитные очки и несколько тысяч долларов. Полиция Хьюстона, которая расследовала это преступление, использовала программное обеспечение (ПО) для распознавания лиц, которое спутало подозреваемого с Мерфи-младшим на его старых фотографиях. При этом один из сотрудников Macy's также ошибся, опознав Гарви на снимках потенциальных преступников, которые представила полиция.
Фото: ИЗВЕСТИЯ/Михаил Терещенко
В итоге Мерфи-младшего арестовали в тот момент, когда он обновлял водительские права в департаменте транспорта, и отправили в переполненную тюрьму строгого режима с особо опасными преступниками. Там мужчину избили и изнасиловали, хотя он провел за решеткой всего несколько часов. Позже арестант рассказал своему адвокату, что в момент налета он находился в Калифорнии — это быстро подтвердилось, после чего с Мерфи-младшего сняли все обвинения и он был отпущен на свободу.
Системная проблема
Между тем ошибки систем распознавания лиц — к счастью, с менее тяжкими последствиями — случаются и в России. Так, в сентябре 2022 года московского призывника дважды вызвали в военкомат, поскольку система распознавания лиц приняла его за уклониста от частичной мобилизации. Как рассказал сам москвич, в первый раз его отпустили после того, как он предъявил справку о проблемах со зрением, освобождавшую его от призыва. Впрочем, вскоре полицейские задержали его снова, и история повторилась.
Месяц спустя в похожей ситуации оказался московский студент с отсрочкой от армии, которого камеры, подключенные к системе распознавания лиц, сочли подлежащим мобилизации. 9 октября 2022 года его задержали полицейские и доставили в военкомат — там молодой человек напомнил, что ранее уже приносил справку об отсрочке из вуза. Два дня спустя ситуация повторилась — студента задержали сотрудники уже другого отдела полиции.
Он рассказал им свою историю — и тогда полицейские стали звонить в военкомат. Там пояснили, что после первого задержания молодого человека почему-то не удалили из системы и камеры продолжили определять его как уклониста. После выяснения всех обстоятельств задержанного отпустили домой.
Фото: ИЗВЕСТИЯ/Дмитрий Коротаев
Как говорит в беседе с «Известиями» эксперт по сетевым угрозам компании «Код безопасности» Константин Шуленин, сегодня технологии распознавания лиц, несмотря на ошибки, активно применяются как в России, так и в других странах мира, поскольку они очень удобны для правоохранительных органов.
— Благодаря инструментам сканирования лиц и определения личности появляется возможность быстро идентифицировать подозреваемых, в некотором смысле автоматизировать процессы розыска преступников, а также контролировать доступ на охраняемые территории, — поясняет эксперт.
Факторы распознавания
По словам основателя и СЕО Mirey Robotics, специалиста по искусственному интеллекту (ИИ) Андрея Наташкина, технология распознавания лиц относится к компьютерному зрению — области ИИ, связанной со считыванием и анализом как фото, так и видео контента.
— Саму технологию распознавания лиц специалисты называют достаточно эффективной — процент распознавания варьируется от 96 до 98%, — говорит эксперт. — Однако она не дает 100-процентный результат, признавая факт погрешности в несколько процентов. Кроме того, нельзя исключать ошибки этой технологии и сбои системы, при которых также возможны ошибки.
Фото: РИА Новости/Евгений Биятов
Как поясняет главный специалист отдела комплексных систем защиты информации компании «Газинформсервис» Дмитрий Овчинников, точность работы систем распознавания лиц во многом зависит от уровня освещенности, угла проведения съемки и наличия головных уборов на людях, попавших в кадр. Впрочем, даже при оптимальных условиях распознавания ошибки всё равно могут быть.
Андрей Наташкин напоминает об эксперименте, который провел Американский союз защиты гражданских свобод: в ходе него системе распознавания лиц были предложены фотографии 535 известных политиков из США и был поставлен вопрос, кто из них относится к категории опасных преступников. И хотя никто из этих политиков никогда не совершал преступлений, 28 из них система всё равно признала особо опасными нарушителями закона.
При этом Константин Шуленин выделяет еще один риск, связанный с активным внедрением систем распознавания лиц, — это риск компрометации данных киберпреступниками. Если украденный пароль можно изменить, а сертификат электронной подписи отозвать или перевыпустить, то данные биометрии изменению не подлежат, поскольку у каждого человека она уникальна. Если киберпреступник сможет заполучить данные биометрии, жертва станет весьма уязвима перед ним.
— Компрометация данных или ошибки распознавания дадут мошенникам возможность заполучить доступ к личным финансам и конфиденциальным сведениям жертв, а также могут привести к более серьезным последствиям, вплоть до лишения свободы, — резюмирует специалист.
Цифровые перспективы
Несмотря на риски ошибок, специалисты считают, что у систем распознавания лиц есть весьма обширные перспективы как в России, так и в других странах мира. По словам Константина Шуленина, на первых ролях в этом плане выступает сфера безопасности, где системы распознавания лиц могут помочь в быстром выявлении преступников и подозреваемых, предотвращении угроз населению и улучшении общественного порядка.
Фото: ИЗВЕСТИЯ/Павел Волков
— Однако перспективы подобных технологий не ограничиваются лишь безопасностью, — комментирует собеседник «Известий». — Например, при помощи биометрии уже автоматизирован процесс оплаты проезда в Московском метрополитене: пассажирам не нужно взаимодействовать с валидаторами, поскольку после успешной идентификации личности оплата проезда списывается автоматически.
Однако нейросети могут не только идентифицировать человека по анализу биометрии, но также считывать его эмоции и физическое состояние. Благодаря этому различные автопроизводители сегодня встраивают в свои модели датчик усталости водителя, который помогает определить уровень его внимания и уведомляет специальным сигналом, если концентрация снизилась и человеку, находящемуся за рулем, необходимо отдохнуть.
При этом, как отмечает Константин Шуленин, для того чтобы минимизировать возможность утечки биометрических данных в системах распознавания лиц, пользователям необходимо выбирать такой способ идентификации исключительно в проверенных сервисах — к примеру, на государственных порталах или в официальных приложениях от популярных вендоров.
— При возникновении спорных ситуаций следует немедленно отключить верификацию по биометрии и обратиться в службу поддержки приложения или правоохранительные органы, — говорит специалист.
Автор: Дмитрий Булгаков
Заглавное фото: ИА Новости/Рамиль Ситдиков
