Премия Рунета-2020
Россия
Москва
-1°
Происшествия22 октября 2021 4:00

Кандидата наук задержали за 70%-ное совпадение с фотографией воришки: что не так с системой распознавания лиц

KP.ru разбирался в тонкостях работы искусственного интеллекта вместе с экспертами
Ермошин - выпускник филфака МГУ, кандидат филологических наук, раньше преподавал в школе, закончил Высшие режиссурские курсы

Ермошин - выпускник филфака МГУ, кандидат филологических наук, раньше преподавал в школе, закончил Высшие режиссурские курсы

Фото: Личная страница героя публикации в соцсети

В начале этой недели интернет потешила история из Башкирии - там пожилой мужчина не мог попасть домой, поругавшись с роботом. На подъезде многоэтажки установлена камера, которая распознает всех местных жителей по лицам и открывает им дверь. А вот мужика - не узнала. Пенсионер пару минут спорил, матерясь, с бездушной машиной. Орал, кипятился, а робот монотонно отвечал: «Я вас не поняла» - «Тупая потому что, блин!». В итоге человек все-таки победил, система его распознала.

Тогда все посмеялись, остроумно пошутили в комментах на тему «восстания машин». А спустя день-два в Москве произошла история, после которой стало вовсе не до смеха. 36-летний кандидат филологических наук Федор Ермошин вышел утром из подъезда, а к нему сразу трое в штатском. И руки заломили. Затолкали в машину, устно сообщив, что они из полиции, и предложили сдать, куда кандидат дел ворованные игровые приставки. А тот и не в курсе, какие такие приставки.

Только спустя пару часов, уже в ОВД Строгино, стало ясно, что взяли не того. Ермошину показали распечатку системы распознавания лиц - мол, фото мужчины на 70% совпадает с изображением воришки по имени Олег. В МВД заявили о начале проверки действий сотрудников полиции. Но после такого, конечно, в комментах совсем другие настроения: получается, на месте педагога - которого на глазах у соседей «заковали» в наручники, как преступника какого - может оказаться любой из нас?!

СОВПАДЕНИЕ НА 70% - ЭТО МНОГО ИЛИ МАЛО?

Напомним, система распознавания лиц стала активно работать в Москве в 2018 году, во время Чемпионата мира по футболу, хотя и до этого успешно тестировалась. Сегодня это незаменимая штука для поиска преступников всех мастей. Взять хотя бы недавние случаи, когда дагестанцев, избивших парня в метро, нашли именно благодаря камерам видеонаблюдения, которые спустя два дня засекли молодых людей на улицах столицы.

Полицейские задержали кандидата наук Ермошина, перепутав его с вором из-за ошибки системы распознавания лиц

Полицейские задержали кандидата наук Ермошина, перепутав его с вором из-за ошибки системы распознавания лиц

Фото: Личная страница героя публикации в соцсети

И тем не менее. Система действительно может «глючить» и подставлять добропорядочных граждан?

- У любой системы распознавания есть алгоритм сравнения входящих объектов и того, что уже заложено в базу, - объясняет kp.ru гендиректор компании «Наносемантика» Станислав Ашманов. - То есть, система анализирует потоки видео со всех связанных с ней камер, фиксирует лица. И вот поступает новое фото человека и идет запрос машине: узнаешь его или нет? Система проводит сверку, но при этом никогда не выносит конкретного решения. Она лишь выдает отчет, рекомендацию, сообщает, есть ли совпадение человека с входящего снимка с кем-то из базы. А вот что с этой информацией делать дальше - решает человек. Наверняка у полицейских есть какая-то прописанная инструкция на этот счет.

Один из популярных комментариев под статьями про полицейских из Строгино: совпадение на 70% - это много или мало?

- В системах распознавания лиц можно настроить порог схожести, при котором система будет считать, что человек на изображении и в базе один и тот же, - говорит kp.ru генеральный директор компании VisionLabs Дмитрий Марков. - Настраиваемый порог схожести зависит от множества факторов. В нормальных, точнее идеальных, условиях рекомендуется ставить порог схожести не менее 95%. Однако нужно понимать, что в промышленной эксплуатации может быть множество нюансов, и тогда пороги необходимо настраивать индивидуально.

- Мы же с вами не знаем, какой порог совпадений прописан в данной программе, какая там шкала, - продолжает Станислав Ашманов. - Например, система видеонаблюдения метро, я знаю, устанавливалась несколькими вендорами (производителями, поставщиками, - Авт.). Кроме того, есть много других факторов. Разное освещение, разное оборудование или качества «картинки». Например, может быть и так, что степень похожести моего лица на свежем снимке и полгода назад будет оценена как раз на 70%. Кроме того - да, у любой системы может быть процент ошибки. Если низкий порог совпадения, это больше стоило бы воспринимать как звонок бабушки из соседнего подъезда, которая уверяет, что она видела человека, похожего на фото из ориентировки. Она может быть права. Но может и ошибиться. Это надо проверять.

«БЫЛИ УВЕРЕНЫ, ЧТО БОЛЬШОЙ БРАТ ОШИБАТЬСЯ НЕ МОЖЕТ»

По версии эксперта Ашманова, в данном случае «сбой» мог произойти из-за того, что полицейские слепо доверились искусственному интеллекту:

- Те люди, возможно, были уверены, что система, Большой брат, ошибаться не может.

- Система распознавания лиц используется в Москве с 2018 года. Получается, за три года история кандидата наук Федора Ермошина - первый подобный скандал?

- Об этом случае узнали, потому что попавший в эту ситуацию человек написал пост в Фейсбуке и у него нашлось много друзей, которые сделали репосты. Думаю, таких случаев на самом деле было больше, просто до этого при подобном совпадении людей корректно проверяли, извинялись и отпускали. И никто не писал в соцсетях.

При этом, рассуждает эксперт, при настройке любой системы всегда есть риски «перекрутить» или «недокрутить».

- Наверное, если система ошибается, и не допускает вас к работе, например, с банковской картой, это одно. А если она из-за слишком высокого порога совпадения пропускает опасного преступника? Но в любом случае ложные срабатывания не так страшны, если система реагирования на них - адекватна, - говорит эксперт.

Буквально несколько слов от автора. Систему распознавания лиц можно сколько угодно ругать, но то, что она по-настоящему эффективна, даже доказывать не нужно. Приведу один пример. 17 лет назад, в 2004-м, в окрестностях подмосковной Апрелевки убили мужчину и женщину. Подозреваемые - семейная пара - сбежали и бесследно исчезли.

Дело казалось вечным глухарем. Но внезапно супругов обнаружила та самая система распознавания лиц. Мужчина и женщина с тех пор поменяли имена, фамилии, годы рождения и даже гражданство. Потом, живя уже в Краснодарском крае, получили российские паспорта. И вдруг машина нашла их, преступников из 2004-го, сопоставляя фотографии, которые подают граждане для получения тех или иных документов. Когда их задержали, провели ДНК-экспертизу с родственниками, стало ясно, что система творит просто невероятные вещи…

МНЕНИЕ АДВОКАТА И БЫВШЕГО СЛЕДОВАТЕЛЯ

«Человеческий фактор всегда будет влиять на цифровое развитие»

Известный адвокат Игорь Бушманов, в 90-е работавший следователем по особо важным делам Прокуратуры Московской области, считает, что в истории Ермошина сработал человеческий фактор.

- Безусловно, сама по себе система распознавания лиц - очень полезная система, которая внедряется по всему миру, - говорит. - И большое количество преступлений, совершенных в условиях неочевидности, сейчас раскрываются именно благодаря ей. Система выдает тот или иной результат, основываясь на биометрических данных тех или иных людей. Но как эти данные затем будут использоваться - это уже вопрос к правоприменителям. Если силовые действия вышли за рамки, должна назначаться служебная проверка и приниматься меры. (В МВД уже сообщили, что проверкой действий сотрудников полиции занимается Управление собственной безопасности, - Авт.). Хотим мы этого или нет, но человеческий фактор всегда будет влиять на цифровое развитие общества.

ЧИТАЙТЕ ТАКЖЕ

«А ты разве не Олег?!»: Кандидата наук задержали по фото из системы распознавания лиц, перепутав его с вором

Полицейские задержали кандидата наук Ермошина, перепутав его с вором из-за ошибки системы распознавания лиц (подробности)