Система распознавания лиц обвинила китаянку в нарушении ПДД из-за баннера с ее портретом на автобусе

Необычный казус с системой распознавания лиц произошел на днях в китайском городе Нинбо – алгоритм уличил местную предпринимательницу Донг Минчжу в переходе дороги в неположенном месте, хотя она не совершала такого нарушения, сообщает Abacus.

О совершенном Минчжу правонарушении стало известно, когда ее лицо вместе с неправильно написанным именем и фрагментом номера ее удостоверения личности появилось на публичных экранах, демонстрирующих прохожим портреты нарушителей ПДД или изображения их машин. Однако в этот раз система ошибочно опознала предпринимательницу по баннеру с ее фотографией на борту местного автобуса: в прошлом году Донг Минчжу стала самой влиятельной бизнесвумен Китая по версии Forbes и прославилась тем, что за 26 лет ни разу не брала выходного, сообщает The Verge.

Вскоре местная полиция признала ошибку и сообщила, что разработчики обновили систему, чтобы избежать повторения таких ситуаций.

Отметим, что системы распознавания лиц внедряются в Китае повсеместно и активно используются для фиксации нарушений и поиска преступников. При этом китайские системы или их аналоги, действующие в других странах, пока что не могут похвастать идеальной точностью работы. Так, летом этого года активистами Американского Союза гражданских свобод (ACLU) протестировали систему распознавания лиц от компании Amazon, которой уже пользуются полицейские в некоторых штатах.

В рамках тестирования в систему были загружены фотографии всех 535 конгрессменов США, которые алгоритм сравнивал с публичной базой из 25 тысяч фотографий подозреваемых в преступлениях. Хотя снимков членов Конгресса не было в этой базе, система выдала 28 ошибочных совпадений. В Amazon ошибки связали с недостаточной калибровкой, отметив, что в ACLU использовали систему с выставленной по умолчанию вероятностью совпадения в 80%, тогда как компания рекомендует правоохранителям повышать этот параметр до 95%.


ССЫЛКИ ПО ТЕМЕ