Ошибка системы распознавания лиц привела к ложному обвинению женщины в краже.

Сеть магазинов Home Bargains установила программное обеспечение для распознавания лиц с целью выявления возвращающихся воров. К сожалению, система "Facewatch" допустила ошибку.

Представитель Facewatch, пожелавший остаться анонимным, сообщил BBC: "Мы признаем и понимаем, насколько неприятным мог быть этот опыт", добавив, что магазин, использующий их технологию, "прошел дополнительное обучение персонала".

Женщину обвинили в краже товаров на сумму около 10 фунтов стерлингов (около 13 долларов США) ("Все на меня смотрели"). Похожая ситуация повторилась 4 июня в другом магазине, когда она находилась на покупках со своей 81-летней матерью:

"Как только я переступила порог двери, они связались друг с другом по радиосвязи и окружили меня, требуя покинуть магазин", – рассказала она. "У меня упало сердце, и я волновалась за свою маму, потому что она была расстроена...".

Только после многочисленных писем в Facewatch и Home Bargains ей удалось выяснить, что 8 мая было получено сообщение о краже туалетной бумаги на сумму около 10 фунтов стерлингов. Ее фотография каким-то образом была распространена по местным магазинам, предупреждая их о том, что ей не следует разрешать вход. Госпожа Хоран проверила свой банковский счет, чтобы убедиться, что действительно оплатила товары, прежде чем Facewatch наконец ответила, сообщив, что проверка инцидента показала, что она ничего не украла. "Поскольку я была настойчива, я наконец-то добилась своего, но это было непросто, очень стрессово", – сказала она. "У меня было сильное беспокойство – это действительно играло с моим разумом, заставляя меня сомневаться в своих действиях в течение нескольких дней. Я чувствовала тревогу и тошноту. Меня выворачивало желудок в течение недели".

В одном из писем от Facewatch, которое увидела BBC, компания сообщила госпоже Хоран, что "опирается на информацию, предоставляемую магазинами", и что филиалы Home Bargains, участвовавшие в инциденте, были "отстранены от использования системы Facewatch". Мэделин Стоун, старший сотрудник по защите гражданских прав в группе Big Brother Watch, сообщила, что к ним обратилось более 35 человек, которые жаловались на то, что их ошибочно внесли в списки наблюдения систем распознавания лиц.

"Их ошибочно помечают как преступников", – сказала госпожа Стоун. "Им не предоставляют надлежащей правовой процедуры, их выгоняют из магазинов", – добавила старший сотрудник. "Это оказывает серьезное влияние". Группа теперь призывает к запрету этой технологии. "Исторически в Великобритании существует принцип, что ты невиновен, пока не доказано обратное, но когда вмешивается алгоритм, камера и система распознавания лиц, ты считаешься виновным".

Министерство науки, инноваций и технологий заявило: "Хотя коммерческое использование технологии распознавания лиц законно в Великобритании, оно должно соответствовать строгим законам о защите данных. Организации должны обрабатывать биометрические данные справедливо, законно и прозрачно, обеспечивая необходимость и соразмерность использования".

"Никто не должен оказаться в этой ситуации".