Kiedy Ian Clayton, emerytowany specjalista ds. zdrowia i bezpieczeństwa z Chester, wpadł do Home Bargains pewnego lutowego poranka w porze lunchu, nagle podszedł do niego surowo wyglądający członek personelu.
„Przepraszam, czy mógłbyś teraz wszystko odłożyć i opuścić sklep?” powiedziała. Clayton przypomniał sobie, jak był oszołomiony i dopiero gdy energicznie przechodził obok kas w kierunku wyjścia, zatrzymał się, by zapytać, co zrobił.
„Trafiłeś do naszego systemu o nazwie Facewatch jako złodziej sklepowy” – nadeszła odpowiedź. „W oknie wisi plakat”. Następnie został sam przed sklepem z kodem QR do zeskanowania i nie miał pojęcia, co się stało.
Ian Clayton przed sklepem Home Bargains, gdzie został oskarżony o kradzież. Zdjęcie: Christopher Thomond/The Guardian
Jest jedną z wielu osób, które rozmawiały z „The Guardian” po tym, jak zostały fałszywie zidentyfikowane jako złodziej przez sklepy korzystające z Facewatch – systemu rozpoznawania twarzy na żywo wdrażanego w Wielkiej Brytanii w celu zwalczania przestępczości w handlu detalicznym.
Na stronie internetowej firmy twierdzi się, że jej system charakteryzuje się dokładnością na poziomie 99,98%, a w zeszłym miesiącu wysłała 50 288 alertów o „znanych przestępcach” do sklepów, w tym B&M, Home Bargains, Sports Direct, Farm Foods i Spar, które obecnie korzystają z tego oprogramowania.
Jednak ci, którzy zostali błędnie zidentyfikowani i zmuszeni do opuszczenia sklepów – albo przez samą technologię, albo przez błąd ludzki – twierdzą, że nie otrzymali żadnego wsparcia i nie wiedzieli, jak złożyć skargę na swoje traktowanie lub udowodnić swoją niewinność.
Clayton (67 l.) powiedział, że po tym, jak wyrzucono go z Home Bargains, próbował zadzwonić pod numer podany na plakacie na Facewatchu, po czym otrzymał wiadomość, że firma nie odbiera połączeń i zamiast tego musiał wysłać e-mail.
Odpowiedzi mógł uzyskać dopiero po złożeniu wniosku o dostęp do tematu – formalnego wniosku na mocy przepisów o ochronie danych osobowych – który ujawnił, że podczas poprzedniej wizyty w sklepie został błędnie powiązany z incydentem kradzieży w sklepie.
„To było tak, jakbym był winny, dopóki nie udowodniono mi niewinności. To okropne uczucie. Pozostawia ucisk w żołądku i kiedy teraz patrzę wstecz, znów to czuję” – powiedział.
„To bardzo orwellowskie wrażenie. Ciągle jesteśmy nagrywani i umieszczani w tych systemach, ale czy powinniśmy tam być? To jak szpiegowanie bez powodu. Jestem teraz bardzo świadomy obecności kamer wszędzie, jestem ich tak bardzo świadomy. „
Ostatecznie Home Bargains przeprosiło go i przyznało mu kupon o wartości 100 funtów w ramach „gestu dobrej woli bez wstępu”, pod warunkiem, że szczegóły zdarzenia pozostaną poufne. Clayton odmówił: „Pomyślałem tylko: «Naprawdę próbujesz kupić moje milczenie?»”.
W miarę upowszechniania się rozpoznawania twarzy w policji i sklepach detalicznych brytyjscy komisarze ds. biometrii ostrzegają, że nadzór krajowy pozostaje daleko w tyle za szybkim rozwojem tej technologii.
W zeszłym roku Ministerstwo Spraw Wewnętrznych przyznało, że kamery do rozpoznawania twarzy częściej niż ich białe odpowiedniki wykrywają nieprawidłowo osoby rasy czarnej i Azjatów, a także częściej kobiety niż mężczyzn, przy czym przeprowadzono sprzeczne badania dotyczące ich ogólnej dokładności.
Warren Rajah powiedział, że technologia ta narusza prawa obywatelskie ludzi
Warren Rajah, specjalista ds. strategii danych z południowego Londynu, został poproszony o odłożenie koszyka i opuszczenie lokalnego sklepu Sainsbury’s po tym, jak powiedziano mu, że w lutym pojawił się w systemie Facewatch.
„Dla mnie jest to kwestia praw obywatelskich, w którą powoli wkraczamy, ponieważ jeśli zostaniesz usunięty bez pytania, będzie to miało wpływ na twoje prawa obywatelskie” – powiedział.
„Żyjemy już w kraju, który ma problemy z rasizmem, jest to problem nieunikniony. Wiemy, że kamery nie są w stanie uchwycić z taką samą dokładnością cech osób o ciemniejszych rysach. Może się to zdarzyć osobom znacznie bardziej bezbronnym ode mnie.”
W Londynie realizowany jest pilotażowy program rozpoznawania twarzy. Zdjęcie: Alicia Canter/The Guardian
Stwierdził, że ma poważne obawy dotyczące wdrożenia tej technologii w policji, a także w sektorze detalicznym.
„Kto reguluje te firmy i czy można im ufać w zakresie naszych informacji? A co ważniejsze, nikt tak naprawdę nie zdefiniował, z czego można skorzystać, gdy coś pójdzie nie tak” – powiedział.
Po niezliczonych e-mailach w końcu dowiedział się, że nie ma go w systemie baz danych Facewatch, a pracownicy błędnie go zidentyfikowali. W ramach przeprosin zaproponowano mu bon o wartości 75 funtów – kiedy stwierdził, że nie czuje się komfortowo, wracając do sklepu, polecono mu skorzystać z niego online.
Jennie Sanders, lat 48, z Birmingham, przeglądała B&M w sobotnie popołudnie zeszłego roku, kiedy ochroniarz powiedział jej, że została oznaczona w systemie Facewatch i musiał ją eskortować po sklepie, aby sprawdzić, czy nie kradnie.
Jennie Sanders została eskortowana z oddziału B&M ze względu na technologię rozpoznawania twarzy. Zdjęcie: Andrew Fox/The Guardian
„Byłam naprawdę zdenerwowana. To było przed mnóstwem ludzi i było mi naprawdę wstyd. Powiedziałam, że chcę wyjść, a on wyprowadził mnie ze sklepu” – powiedziała.
„To było przerażające, ale jeszcze bardziej przerażające było to, że kiedy wróciłem do domu i zacząłem przeglądać Facewatch, zobaczyłem, że dzielą się informacjami między wieloma sprzedawcami detalicznymi.
„Pomyślałam: «W każdym sklepie będę traktowana jak złodziej. Już nigdy więcej nie będę mogła zrobić zakupów osobiście»”.
Powiedziano jej, że musi wysłać kopię paszportu do Facewatch, aby potwierdzić swoją tożsamość, zanim dowie się, że w systemie figurowała za kradzież butelki wina z B&M, co jej zdaniem nigdy się nie wydarzyło.
B&M powiedział jej, że nie ma już żadnych dowodów, w tym nagrań z telewizji przemysłowej z tamtego dnia, więc usunięto ją z systemu i zaoferowano kupon o wartości 25 funtów.
„Wziąłem kilka dni wolnego w pracy, byłem całkowicie nieprzytomny. Dlaczego bez mojej wiedzy znalazłem się w bazie danych przestępców?” powiedziała. „Nigdy więcej nie wejdę do B&M. W ogóle staram się trzymać z daleka od miejsc z kamerami – to naprawdę na mnie wpływa”.
Brytyjscy komisarze ds. biometrii ostrzegają, że nadzór pozostaje daleko w tyle za szybkim rozwojem tej technologii. Zdjęcie: Leon Neal/Getty Images
Sanders powiedziała, że złożyła skargę do Biura Komisarza ds. Informacji (ICO), formalnego organu monitorującego sposób wykorzystywania danych osobowych w technologii rozpoznawania twarzy, ale siedem miesięcy później nie otrzymała odpowiedzi.
Dodała: „Kazano nam składać skargi i wysyłać całą korespondencję do komisarza ds. informacji, ale on do ciebie nie dociera. Co się do cholery dzieje z jakąkolwiek odpowiedzią dla ofiar tego zjawiska?”
Radża również rozważał złożenie skargi do ICO, ale nie mógł znaleźć żadnych informacji, jak to zrobić.
„Są takie bezzębne” – powiedział. „A ten problem został dobrze zgłoszony, ale nie opublikowano formalnego procesu składania skarg. Gdzie jest ta informacja? Jak możesz złożyć skargę, skoro nie ma innej drogi?”
Rzecznik Sainsbury’s powiedział: „Szczerze przeprosiliśmy pana Rajaha za jego doświadczenia w naszym sklepie Elephant and Castle. Nie był to problem związany z używaną technologią rozpoznawania twarzy, ale przypadek, w którym zwrócono się do niewłaściwej osoby w sklepie.
„System Facewatch charakteryzuje się dokładnością na poziomie 99,98%, a wszystkie mecze są sprawdzane przez przeszkolonych menedżerów, a po tym incydencie zapewniane jest dodatkowe szkolenie, aby zapewnić konsekwentne przestrzeganie naszych zabezpieczeń”.
Nick Fisher, dyrektor naczelny Facewatch, powiedział: „Jesteśmy świadomi poruszonych kwestii i w każdym przypadku zareagowaliśmy niezwłocznie, gdy tylko skontaktowali się oni z zespołem ds. ochrony danych Facewatch.
„Przypadki te dotyczą raczej błędu ludzkiego w sposobie realizacji procesów w sklepie, a nie jakiejkolwiek awarii technologii Facewatch. Przykro nam, że te osoby doświadczyły wyzwań podczas zakupów i rozumiemy, dlaczego byłoby to denerwujące.
„Te trzy błędy są niezwykle rzadkimi przypadkami, jeśli spojrzeć na nie w kontekście ponad 500 000 alertów, które każdego roku wysyłamy do sprzedawców detalicznych, ale zdajemy sobie sprawę, że każdy błąd jest przykry dla danej osoby. System został zaprojektowany tak, aby wspierać, a nie zastępować proces podejmowania decyzji przez człowieka. „
Rzecznik ICO powiedział: „Zdajemy sobie sprawę, jakie szkody i zdenerwowanie może spowodować błędna identyfikacja. Z tego powodu korzystanie z technologii rozpoznawania twarzy musi być ściśle zgodne z przepisami o ochronie danych i postępować z nią ostrożnie i przejrzyście.
„Jeśli ktoś ma wątpliwości dotyczące sposobu gromadzenia, wykorzystywania lub udostępniania jego danych, a wątpliwości tych nie można rozwiązać bezpośrednio ze sprzedawcą, ma prawo złożyć do nas skargę.
„Nadal aktywnie regulujemy tę dziedzinę i będziemy publikować dalsze wytyczne dotyczące handlu detalicznego, aby pomóc sprzedawcom detalicznym w zrozumieniu i wypełnianiu ich obowiązków w zakresie ochrony danych, przy jednoczesnym zapewnieniu odpowiedniej ochrony społeczeństwa”.
Home Bargains i B&M odmówiły komentarza.
