Dochodzenie Lordów dotyczące kradzieży w sklepach wymaga wprowadzenia przepisów dotyczących rozpoznawania twarzy

Lordowie wyrazili „poważne obawy” w związku ze stosowaniem technologii rozpoznawania twarzy na żywo (LFR) przez sprzedawców detalicznych i wzywają do wprowadzenia nowych przepisów zapewniających bezpieczne i etyczne korzystanie z niej przez prywatne firmy.

W maju 2024 r. Komisja Sprawiedliwości i Spraw Wewnętrznych Izby Lordów (JHAC) wszczęła dochodzenie w sprawie zwalczania kradzieży w sklepach, które częściowo skupiało się na tym, w jaki sposób policja i sprzedawcy detaliczni wykorzystują zarówno żywe, jak i retrospektywne rozpoznawanie twarzy (RFR) w celu zwalczania przestępczości detalicznej.

W następstwie dochodzenia JHAC już to zrobił pisemny do Ministerstwa Spraw Wewnętrznych, w którym szczegółowo opisuje swoje obawy dotyczące rozpoznawania twarzy w handlu detalicznym i wzywa rząd Wielkiej Brytanii do przedstawienia nowego ustawodawstwa określającego ogólne zasady i ustanawiającego minimalne standardy w zakresie korzystania z nowych technologii, zwłaszcza gdy są one wykorzystywane przez prywatne firmy do celów zapobiegania przestępczości .

Podkreślając fakt, iż sprzedawcy detaliczni często współpracują ze sobą w celu tworzenia zlokalizowanych baz danych i list obserwowanych znanych sprawców kradzieży w sklepach, Lordowie wyjaśnili, iż nie ma progu karnego, który wymagałby uwzględnienia ich w wykazie, co może prowadzić do szeregu problemów.

„Oznacza to, iż dana osoba może zostać umieszczona na prywatnej liście obserwowanych w zakresie rozpoznawania twarzy i na czarnej liście jej głównych ulic (oraz subskrybujących sprzedawców detalicznych w całym regionie) według uznania ochroniarza, bez konieczności sporządzania raportu policyjnego i bez informowania tej osoby, iż zostały dodane do listy obserwowanych” – powiedzieli Ministerstwu Spraw Wewnętrznych.

„Jesteśmy zaniepokojeni konsekwencjami skutecznej prywatyzacji policji, ukrytym charakterem decyzji podejmowanych na podstawie danych dopasowanych do wpisów w prywatnej bazie danych oraz brakiem możliwości odwołania się dla osób, które mogły zostać błędnie wprowadzone do rejestru bazy danych z powodu błędnej identyfikacji” – dodali.

„Jesteśmy zaniepokojeni potencjalnym RODO [General Data Protection Regulation] naruszeń oraz ryzyko błędnej identyfikacji ze względu na stronniczość i dyskryminację w obrębie algorytmów.”

Zagrożenia dla praw i wolności

Odnotowując dowody pochodzące od grupy kampanii Big Brother Watch, komisja podkreśliła, iż ​​unijna ustawa o sztucznej inteligencji „ogólnie zabrania” stosowania LFR ze względu na nadzwyczajne ryzyko, jakie stwarza ono dla praw i wolności jednostek, dodając, iż istnieje również ryzyko stronniczość i dyskryminacja ze względu na stosowane algorytmy, a badania wykazały, iż systemy są mniej dokładne w przypadku osób o ciemniejszej skórze.

Chwila komisja wysłuchała we wrześniu 2024 r. sprzedawców detalicznych iż LFR miałby ograniczone zastosowanie w walce z kradzieżami w sklepach ze względu na związane z tym kwestie bezpieczeństwa i etyki (które według niego można wyjaśnić w drodze nowego prawodawstwa pierwotnego), stwierdzili również, iż standardem powinna być kooperacja z policją w celu automatycznej identyfikacji przestępców po fakcie dzięki RFR praktyka.

Na przykład Paul Garrard, dyrektor ds. publicznych i sekretariatu zarządu Co-op Group, powiedział Lords, iż chociaż sama organizacja nie używa LFR do wykrywania kradzieży w sklepach w czasie rzeczywistym, to jednak przygotuje „pakiet dowodów” dla policji podczas zgłaszania kradzieży , które obejmie materiały takie jak kamery CCTV i nagrania z kamer noszonych na ciele personelu, które zostaną przejrzane dzięki systemu RFR.

Dodał, iż chociaż część policji pobierze zebrany materiał filmowy i porówna go ze zdjęciami zawartymi w Krajowej Bazie Danych Policji (PND), w której znajdują się miliony zdjęć zatrzymań, wiele z nich jest bezprawnie przetrzymywanych w Ministerstwie Spraw Wewnętrznych – w tej chwili nie jest standardową praktyką policji automatyczne sprawdzanie dostarczonych zdjęć w bazie danych.

W październiku 2023 r. rząd Wielkiej Brytanii uruchomił program partnerstwo biznesowo-policyjne pod nazwą Project Pegasusktórego część skupia się wokół 14 największych brytyjskich sprzedawców detalicznych – w tym M&S, Boots i Co-op – udostępniających siłom nagrania z kamer CCTV, aby mogły je przepuścić przez urządzenie PND dzięki systemu RFR.

Odnotowując „pozytywne kroki podjęte przez firmę Pegasus w celu zwalczania przestępczości zorganizowanej w handlu detalicznym”, JHAC stwierdził, iż z zadowoleniem przyjmie kontynuację programu – który koncentruje się szczególnie na aspektach kradzieży w sklepach związanych z przestępczością zorganizowaną, a nie na lokalnych lub płodnych przestępcach – dodając, iż powinien otrzymać kolejny rok finansowania Home Office.

„Zalecamy opracowanie ulepszonych systemów zgłaszania, aby przyspieszyć proces zgłaszania przestępstw policji przez sprzedawców detalicznych” – stwierdzono. „Obejmuje to wprowadzenie „flagi handlu detalicznego” umożliwiającej identyfikację w krajowej bazie danych policji i systemach zarządzania sprawami wymiaru sprawiedliwości w sprawach karnych, gdy przestępstwo miało miejsce w placówce detalicznej”.

Powtarzając wcześniejsze ustalenia

JHAC również to podkreśliło poprzednie dochodzenie prowadzone przez brytyjską policję w sprawie zaawansowanych technologii algorytmicznych – w tym rozpoznawanie twarzy i różne narzędzia do „przewidywania” przestępstw – które wykazały, iż technologia ta jest wdrażana bez dokładnego zbadania jej skuteczności lub wyników, przy czym policja i Ministerstwo Spraw Wewnętrznych zasadniczo „domyślają się tego na bieżąco”.

Następnie opisał sytuację jako „nowy Dziki Zachód”, charakteryzujący się brakiem strategii, odpowiedzialności i przejrzystości od góry do dołu. „Biorąc pod uwagę potencjalne koszty technologii oraz problemy, które mogą i wynikają z ich wdrażania, w tym w odniesieniu do praw do prywatności, wolności i dyskryminacji, uważamy, iż potrzebne są silniejsze ramy prawne, aby zapobiec szkodom dla praworządności” – stwierdza powiedział.

Krótkie dochodzenie uzupełniające przeprowadzone przez JHAC, w szczególności dotyczące stosowania LFR również przez policję znaleziony iż gwałtownie poszerzają zakres wykorzystania tej technologii bez odpowiedniej kontroli i odpowiedzialności oraz iż brakuje im jasnej podstawy prawnej do ich wdrożenia. Jednakże, – twierdził rząd w następstwie dochodzenia iż istnieją już „kompleksowe ramy prawne”.

„Podtrzymujemy nasze wcześniejsze zalecenie i uważamy, iż istnieje potrzeba uregulowania nowych technologii, szczególnie w odniesieniu do wykorzystania ich przez prywatne firmy do celów zapobiegania przestępczości” – powiedział JHAC Ministerstwu Spraw Wewnętrznych w swoim piśmie z zapytaniem dotyczącym kradzieży w sklepach. „Uważamy, iż takie podejście zapewniłoby równowagę między obawami, iż nadmiernie nakazowe prawo może stłumić innowacje, a potrzebą zapewnienia bezpiecznego i etycznego korzystania z technologii”.

„Computer Weekly” skontaktował się z Ministerstwem Spraw Wewnętrznych w sprawie ustaleń dochodzenia JHAC, w tym tego, czy w dalszym ciągu podtrzymuje stanowisko, iż istnieją już kompleksowe ramy regulujące stosowanie rozpoznawania twarzy.

„Rekordowo wysoki poziom kradzieży w sklepach” – powiedział rzecznik Home Office. „Ten rząd podejmuje zdecydowane działania, usuwając próg 200 funtów dla kradzieży w sklepach o niskiej wartości i czyniąc z niej szczególne przestępstwo za napaści na pracowników sklepów. Technologia rozpoznawania twarzy jest ważnym narzędziem pomagającym policji identyfikować przestępców i doprowadzać ich przed wymiar sprawiedliwości. Stale sprawdzamy jego wykorzystanie, aby zapewnić bezpieczeństwo na naszych ulicach i przywrócić zaufanie społeczne do naszej policji”.

Zarówno Parlament, jak i społeczeństwo obywatelskie wielokrotnie wzywały do ​​stworzenia nowych ram prawnych regulujących wykorzystanie danych biometrycznych przez organy ścigania – w tym dwóch byłych brytyjskich komisarzy ds. biometrii, Pawła Wilesa I Frasera Sampsona; jakiś niezależna opinia prawna autor: Matthew Ryder QC; the Brytyjska Komisja ds. Równości i Praw Człowieka; i Komisja Nauki i Technologii Izby Gminw którym wezwano do moratorium na LFR już w lipcu 2019 r.

Podczas swojej poprzedniej kadencji rezygnację w październiku 2023 rpodkreślił również Sampson brak jasności co do skali i zakresu nadzoru przestrzeni publiczneja także obawy dotyczące ogólna „kultura przechowywania” w brytyjskiej policji dotycząca danych biometrycznych.