Policja brytyjska nie ma zasobów, aby właściwie kontrolować swoje wdrożenia nowych technologii algorytmicznych i otrzymuje bardzo mało szkoleń na temat obsługi wprowadzonych systemów, powiedzieli Lords starsi funkcjonariusze policji i personel.
Przemawiam do Komisji Spraw Wewnętrznych i Sprawiedliwości Lordów, która: wszczął dochodzenie w sprawie wykorzystania zaawansowanych narzędzi algorytmicznych przez organy ścigania w maju 2021 r. główny doradca naukowy policji w Krajowej Radzie Komendantów Policji (NPCC), Paul Taylor, zwrócił uwagę na sprzeczne interesy między siłami policyjnymi a dostawcami technologii.
„Aby móc dostatecznie przeanalizować te nowe technologie i wszystkie kombinacje, aby móc w 100% powiedzieć, co one robią, a czego nie robią, wymagamy poziomu zasobów, których po prostu nie mamy – ilości testów i testów a testowanie, którego można by potrzebować, po prostu nie istnieje” – powiedział.
„Jeśli zwrócę się do przemysłu i powiem »Będę cię pociągać do odpowiedzialności«, będą chcieli przeprowadzić taki poziom testów, który prawdopodobnie sprawi, że inwestycja w tę technologię nie będzie już opłacalna; nie jest to dla nich interesujący produkt.
„Tam jest napięcie [because] nie chcemy zdusić rynku, mówiąc, że musisz to wszystko zrobić [testing], ale tak samo oczywiście potrzebujemy ich do tego, więc jest to dla nas prawdziwe wyzwanie” – powiedział Taylor.
Dodał, że częścią problemu jest to, że policja często bierze dość dojrzałą technologię i próbuje ją wdrożyć w kontekście policyjnym, do którego nie została wyraźnie zaprojektowana.
„Moim zdaniem zakupy naprawdę muszą być znacznie bardziej upstream, abyśmy współpracowali z dostawcami – czy to ze środowiskiem akademickim, czy z branżą – aby podczas opracowywania swoich produktów, na znacznie wcześniejszym etapie, myśleli o kwestiach uczciwość i jak to będzie działać w policji, a oni projektują rzeczy, które pasują” – powiedział.
komisje etyki
Taylor dodał ponadto, że wiele z 43 sił w Anglii i Walii ustanowiło komisje etyczne, które konkretnie zajmują się wprowadzaniem i działaniem nowych technologii, czemu jego rola jako głównego naukowca zapewnia dodatkową warstwę niezależnej kontroli.
Wspólny lider ds. danych i bioetyki w Stowarzyszeniu Komisarzy Policji i Przestępczości (APCC), Alun Michael, powiedział, że kontrolę zapewniają również komisarze policji i ds. Przestępczości (PCC), wybrane stanowisko wprowadzone przez ustawę o reformie policji i odpowiedzialności społecznej z 2011 r. uczynić siły policyjne bardziej odpowiedzialnymi przed lokalnymi społecznościami.
David Tucker z wydziału ds. przestępczości i wymiaru sprawiedliwości w sprawach karnych w College of Policing powiedział, że na Systemy ogólnopolskie, takie jak Police National Computer (PNC) i Police National Database (PNC), nie mają szkolenia w zakresie większości innych technologii, takich jak rozpoznawanie twarzy, ponieważ są one zamawiane lokalnie.
„Istnieją krajowe programy szkoleniowe dla tych, ponieważ są to produkty krajowe” – powiedział. „W przypadku większości innych technologii są one nabywane lokalnie, więc nie jest to coś, co Kolegium [of Policing]jako krajowy dostawca szkoleń mógłby to zrobić”.
Dodał, że „w rzeczywistości jest bardzo mało obowiązkowych szkoleń w zakresie policji” i że niezależnie od tego, czy szkolenie jest zaprojektowane i prowadzone na szczeblu krajowym, czy lokalnym, nauczanie wszystkich brytyjskich funkcjonariuszy policji opiera się na „odpowiedzialności, przejrzystości, etyce”. [and] legalność”.
Zarówno Tucker, jak i Taylor dodali, że szkolenia są jednak zapewniane przez samych dostawców technologii.
Powołując się na brak jasności, Lords zażądał pełnego podziału „drzewa genealogicznego organizacji” – w tym PCC, NPCC, APCC, różnych krajowych komitetów koordynacyjnych i nie tylko – które są odpowiedzialne za działanie nowych technologii w policji.
Wprowadzanie lepszej kontroli poprzez praktyki zakupowe
W Wielkiej Brytanii władze publiczne są zobowiązane na mocy Obowiązku Równości w Sektorze Publicznym (PSED) do rozważenia, na przykład, w jaki sposób ich polityka i praktyki mogą być dyskryminujące. Jednak ponieważ prywatne firmy, od których te organy zamawiają technologie, często chcą chronić swoją własność intelektualną i tajemnice handlowe, mogą istnieć sprzeczne interesy.
Na przykład w sierpniu 2020 r. policja Południowej Walii użycie technologii rozpoznawania twarzy na żywo zostało uznane przez Sąd Apelacyjny za niezgodne z prawem, po części ze względu na fakt, że siły nie zastosowały się do swoich PSED.
Zostało to odnotowane w osąd że producent w tym przypadku – japońska firma biometryczna NEC – nie ujawnił SWP szczegółów swojego systemu, co oznacza, że siła nie mogła w pełni ocenić technologii i jej skutków.
W październiku 2021 r. komisja wysłuchała Sandry Wachter, profesor nadzwyczajny i starszy pracownik naukowy na Uniwersytecie Oksfordzkim, że chociaż należy zachować równowagę między interesami komercyjnymi a przejrzystością, ludzie mają prawo wiedzieć, w jaki sposób podejmowane są decyzje zmieniające ich życie.
„Kiedy ludzie nie chcą ci powiedzieć jak [an algorithm] działa, bo albo nie chcą, albo nie wiedzą” – powiedziała. „Nie sądzę, żeby to było do zaakceptowania, zwłaszcza w sektorze sądownictwa karnego.
„Kiedy ludzie mówią, że chodzi tylko o tajemnice handlowe, nie sądzę, aby była to akceptowalna odpowiedź. Ktoś musi zrozumieć, co się naprawdę dzieje. Uważam, że pomysł, że wolność i wolność może być ominięta przez interesy komercyjne, byłby nieodpowiedzialny – zwłaszcza jeśli istnieje sposób na znalezienie dobrego środka, w którym można w pełni zrozumieć, co robi algorytm… bez ujawniania wszystkich tajemnic handlowych. ”
Wprowadzając lepsze praktyki zakupowe do policji, Tucker powiedział, że siły muszą być „inteligentnymi klientami”, rozumiejąc problem, który próbują rozwiązać, i sposób, w jaki technologia przyczyni się do tego procesu rozwiązywania problemów.
„Tam, gdzie nie można zrobić tego testu z wyprzedzeniem, tam [needs to be] jasne punkty odniesienia, aby można było przeprowadzić ocenę i aby ludzie mogli ocenić, czy ta technologia zapewnia to, co powinna zapewnić” – powiedział.
Przemawiając do tej samej komisji w październiku 2021 r.Karen Yeung, interdyscyplinarna profesor prawa, etyki i informatyki w Birmingham Law School, powiedziała, że kluczową kwestią we wdrażaniu przez policję nowych technologii jest to, że władze zaczęły ich używać „tylko dlatego, że możemy… bez wyraźnych dowodów” na temat ich skuteczności lub wpływy.
Takie technologie obejmują rozpoznawanie twarzy i narzędzia „przewidywania” przestępczości algorytmicznej tak jak Matryca gangów MPS lub Narzędzie oceny ryzyka w Durham Constabulary.
Yeung zauważył ponadto, że wykorzystanie takich technologii przez policję, zwłaszcza bez rygorystycznych testów naukowych, może masowo utrwalić istniejące rozbieżności we władzy w społeczeństwie, ponieważ „w rzeczywistości mieliśmy tendencję do korzystania z posiadanych danych historycznych, a my mają dane w masach, głównie o ludziach z niższych środowisk społeczno-ekonomicznych”.