Gizmodo wypuścił głęboko zanurzony wygląd w proces zbierania danych za jego współzgłoszone dochodzenie z Znacznik w PredPol, firmę programistyczną specjalizującą się w predykcyjnym policji (stąd nazwa, którą od tego czasu zmieniła na Geolitica) poprzez uczenie maszynowe.
Algorytm PredPol ma dokonywać prognoz na podstawie istniejących doniesień o przestępstwach. Ponieważ jednak przestępstwa nie są wszędzie zgłaszane w równym stopniu, odczyty, jakie zapewnia organom ścigania, mogą po prostu kopiować uprzedzenia w zgłaszaniu w każdym obszarze. Jeśli policja użyje tego, aby zdecydować, gdzie patrolować, może skończyć nadmiernie pilnując obszarów, które nie wymagają większej obecności.
Kiedy Gizmodo oraz Znacznik ocenili obszary, odkryli, że miejsca, w których oprogramowanie PredPol ukierunkowane na wzmożone patrole „było bardziej prawdopodobne, aby być domem dla Murzynów, Latynosów i rodzin, które kwalifikowałyby się do federalnego programu bezpłatnego i zredukowanego lunchu”.
Nawet gdy taktyki policyjne ewoluowały, aby uwzględniać dane dotyczące przestępstw i aresztowań, istniała historyczna rozbieżność w sposobie, w jaki te taktyki wpływają na społeczności kolorowe. Jak Gizmodo wskazuje w swojej analizie, że w Nowym Jorku w latach 90. badacze w tamtym czasie odkryli, że metody ograniczały przestępczość, nie przesuwając jej po prostu na inne obszary. Jednak podejście to zawierało taktyki, takie jak zatrzymanie się i przeszukanie, które zostały skrytykowane jako naruszenie praw obywatelskich.
Algorytm PredPol został już zbadany i wielokrotnie krytykowany przez naukowców. Jak Wice cytował Suresha Venkatasubamaniana, członka rady dyrektorów ACLU Utah, w 2019 r.:
„Ponieważ te dane są gromadzone jako produkt uboczny działalności policji, przewidywania dokonane na podstawie wzorców wyciągniętych z tych danych nie odnoszą się ogólnie do przyszłych przypadków przestępstw” – zauważa Venkatasubramanian. „W tym sensie predykcyjna policja jest trafnie nazwana: przewiduje przyszłe działania policyjne, a nie przyszłe przestępstwa”.
Mimo to nie było tak dokładnego śledztwa jak to. W dochodzeniu wykorzystano liczby pozyskane z danych publicznych dostępnych w Internecie. Według Gizmodo oraz Znacznik, znaleźli niezabezpieczoną bazę danych w chmurze powiązaną ze stroną internetową Departamentu Policji Los Angeles. Dane te zawierały miliony prognoz z kilku lat wstecz.
Oprócz rzekomego przewidywania poszczególnych przestępstw, raport z 2018 r. autorstwa: Pogranicze przyjrzał się finansowanym przez Pentagon badaniom założyciela PredPol, Jeffa Brantinghama, dotyczących wykorzystania oprogramowania do przewidywania przestępstw związanych z gangami. Były profesor antropologii na Uniwersytecie Kalifornijskim w Los Angeles zaadaptował wcześniejsze badania dotyczące prognozowania ofiar na polach bitew w Iraku, aby stworzyć platformę, a artykuł — „Partially Generative Neural Networks for Gang Crime Classification with Partial Information” — wzbudził zaniepokojenie etycznymi implikacjami.
Krytycy twierdzą, że takie podejście może wyrządzić więcej szkody niż pożytku. „Robisz algorytmy z fałszywej narracji, która została stworzona dla ludzi — dokumentacja gangów to stan określający ludzi według tego, w co wierzą… Kiedy podłączysz to do komputera, każde przestępstwo będzie związane z gangami, ” aktywista Aaron Harvey powiedział Pobocze.
Poleganie na niektórych algorytmach może działać magicznie w niektórych branżach, ale ich wpływ może mieć rzeczywisty koszt ludzki. Przy złych danych lub niewłaściwych parametrach wszystko może szybko pójść nie tak, nawet w okolicznościach mniej napiętych niż działania policji. Nie szukaj dalej niż ostatnio Zillow muszę się zamknąć jego operacja przewracania domu po utracie setek milionów dolarów pomimo „modele cenowe i automatyzacja” myślał, że zapewni przewagę.
Ogólnie, Gizmodo oraz Znacznik‘s raportowanie jest dobrym rozważeniem tego, jak znacząco algorytmy predykcyjne mogą wpłynąć na osoby, które nieświadomie są przez nie kierowane. ten towarzysząca analiza za pomocą Gizmodo zapewnia odpowiedni wgląd w dane, jednocześnie dając czytelnikom zakulisowe spojrzenie na te środki. Raport wskazuje, że 23 z 38 śledzonych organów ścigania nie są już klientami PredPol, mimo że początkowo zarejestrowały się w nim, aby pomóc w dystrybucji środków zapobiegających przestępczości. Być może, stosując metody budujące przejrzystość i zaufanie po obu stronach, organy ścigania mogłyby spędzać mniej czasu na technologii, która prowadzi do takich elementów, co wskazuje na dokładnie odwrotne podejście.