Biuro prokuratora miasta San Francisco pozywa 16 najczęściej odwiedzanych witryn internetowych „rozbierających” opartych na sztucznej inteligencji, często wykorzystywanych do tworzenia nagich deepfake’ów kobiet i dziewcząt bez ich zgody. precedensowy pozewogłoszono w konferencja prasowa radcy prawnego miasta Davida Chiupodaje, że w samym pierwszym półroczu 2024 roku docelowe strony internetowe odwiedzono łącznie ponad 200 milionów razy.
Obraźliwe strony internetowe pozwalają użytkownikom na przesyłanie zdjęć prawdziwych, w pełni ubranych osób, które są następnie cyfrowo „rozbierane” za pomocą narzędzi AI, które symulują nagość. Jedna z tych stron internetowych, która nie została zidentyfikowana w skardze, podobno reklamuje: „Wyobraź sobie marnowanie czasu na zabieranie jej na randki, kiedy możesz po prostu użyć [the redacted website] żeby zdobyć jej akty.”
Operatorzy stron internetowych są oskarżeni o naruszenie przepisów stanowych i federalnych zakazujących pornografii zemsty, pornografii deepfake i pornografii dziecięcej, a także kalifornijskiego prawa o nieuczciwej konkurencji, ponieważ „szkoda, jaką wyrządzają konsumentom, znacznie przewyższa wszelkie korzyści związane z tymi praktykami”, zgodnie z treścią pozwu. Pozew ma na celu nałożenie kar cywilnych, oprócz wyłączenia stron internetowych i trwałego uniemożliwienia ich dostawcom tworzenia przyszłej pornografii deepfake.
„To śledztwo zaprowadziło nas do najciemniejszych zakątków internetu i jestem przerażona losem kobiet i dziewcząt, które musiały znosić to wykorzystywanie” Chiu powiedział na X„To duży, wieloaspektowy problem, który my, jako społeczeństwo, musimy rozwiązać jak najszybciej”.