Rodziny mogą pozwać twórcę aplikacji za złamanie obietnicy przeciwdziałania znęcaniu się

Sąd apelacyjny wznowił proces przeciwko anonimowej usłudze przesyłania wiadomości Yolo, która rzekomo złamała obietnicę zdemaskowania prześladowców w aplikacji. W orzeczenie wydane w czwartekSąd Apelacyjny Dziewiątego Okręgu stwierdził, że Sekcja 230 Communications Decency Act nie powinna blokować roszczenia, że ​​Yolo błędnie przedstawiło swoje warunki korzystania z usługi, uchylając decyzję niższej instancji. Jednak orzekł, że aplikacja nie może być pociągnięta do odpowiedzialności za domniemane wady projektowe, które umożliwiły nękanie, pozwalając, aby inna część tego wcześniejszego orzeczenia pozostała w mocy.

Yolo była aplikacją zintegrowaną ze Snapchatem, która umożliwiała użytkownikom wysyłanie anonimowych wiadomości, ale w 2021 r. uderzony pozwem po tym, jak nastoletni użytkownik popełnił samobójstwo. Chłopiec, Carson Bride, otrzymał nękające i seksualnie jednoznaczne wiadomości od anonimowych użytkowników, które — jak sądził — prawdopodobnie znał. Bride i jego rodzina próbowali skontaktować się z Yolo w celu uzyskania pomocy, ale Yolo rzekomo nigdy nie odpowiedział, a w niektórych przypadkach wiadomości e-mail do firmy po prostu wracały. Snap zakazano Yolo i innej aplikacji będący celem pozwu i rok później zakazano pełna integracja anonimowych wiadomości.

Rodzina Bride i grupa innych poszkodowanych rodziców argumentowała, że ​​Yolo złamało prawnie wiążącą obietnicę złożoną swoim użytkownikom. Wskazywali na powiadomienie, w którym Yolo twierdziło, że osoby zostaną zbanowane za niewłaściwe użycie i zdeanonimizowane, jeśli wyślą „nękające wiadomości” do innych. Jednak, jak podsumowano w orzeczeniu, powódki argumentowały, że „przy zespole nie większym niż dziesięć osób Yolo nie było w stanie monitorować ruchu dziesięciu milionów aktywnych użytkowników dziennie, aby dotrzymać obietnicy, i w rzeczywistości nigdy tego nie zrobiło”. Ponadto twierdziły, że Yolo powinno wiedzieć, że jego anonimowa konstrukcja ułatwia nękanie, co czyni ją wadliwą i niebezpieczną.

Niższy sąd oddalił oba te roszczenia, stwierdzając, że zgodnie z paragrafem 230 Yolo nie może ponosić odpowiedzialności za posty swoich użytkowników. Sąd apelacyjny był bardziej wyrozumiały. Przyjął argument, że rodziny zamiast tego obarczały Yolo odpowiedzialnością za obietnicę użytkownikom czegoś, czego nie mogło dostarczyć. „Yolo wielokrotnie informowało użytkowników, że zdemaskuje i zbanuje użytkowników, którzy naruszą warunki korzystania z usługi. Jednak nigdy tego nie zrobiło i prawdopodobnie nigdy nie miało takiego zamiaru”, pisze sędzia Eugene Siler Jr. „Chociaż tak, treść online jest zaangażowana w te fakty, a moderowanie treści jest jednym z możliwych rozwiązań dla Yolo, aby spełnić swoją obietnicę, podstawowym obowiązkiem… jest sama obietnica”.

Pozew Yolo opierał się na poprzednim orzeczeniu Dziewiątego Okręgu, które pozwoliło innemu pozwowi związanemu ze Snapem ominąć tarczę Sekcji 230. W 2021 r. orzeczono, że Snap może zostać pozwany dla „filtra prędkości”, który mógłby implicite zachęcać użytkowników do nieostrożnej jazdy, nawet jeśli użytkownicy byli odpowiedzialni za publikowanie postów z tym filtrem. (Ogólny przypadek nadal trwa.) Oprócz roszczenia o wprowadzenie w błąd, powódki argumentowały, że możliwość wysyłania anonimowych wiadomości przez Yolo była równie ryzykowna, czego nie kupił Sąd Apelacyjny Dziewiątego Okręgu — „odmawiamy poparcia teorii, która klasyfikowałaby anonimowość jako samo w sobie z natury nieuzasadnione ryzyko” — napisał Siler.

To ostatnie orzeczenie jest częścią rozszerzonego push-and-pull w zakresie sekcji 230. W kilku przypadkach starano się twierdzić, że aplikacje są nielegalnie wadliwe, jeśli prowadzą do nękania lub innych szkód, nawet jeśli szkody te zostały popełnione przez użytkowników. Pomimo okresowych zwycięstwjest to wciąż dalekie od ugruntowanej doktryny, a Sąd Najwyższy odmówił rozpatrzenia jej ten Herrick kontra Grindr sprawa w 2019 r. Sąd Najwyższy również odmówił ograniczenia sekcji 230 w sprawie dotyczącej tego, czy YouTube i Twitter wspierają nielegalny terroryzm. Po tym orzeczeniu Dziewiątego Okręgu Yolo nadal może się bronić, że rozsądnie próbowało wyegzekwować umowę użytkownika, a sprawa się nie zakończyła.

Mimo to umożliwienie użytkownikom pozywania firmy za nieprzestrzeganie jej polityki dotyczącej treści teoretycznie mogłoby umożliwić pozwy sądowe przeciwko niemal każdej usłudze, która jej nie stosuje (często niemożliwe) doskonała moderacja. Dziewiąty Okręg twierdzi, że nie to robi. „Dzisiejsza decyzja nie rozszerza odpowiedzialności firm internetowych ani nie sprawia, że ​​wszystkie naruszenia ich własnych warunków korzystania z usług stają się roszczeniami podlegającymi dochodzeniu” — pisze Siler. „Ze względu na nasze ostrzeżenie, aby zapewnić [Section] „Jeśli ustawa 230 zostanie w pełni wdrożona, musimy oprzeć się wynikającej z tego chęci rozszerzenia immunitetu poza parametry ustalone przez Kongres, a tym samym stworzenia swobodnej immunitetu dla firm technologicznych”.